🔐 Компания OpenAI выявила проблему безопасности, связанную с инструментом стороннего разработчика, и заявила, что доступ к пользовательским данным не осуществлялся ↗
Компания OpenAI заявила, что взломанный сторонний инструмент для разработчиков повлиял на процесс сертификации её приложений для macOS как легитимных. Компания сообщила, что не обнаружила никаких доказательств доступа к пользовательским данным, взлома её систем или интеллектуальной собственности, а также изменения программного обеспечения — что является ключевым моментом. (Reuters)
Практические последствия по-прежнему довольно серьёзны. OpenAI обновила сертификаты и приняла меры по ужесточению правил, чтобы поддельные, но убедительные приложения ChatGPT не стали проблемой больше, чем это необходимо. Это не нарушение авторских прав, но это скорее тот случай, когда «немедленно обновите своё приложение». (OpenAI)
🧯 Сэм Альтман отреагировал на «подстрекательскую» статью в журнале New Yorker после нападения на его дом ↗
Сэм Альтман публично выступил против резко критической статьи в журнале New Yorker, в которой, по всей видимости, содержалась критика его дома, назвав некоторые части статьи вводящими в заблуждение и носящими личный характер. Вся эта ситуация показалась необычайно грубой для поста генерального директора — скорее оборонительной, чем отточенной, возможно, это было сделано намеренно. (TechCrunch)
В то же время полиция арестовала подозреваемого в нападении с использованием коктейля Молотова, связанном с резиденцией Альтмана в Сан-Франциско; о пострадавших не сообщается. Таким образом, история мгновенно переключилась с критики СМИ на вопросы физической безопасности — к настоящему времени это стало неотъемлемой частью освещения темы искусственного интеллекта. (AP News)
🏗️ Бывшие руководители OpenAI Stargate планируют присоединиться к Meta Platforms ↗
По сообщениям, три высокопоставленных сотрудника, связанных с проектом инфраструктуры Stargate компании OpenAI, переходят в Meta. Это не просто текучка кадров — это текучка кадров в условиях войны за вычислительные ресурсы, которая проявляется по-другому, когда все борются за центры обработки данных, микросхемы и электропитание.
Наём новых сотрудников говорит о том, что Meta не просто тратит большие деньги на модели, а пытается привлечь людей, которые знают, как создавать под ними «промышленную инфраструктуру». На первый взгляд, это может показаться скучным, но именно в этом сейчас заключается основная конкуренция. (Bloomberg)
🛡️ Предварительный обзор мифов Клода ↗
Компания Anthropic заявила, что её новая модель Mythos достаточно эффективна в сфере кибербезопасности, поэтому она не планирует её широкое распространение, по крайней мере, пока. Вместо этого она используется в рамках строго контролируемой программы защиты, поскольку компания считает, что модель способна выявлять опасные программные уязвимости в масштабах, которые, мягко говоря, вызывают тревогу. (Red Anthropic)
Эта осторожность уже распространяется за пределы привычных рамок. Сообщается, что американские чиновники и крупные компании рассматривают скачок в возможностях модели как реальную проблему безопасности инфраструктуры, а не просто как очередной эффектный запуск. На этот раз цикл развития ИИ демонстрирует серьезный подход. (Axios)
☁️ CoreWeave заключает соглашение с Anthropic о предоставлении облачных услуг в сфере ИИ, акции компании растут ↗
Компания CoreWeave заявила, что предоставит Anthropic вычислительные мощности в рамках многолетнего соглашения, и ожидается, что эти мощности будут введены в эксплуатацию позднее в этом году. Это еще одно напоминание о том, что скорость работы модельных компаний по-прежнему зависит от инфраструктуры, лежащей в их основе — эффектное программное обеспечение, но жестокие физические узкие места.
Для Anthropic это соглашение расширяет доступ к вычислительным ресурсам для линейки Claude. Для CoreWeave это еще один признак того, что специализированные облачные игроки в сфере ИИ продолжают переманивать клиентов у абсолютных лидеров в области построения моделей, которые — что несколько удивительно — сохраняют свои позиции. (Reuters)
💸 Компания SiFive, поддерживаемая Nvidia, достигла оценки в 3,65 миллиарда долларов для своих открытых чипов искусственного интеллекта ↗
Компания SiFive привлекла 400 миллионов долларов инвестиций при оценке в 3,65 миллиарда долларов, что является серьезным вотумом доверия к открытому проектированию чипов для систем искусственного интеллекта. Это еще не означает, что Nvidia пошатнула свои позиции, но это показывает, что инвесторы по-прежнему ищут альтернативные пути выхода на рынок аппаратного обеспечения для ИИ.
Главный вывод очевиден. Искусственный интеллект — это уже не просто история модели или даже чипа, это борьба за то, какие слои останутся открытыми, какие — конфиденциальными, и кто получит оплату на каждом этапе конвейера. (TechCrunch)
Часто задаваемые вопросы
Что произошло с проблемой безопасности приложения OpenAI для macOS?
Компания OpenAI заявила, что взломанный сторонний инструмент для разработчиков повлиял на процесс подписи, используемый для сертификации ее приложений для macOS. Компания также заявила, что не обнаружила доказательств доступа к пользовательским данным, взлома своих систем или интеллектуальной собственности, а также изменения своего программного обеспечения. Главная проблема заключалась в доверии и подлинности приложений, а не в подтвержденном нарушении конфиденциальности информации о клиентах.
Следует ли мне обновить приложение ChatGPT для macOS после инцидента с OpenAI?
Да, обновление приложения — это практический вывод. OpenAI обновила сертификаты и ужесточила процесс, поэтому поддельные, но убедительные приложения ChatGPT с меньшей вероятностью вызовут путаницу или создадут риски. В таких случаях самым безопасным шагом является использование последней официальной версии и избегание загрузки настольных приложений из неофициальных источников или зеркальных сайтов.
Почему проблема с инструментом разработки стороннего разработчика имеет значение, если данные не были украдены?
Доверие к программному обеспечению основывается не только на доступе к данным. Если инструмент, используемый для сертификации приложений, скомпрометирован, это может вызвать сомнения в том, смогут ли пользователи надежно идентифицировать легитимное программное обеспечение. Во многих производственных средах подобные проблемы имеют значение, поскольку влияют на безопасность распространения, уверенность в обновлениях и риск убедительных попыток подмены личности.
Почему привлечение компанией Meta бывших руководителей проекта OpenAI Stargate и другие шаги в развитии инфраструктуры ИИ вызывают такой большой резонанс?
Эти назначения указывают на конкуренцию на уровне, не связанном с моделированием, где центры обработки данных, чипы, электропитание и возможности развертывания имеют такое же важное значение, как и исследовательский персонал. Инфраструктура ИИ становится стратегическим преимуществом, а не просто вспомогательной функцией. В статье предполагается, что Meta пытается укрепить промышленную сторону ИИ, а не просто привлечь больше исследователей в области моделирования.
В чём заключается модель Mythos компании Anthropic, и почему компания может ограничивать её выпуск?
Компания Anthropic охарактеризовала Mythos как систему, достаточно продвинутую в области кибербезопасности, чтобы держать её под строгим контролем, а не выпускать в широкую продажу. Опасение, по-видимому, заключается в том, что мощная система обнаружения уязвимостей в программном обеспечении может представлять собой средство защиты, но при этом повышать риски неправомерного использования. В подобных ситуациях обычно применяется подход, включающий ограниченный доступ, узконаправленное развертывание и более строгий контроль.
Почему сделки по созданию инфраструктуры для ИИ и финансирование проектов с открытым исходным кодом важны для всего рынка ИИ?
Они показывают, что в гонке за искусственный интеллект все большее значение имеют доступ к вычислительным ресурсам и выбор оборудования, а не только функции чат-ботов. Сделка между CoreWeave и Anthropic подчеркивает, насколько модельные компании по-прежнему зависят от облачных мощностей, а финансирование SiFive свидетельствует об интересе инвесторов к альтернативам в рамках стека чипов для ИИ. В совокупности эти шаги указывают на то, что инфраструктура ИИ становится ключевым полем битвы за рост и контроль.