Компания SpaceX официально завершила сделку по приобретению компании Cursor ↗
Компания Cursor официально стала частью SpaceX. Стартап, занимающийся разработкой программного обеспечения для искусственного интеллекта, заявляет, что сделка предоставляет ему доступ к тому, что он называет крупнейшим в мире парком графических процессоров — поистине впечатляющему вычислительному комплексу.
Приобретение последовало за ранее заключенным соглашением, которое предоставляло SpaceX опцион на покупку Cursor за 60 миллиардов долларов. Теперь Cursor находится в одном ряду с расширяющимися амбициями SpaceX в области искусственного интеллекта и вычислительных ресурсов, включая инфраструктуру, уже сдаваемую в аренду таким компаниям, как Anthropic и Google. (TechCrunch)
Компания Anthropic делится более подробной информацией о том, как будут работать новые водяные знаки Клода ↗
Компания Anthropic объяснила, как будет работать на практике невидимая текстовая маркировка Клода. Она планирует использовать подход SynthID-Text от Google, незаметно влияя на выбор слов, чтобы сгенерированный текст содержал обнаруживаемую статистическую закономерность без видимого изменения результата.
Компания Anthropic также планирует разработать API для обнаружения водяных знаков. Незначительное редактирование может оставить водяной знак нетронутым, в то время как полная переработка кода может его удалить — так что да, это умно, но вряд ли волшебные чернила. Код должен передавать гораздо более слабые сигналы водяных знаков, поскольку модели имеют меньше свободы в отношении произвольной формулировки. (TechCrunch)
Nvidia сокращает гарантированное финансирование дата-центра OpenAI в Огайо, сообщает WSJ ↗
По сообщениям, Nvidia снизила размер финансовой гарантии, которую рассматривает для масштабного проекта OpenAI по строительству центра обработки данных в Огайо. Ожидается, что первоначальная сумма гарантии составит менее 120 миллиардов долларов, а не 250 миллиардов долларов, как обсуждалось ранее.
Как сообщается, это изменение произошло после опасений инвесторов по поводу того, что Nvidia возьмет на себя слишком большую финансовую нагрузку. OpenAI все еще обсуждает обязывающий договор аренды, охватывающий всю площадку мощностью 10 гигаватт — инвестиции в инфраструктуру в масштабах, которые начинают выглядеть не столько как облачные вычисления, сколько как строительство небольшой страны. (Reuters)
Пояснение: инициатива Daybreak от OpenAI и GPT-5.6.Cyber ↗
OpenAI расширила свою программу Daybreak по кибербезопасности, добавив два уровня доступа: Daybreak Blue для работы в области защиты с использованием передовых моделей и Daybreak Red для более интенсивных исследований с использованием GPT-5.6-Cyber.
Сообщается, что специализированная модель кибербезопасности выполнила 95% сложных запросов на проверку кибербезопасности без отказов, по сравнению с 57,3% у её предшественницы. OpenAI также утверждает, что модель помогла выявить две ранее неизвестные уязвимости в движке JavaScript V8 от Google. Это впечатляет... и, естественно, снижение процента отказов делает жёсткий контроль в изолированной среде весьма важным. (aimagazine.com)
Инструмент для оценки выявил то, что не удалось обнаружить при качественном анализе: модели ИИ наиболее уверены в своих действиях, когда ошибаются ↗
В ходе эксперимента с корпоративным ИИ была обнаружена серьезная проблема с надежностью: результаты, которые звучали безупречно и убедительно, часто оказывались неудовлетворительными при проверке на основе известных эталонных данных. В самых сложных случаях показатель уверенности модели не являлся надежным индикатором правильности.
Предложенное решение довольно неброское, но важное: создать системы оценки с использованием контролируемых тестовых случаев, где правильный ответ уже известен, а затем оценивать, правильно ли модель идентифицирует и ранжирует этот ответ. По сути, прекратить оценивать ИИ на основе поверхностной уверенности. (IT Intelligence)
Женщина утверждает, что ее отчим использовал Grok для превращения детских фотографий в изображения откровенного характера ↗
Женщина присоединилась к иску против xAI, утверждая, что Grok использовался для преобразования ее детской фотографии в тысячи изображений сексуального характера. Этот иск дополняет заявления трех подростков, обвиняющих компанию в неспособности обеспечить достаточную защиту от создания изображений, содержащих непристойные материалы, с участием реальных людей и несовершеннолетних.
Эти обвинения вновь привлекли неприятное внимание к мерам защиты генеративных изображений — ведь, по-видимому, возможности уже не являются определяющим фактором. Предотвращение использования моделей в качестве оружия против реальных людей становится не менее важной задачей. (TechCrunch)
Часто задаваемые вопросы
Почему компания SpaceX приобрела компанию Cursor?
Приобретение Cursor предоставляет стартапу, занимающемуся разработкой программного обеспечения для ИИ, доступ к обширной инфраструктуре графических процессоров SpaceX, а также интегрирует его в более широкую стратегию компании в области ИИ и вычислительных ресурсов. Ранее SpaceX получила опцион на покупку Cursor за 60 миллиардов долларов. Сделка также связывает Cursor с инфраструктурой, которую SpaceX уже сдает в аренду компаниям, занимающимся ИИ, включая Anthropic и Google.
Как будет работать текстовый водяной знак Claude от Anthropic?
Компания Anthropic планирует использовать подход SynthID-Text от Google для создания невидимых статистических закономерностей в тексте, сгенерированном Claude. Система незаметно влияет на выбор слов, а не добавляет видимый знак. Незначительное редактирование может сохранить водяной знак, в то время как полная переработка текста может его удалить. Anthropic также планирует предложить API, способный обнаруживать эти сигналы водяных знаков.
Почему Nvidia снизила заявленные гарантии для дата-центра OpenAI в Огайо?
По сообщениям, Nvidia снизила размер рассматриваемой финансовой гарантии на фоне опасений по поводу чрезмерного увеличения финансовых рисков. Ожидается, что предлагаемая гарантия теперь составит менее 120 миллиардов долларов, а не 250 миллиардов долларов, как обсуждалось ранее. Сообщается, что OpenAI по-прежнему обсуждает заключение обязывающего договора аренды, охватывающего всю площадку дата-центра в Огайо мощностью 10 гигаватт.
Для чего предназначены OpenAI Daybreak и GPT-5.6-Cyber?
Программа Daybreak от OpenAI в области кибербезопасности предоставляет различные уровни доступа для проведения исследований в этой сфере. Daybreak Blue фокусируется на работе по защите от угроз с использованием передовых моделей, в то время как Daybreak Red поддерживает более интенсивные исследования с использованием GPT-5.6-Cyber. Специализированная модель в области кибербезопасности предназначена для обработки сложных запросов, поэтому такие средства контроля, как песочница, особенно важны, когда моделям предоставляются более широкие возможности.
Почему инструменты оценки важны для создания надежных систем искусственного интеллекта?
Методы оценки позволяют тестировать модели ИИ на контролируемых примерах, где правильный ответ уже известен. Это помогает командам измерить, насколько модель определяет и ранжирует правильный ответ, а не судить о том, насколько отточенным или уверенным звучит её ответ. Эксперимент, проведенный в масштабах предприятия и описанный в статье, показал, что сама по себе уверенность не является надежным показателем правильности ответа в сложных случаях.
Что говорит судебный иск компании Grok о мерах защиты при создании изображений с помощью ИИ?
В иске поднимаются вопросы о неправомерном использовании систем генерации изображений для создания откровенных изображений с участием реальных людей и несовершеннолетних. Женщина утверждает, что система Grok использовалась для преобразования ее детской фотографии в тысячи откровенных изображений. Этот случай подчеркивает растущую важность мер защиты, направленных на предотвращение злоупотреблений, а не просто на улучшение возможностей моделей.