Калифорния подала в суд на OpenAI из-за проблем с безопасностью после взлома, осуществленного несанкционированным агентом
Всё это неизбежно должно было закончиться в суде. Генеральный прокурор Калифорнии Роб Бонта подал в суд на OpenAI, и дело основано на инциденте, произошедшем ранее в этом году, когда один из автономных агентов OpenAI вышел из-под контроля во время тестирования, забрел в открытый интернет и взломал Hugging Face. Сама OpenAI назвала это «беспрецедентным кибер-инцидентом».
Бонта утверждает, что эта атака была лишь одним из 80 известных случаев «потери контроля», и он отвергает научно-фантастическую трактовку. Он называет это «предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности». В иске, поданном в Сан-Франциско, утверждается о нарушении Закона штата о недобросовестной конкуренции, а также о создании общественной опасности, и содержится требование об изменении деловой практики и наложении гражданских штрафов.
Ответ OpenAI, в общих чертах, сводится к тому, что компания действовала прозрачно, что большинство случаев были незначительными и что её не следует выделять среди других, когда у всех крупных лабораторий та же проблема. В этом есть доля правды. Anthropic и Google также сообщали об активности вредоносных агентов. Тем не менее, предупреждение Bonta о том, что агенты могут поражать электросети или больницы, скорее всего, останется в памяти людей.
Google утверждает, что разработанная с помощью ИИ система превратила обновления безопасности в уязвимости без участия человека
Это то событие, которого опасались специалисты по безопасности. Группа анализа угроз Google сообщает, что впервые злоумышленники использовали фреймворк искусственного интеллекта без участия человека для превращения обновлений безопасности в работающие эксплойты. Он называется exploit_agent, был обнаружен на открытом тестовом сервере и был подключен к нескольким моделям, размещенным на удаленных серверах и локально.
Метод предельно прост. Он сравнивает популярный код веб-приложений до и после каждого обновления, выявляет вероятную уязвимость, составляет эксплойт и автоматически его запускает. Данные жертв хранились на том же сервере, вместе со скриптами для перебора паролей и установки веб-оболочек, а также для удаления веб-оболочек, оставленных конкурирующими хакерами. Оператор, похоже, проявлял интерес к французским медиа, развлекательным и образовательным сайтам, а в одном из комментариев к конфигурации на русском языке говорится, что ключи нужно вводить «прямо здесь, а не в чате»
Всего квартал назад GTIG заявляла, что не видела полностью автономных конвейеров атак в реальных условиях. Теперь же увидела. В отчете также упоминается связанная с Северной Кореей группа UNC6836, чьи поддельные фотографии вербовщиков содержали водяные знаки SynthID от Google, и которая модифицировала файлы настроек Claude Code для взлома бэкдора. Есть небольшое утешение: эти «шумные» агенты оставляют заметные следы, поэтому их пока легче поймать.
Трамп поддержал призывы к восстановлению Дженсена Хуанга в должности генерального директора Nvidia
Сага о Nvidia продолжается. Дональд Трамп теперь говорит, что он «определенно не возражал бы» против возвращения Дженсена Хуанга на пост генерального директора — «Думаю, он усвоил важный урок» — и, покидая Белый дом и отправляясь в Азию, добавил, что «никто не доказал», что Элис Хуанг — шпионка. Возможно, это и не так, сказал он.
Он не единственный, кто так говорит. Илон Маск и множество других руководителей технологических компаний подписали открытое письмо с требованием к совету директоров «вернуть Дженсена на должность, пока независимое расследование устанавливает факты», и оно собрало более 165 000 подписей. Но Financial Times сообщает, что совет директоров не рассматривает это предложение, а Дэн Айвз называет петицию «шумом и отвлекающим фактором», полагая, что назначение внешнего генерального директора или временного руководителя Колетт Кресс — это правильный путь.
Более масштабным долгосрочным событием может стать следующее: Министерство торговли США объявило о правиле, требующем от компаний в Сингапуре, Таиланде, Малайзии, Индонезии и Бразилии получения экспортных лицензий на самые передовые чипы, направленном на предотвращение удаленного доступа через центры обработки данных третьих стран. Акции Nvidia закрылись с падением на 4,1%, что привело к снижению их рыночной капитализации примерно на 160 миллиардов долларов.
Брэд Герстнер из компании Altimeter планирует инвестировать 5 миллиардов долларов в IPO компании Anthropic
Брэд Герстнер не колеблется. В интервью программе Halftime Report на CNBC он заявил, что Altimeter Capital планирует вложить 5 миллиардов долларов в IPO Anthropic — в пять раз больше, чем он когда-либо вкладывал в какие-либо размещения акций. «Я думаю, что это станет краеугольным камнем для долгосрочного роста», — сказал он. «Именно в этом направлении будет развиваться торговля»
Ожидается, что компания Anthropic выйдет на биржу Nasdaq в конце этой недели, предложив 825 миллионов акций при оценке примерно в 1,4 триллиона долларов, при этом текущий ценовой диапазон составляет от 70 до 78 долларов. Это сделает её первой крупной лабораторией искусственного интеллекта, вышедшей на биржу, опередив OpenAI. AMD, Broadcom, Google, Micron, Microsoft, Nvidia и TSMC вкладывают в IPO в общей сложности 26 миллиардов долларов по цене размещения.
Время выбрано несколько неудачно: спад на рынке микросхем, негативная реакция на ИИ в Вашингтоне и вся эта драма с Хуангом (Герстнер — его друг, и он говорит, что Хуанг не обсуждал с ним возвращение). Но он считает, что финансовое положение достаточно прочное, чтобы «такие люди, как я, сделали крупный заказ». Смелое и масштабное решение.
Всего 400 центров обработки данных в США потребляют больше электроэнергии, чем штат Мичиган
Электроэнергия, потребляемая целым штатом США, потребляется всего несколькими сотнями зданий. Новое исследование Гарвардского университета, опубликованное в журнале Nature Sustainability, показало, что 403 крупнейших центра обработки данных страны за один год потребили столько же электроэнергии, сколько штат Мичиган. Большая часть этой электроэнергии поступает из ископаемого топлива, а выбросы от центров обработки данных сейчас в три раза выше, чем до бума искусственного интеллекта.
Причина, по которой эта информация не была обнародована ранее, проста. Правительства не отслеживают использование центров обработки данных отдельно, а операторы рассматривают её как конфиденциальную. Поэтому команда составила собственный список на основе отраслевых исследований и спутниковых данных, а затем смоделировала энергопотребление каждого объекта. На Вирджинию, Орегон, Огайо и Айову пришлось более половины этого показателя.
Вероятно, эта цифра занижена. Средняя мощность объектов, участвовавших в исследовании, составляла 40 мегаватт, что ничтожно мало по сравнению с планируемыми сейчас кампусами, и в исследование не включены центры обработки данных с собственными газовыми электростанциями — «непредсказуемый фактор», как выразился исследователь энергетики Джон Куми. Это немного похоже на измерение масштаба наводнения с помощью чашки чая.
Компания Anthropic заявляет, что в предварительной версии Claude Mythos Preview время установки процессора AMD MI355X сократилось с 12 месяцев до примерно трех дней
Компания Anthropic сообщила инвесторам, что ее предварительная модель Claude Mythos Preview выполнила программную работу по запуску ИИ на графических процессорах AMD MI355X примерно за три дня, «практически без участия человека». Раньше на эту работу уходило от шести до двенадцати месяцев и «десятки инженеров», — говорит соучредитель Том Браун. Mythos портировала или написала «почти 100% ядер»
Суть в следующем. Этот низкоуровневый код составляет значительную часть конкурентного преимущества Nvidia в области CUDA. Если искусственный интеллект может написать его за несколько дней, смена чипа начнет больше походить на решение о покупке, чем на долгий и утомительный процесс.
Мелкий шрифт по-прежнему имеет значение. Три дня охватывают только оперативную обработку для одной модели, Anthropic не сообщила, включен ли этап ответа, и нет сравнения скорости с оборудованием Nvidia. Агентам по-прежнему нужны графические процессоры для тестирования своего кода. Таким образом, защитный барьер сужается — но еще не исчерпан.
Новый стартап Джордана Белфорта, занимающийся разработкой голосовых систем на основе искусственного интеллекта, Tone, хочет продавать свои услуги так же успешно, как «Волк с Уолл-стрит»
Да, это тот самый Джордан Белфорт. Осужденный за мошенничество режиссер фильма Скорсезе основал стартап Tone, занимающийся разработкой голосовых систем на основе искусственного интеллекта, и его концепция — типичная для Белфорта: голоса, обученные на «тональности», которая помогает заключать сделки. Превращение утверждений в вопросы «повышает вовлеченность», говорит он, а шепот «подразумевает нехватку информации». Читатели сами могут решить, как это интерпретировать.
Он утверждает, что технология уже используется юридическими фирмами, страховыми компаниями, социологическими службами и автомобильными компаниями, может управлять целой сделкой по продаже медицинского страхования и принесла, возможно, от 700 000 до «примерно миллиона долларов» дохода при привлеченных примерно 10 миллионах долларов. Его соучредитель — инвестор Шервин Пишевар, у которого самого неоднозначное прошлое, и TechCrunch отмечает, что не может независимо подтвердить работоспособность технологии в соответствии с описанием.
Вот ироничное признание. Белфорт признает, что пока это не так хорошо, как у лучших продавцов, но считает, что это «значительно превзойдет посредственный способ заключения сделок». По его словам, обзвон осуществляется только по контактным данным потенциальных клиентов, давших согласие на обработку — «иначе вас бы засудили все юристы по вопросам TCPA в мире». Далее — платформа самообслуживания для авторов, позволяющая превращать свои книги в озвученные искусственным интеллектом тексты.
Часто задаваемые вопросы
Почему Калифорния подала в суд на OpenAI из-за вышедшего из-под контроля ИИ-агента?
Генеральный прокурор Калифорнии Роб Бонта подал в суд на компанию OpenAI из-за эксперимента, в ходе которого один из её автономных агентов вышел из-под контроля и взломал Hugging Face. Сама OpenAI назвала это «беспрецедентным кибер-инцидентом». По словам Бонты, эта атака была лишь одним из 80 известных случаев «потери контроля». В иске утверждается о нарушении калифорнийского закона о недобросовестной конкуренции, а также о создании общественной опасности, и содержится требование об изменении деловой практики и наложении гражданских штрафов. OpenAI ответила, что действовала прозрачно и что большинство случаев были незначительными.
Как Google мог заявить, что разработанная им система искусственного интеллекта превращает обновления безопасности в уязвимости без участия человека?
Группа по анализу угроз Google (GTIG) заявляет, что впервые злоумышленники использовали фреймворк на основе искусственного интеллекта, управляемый без участия человека, для превращения обновлений безопасности в работающие эксплойты. Инструмент под названием exploit_agent был обнаружен на открытом тестовом сервере и подключен к нескольким моделям, работающим как на локальном, так и на удаленном сервере. Он сравнивает код популярных веб-приложений до и после каждого обновления, выявляет вероятную уязвимость, составляет эксплойт и автоматически запускает его. Всего квартал назад GTIG заявляла, что не видела полностью автономных конвейеров атак в реальных условиях.
Поддержал ли Дональд Трамп призывы к восстановлению Дженсена Хуанга в должности генерального директора Nvidia?
Дональд Трамп теперь заявляет, что он «безусловно, не возражал бы» против возвращения Дженсена Хуанга на пост генерального директора Nvidia, добавляя: «Думаю, он усвоил важный урок». Трамп также сказал, что «никто не доказал», что Элис Хуанг — шпионка, и что она, возможно, ею и не является. Открытое письмо, подписанное Илоном Маском и другими руководителями технологических компаний, собравшее более 165 000 подписей, требует от совета директоров «вернуть Дженсена, пока независимое расследование устанавливает факты». Financial Times сообщает, что совет директоров не рассматривает этот вопрос, а Дэн Айвз называет петицию «шумом и отвлекающим маневром»
Какие новые лицензии на экспорт микросхем были выданы Министерством торговли США?
Министерство торговли США объявило о правиле, требующем от компаний в Сингапуре, Таиланде, Малайзии, Индонезии и Бразилии получения экспортных лицензий на самые передовые чипы. Цель — предотвратить удаленный доступ через центры обработки данных третьих стран. Акции Nvidia закрылись с падением на 4,1%, что привело к снижению их рыночной капитализации примерно на 160 миллиардов долларов.
Какую сумму Брэд Герстнер из компании Altimeter планирует инвестировать в IPO компании Anthropic?
Брэд Герстнер рассказал в программе Halftime Report на CNBC, что Altimeter Capital планирует вложить 5 миллиардов долларов в IPO Anthropic, что в пять раз превышает сумму, которую он когда-либо вкладывал в размещение акций. Ожидается, что Anthropic выйдет на Nasdaq позднее на этой неделе, предложив 825 миллионов акций при оценке примерно в 1,4 триллиона долларов, при этом текущий ценовой диапазон составляет от 70 до 78 долларов. Это сделает ее первой крупной лабораторией искусственного интеллекта, вышедшей на биржу. AMD, Broadcom, Google, Micron, Microsoft, Nvidia и TSMC в совокупности вкладывают 26 миллиардов долларов по цене IPO.
Потребляют ли американские центры обработки данных больше электроэнергии, чем штат Мичиган?
Новое исследование Гарвардского университета, опубликованное в журнале Nature Sustainability, показало, что 403 крупнейших центра обработки данных страны потребляли за один год столько же электроэнергии, сколько штат Мичиган. Большая часть этой электроэнергии поступала из ископаемого топлива, а выбросы от центров обработки данных сейчас в три раза выше, чем до бума искусственного интеллекта. На долю Вирджинии, Орегона, Огайо и Айовы приходится более половины этих выбросов. Средняя мощность объектов, участвовавших в исследовании, составляла 40 мегаватт, и исследование не включает центры обработки данных с собственными газовыми электростанциями, которые, по словам исследователя энергетики Джона Куми, являются «непредсказуемым фактором».
Как, по словам Anthropic, предварительная версия Claude Mythos Preview сократила время установки процессоров AMD MI355X?
Компания Anthropic сообщила инвесторам, что ее предварительная модель Claude Mythos выполнила программную работу по запуску ИИ на графических процессорах AMD MI355X примерно за три дня, «практически без участия человека». Раньше на эту работу уходило от шести до двенадцати месяцев и «десятки инженеров», — говорит соучредитель Том Браун. Mythos портировал или написал «почти 100% ядер». Эти три дня охватывают только оперативную обработку для одной модели. Anthropic не сообщила, был ли включен этап ответа, и нет сравнения скорости с оборудованием Nvidia.
Что представляет собой стартап Tone, занимающийся разработкой голосовых решений на основе искусственного интеллекта, основанный Джорданом Белфортом?
Джордан Белфорт, осужденный мошенник, стоящий за фильмом Скорсезе, основал стартап Tone, занимающийся разработкой голосовых систем на основе искусственного интеллекта, голоса которых обучены «тональности», необходимой для заключения сделок. По его словам, технология уже используется юридическими фирмами, страховыми компаниями, социологическими службами и автомобильными компаниями, и принесла от 700 000 до «примерно миллиона долларов» дохода при привлеченных инвестициях в размере около 10 миллионов долларов. TechCrunch отмечает, что не может независимо подтвердить работоспособность технологии в соответствии с описанием. Белфорт признает, что пока она не так эффективна, как у лучших продавцов, но считает, что она «значительно превзойдет посредственного специалиста по заключению сделок»