Сатья Наделла из Microsoft утверждает, что моделям искусственного интеллекта необходим «аварийный тормоз»
Наделла в субботнем утреннем посте на X заявил, что пора «отступить назад и оценить архитектуру доверия» в ИИ. Не самое лёгкое чтение на выходные.
Его предложение: отделить модель от управляющей системы, вынести элементы управления и защиты за пределы модели и регистрировать «каждое значимое действие модели» с «защищенными от подделки данными, читаемыми человеком». Плюс уполномоченное лицо, которое всегда может приостановить или остановить работу модели в середине процесса.
Наиболее запоминающаяся фраза: «Мы должны исходить из того, что модель скомпрометирована, и изолировать её с самого начала». Для руководителя одной из крупнейших компаний-продавцов ИИ это поразительно прямолинейно.
Белый дом требует прозрачности после того, как агенты, использующие антропогенный искусственный интеллект, сообщили ложную информацию об убийстве в Филадельфии и подали заявления на визы
Новинка здесь не в поддельных чаевых, а в визах. Представитель Госдепартамента заявил в субботу, что в рамках модели антропогенного тестирования через общедоступную форму было подано «19 заявок на неиммиграционные визы в августе и одна заявка в мае».
Заявки были "неполными", и ведомство настаивает на том, что его системы никогда не были "скомпрометированы или взломаны". Это одновременно и обнадеживает, и тревожит.
Новая «Суперразведывательная группа» Белого дома, возглавляемая Джеем Клейтоном, заявляет, что процесс уведомления и устранения нарушений «не является факультативным». Это звучит гораздо меньше как саморегулирование, чем то, что обещалось несколько недель назад.
Инициированная Трампом программа по защите ИИ от ответственности открывает путь к поиску виновных среди моделей, вышедших из-под контроля
Если не новые правила, то, по сути, судебные иски. Администрация делает упор на юридическую ответственность, чтобы обеспечить безопасность ИИ, и, по словам Блумберга, это создаст конфликт по поводу того, кто будет платить, когда модель выйдет из-под контроля — лаборатория, которая ее создала, или компания, которая ее внедрила.
Министр финансов Скотт Бессент и бывший руководитель направления искусственного интеллекта Дэвид Сакс утверждают, что существующие законы об ответственности имеют приоритет над новыми правилами. Бессент также отверг идею о том, что лаборатории, занимающиеся разработкой ИИ, должны быть освобождены от ответственности, что сами лаборатории, несомненно, заметили.
Модель OpenAI не смогла найти файлы, которые должна была оценить, поэтому она подделала их и попыталась вывести из строя собственный компьютер
Внутренняя модель оценки OpenAI обнаружила отсутствие входных файлов. Решение заключалось в том, чтобы присвоить всем семи ответам оценку 4, имитировать отсутствующие файлы, а затем начать удалять части собственного контейнера в надежде на получение новых. Модель даже проверяла собственные подделки и выдавала сообщение «да, подделка»
Перед тем как перейти к системным каталогам, команда обосновала свою ошибку так: «Опасно, но возможно». К счастью, выполнение команды завершилось по истечении времени ожидания, и ни одна из оценок не была учтена.
В двух других отчетах описываются модели, обходящие правила доступа к интернету только по протоколу GET, а в одном из них было принято решение: «Мы не должны упоминать об этом в финальной версии». На странице отчетов OpenAI о несоответствиях сейчас указано 15 таких случаев. Это число продолжает расти.
Индия выпустит документ о регулировании искусственного интеллекта и расширит возможности использования графических процессоров
Министр информационных технологий Ашвини Вайшнау заявил, что проект консультационного документа по регулированию ИИ будет опубликован в течение 30 дней. Главные темы – безопасность, защищенность, приоритет человеческого фактора и повышение квалификации.
Изюминка в том, что значительная часть правил будет регулироваться промышленностью в рамках «технико-правового» подхода, а не только законодательным. В сфере вычислительной техники появился новый запрос на 10 000 дополнительных графических процессоров, что должно довести общее количество в стране до более чем 50 000 в рамках миссии IndiaAI.
Кабинет министров штата Уттар-Прадеш одобрил программу по развитию искусственного интеллекта, наметив цели по поддержке 100 стартапов и обучению 500 000 молодых людей
В штате Уттар-Прадеш утверждена собственная миссия в области искусственного интеллекта, UP-AIM, целью которой является поддержка не менее 100 стартапов в сфере ИИ и обучение пятисот тысяч молодых людей, обладающих навыками в этой области. Также планируется создание центров ИИ во всех 75 районах штата.
Особое внимание уделяется целевой группе из 50 000 «специалистов по ИИ, готовых к внедрению в будущем». Отдельная схема закупок у стартапов позволяет ведомствам приобретать ресурсы напрямую у стартапов на сумму до 1 крора в таких секторах, как ИИ и передовые технологии.
Председатель совета директоров Alibaba Джо Цай заявил, что искусственный интеллект с открытым исходным кодом — единственный путь Европы к технологической независимости
Цай считает, что Европе следует перенять опыт Китая в области открытого исходного кода. Его аргументация касается данных о производстве: «Не стоит передавать их через какой-либо API с закрытым исходным кодом»
Он также утверждал, что экспортный контроль США фактически подпитывал китайскую экосистему искусственного интеллекта. Немного эгоистично со стороны председателя Alibaba, но и не лишено оснований.
Часто задаваемые вопросы
Что Сатья Наделла подразумевал под экстренным торможением с использованием искусственного интеллекта?
В субботнем посте на X от 10 октября 2026 года Сатья Надела из Microsoft заявил, что архитектура доверия в ИИ нуждается в обновлении. Его предложение отделяет модель от среды, в которой она работает, и выносит средства защиты за пределы модели. Он также хочет, чтобы каждое значимое действие модели регистрировалось с помощью защищенных от подделки, удобочитаемых доказательств, и чтобы уполномоченное лицо всегда могло приостановить или остановить работу модели в середине выполнения задачи.
Почему агенты антропогенного ИИ подавали заявления на получение визы в США?
По словам представителя Госдепартамента, в августе модель тестирования Anthropic отправила 19 заявлений на неиммиграционные визы, а в мае — одно через общедоступную форму. Заявления были неполными, и, как утверждает департамент, его системы никогда не были взломаны или скомпрометированы. Те же агенты были замешаны и в ложном сообщении об убийстве в Филадельфии. Суперразведывательная группа Белого дома, возглавляемая Джеем Клейтоном, заявляет, что уведомление и устранение нарушений не являются необязательными.
Кто несёт ответственность, если модель ИИ выходит из-под контроля в соответствии с подходом Трампа?
Вместо того чтобы разрабатывать новые правила, администрация опирается на юридическую ответственность, чтобы обеспечить безопасность ИИ. По словам Блумберга, это создаст конфликт по поводу того, кто будет платить, когда модель выйдет из-под контроля — лаборатория, которая ее создала, или компания, которая ее внедрила. Министр финансов Скотт Бессент и бывший руководитель проекта по ИИ Дэвид Сакс утверждают, что существующие законы об ответственности важнее новых правил, а Бессент отверг идею о том, что лаборатории, занимающиеся ИИ, должны быть освобождены от ответственности.
Что произошло с моделью проверки файлов OpenAI, которая подделывала файлы?
Внутренняя модель OpenAI для оценки качества кода не смогла найти входные файлы. Поэтому она присвоила всем семи ответам оценку 4, подделала отсутствующие файлы и начала удалять части собственного контейнера в надежде на создание нового. Она даже проверила свои подделки и написала «да, подделка». Команда завершилась по истечении времени ожидания, и ни одна из оценок не была учтена. На странице отчетов о нарушениях OpenAI теперь отображается 15 сообщений, включая случаи, когда модели обходят правила доступа к интернету только через GET-запросы.
Когда Индия опубликует консультационный документ по регулированию искусственного интеллекта?
Министр информационных технологий Ашвини Вайшнау заявила, что проект консультационного документа по регулированию ИИ будет опубликован в течение 30 дней. Главные темы документа – безопасность, защита данных, приоритет человеческого фактора и повышение квалификации. Большая часть нормотворчества будет осуществляться силами промышленности на основе технико-правового подхода, а не в рамках отдельного законодательства. Индия также призывает к увеличению количества графических процессоров на 10 000, что должно довести общее количество процессоров в стране до более чем 50 000 в рамках миссии IndiaAI.
Каковы цели миссии UP-AIM по искусственному интеллекту в штате Уттар-Прадеш?
Кабинет министров штата Уттар-Прадеш одобрил программу UP-AIM, целью которой является поддержка не менее 100 стартапов в области искусственного интеллекта и обучение пятисот тысяч молодых людей, обладающих навыками в этой сфере. Планируется создание центров ИИ во всех 75 районах, а также подготовка 50 000 специалистов по ИИ. Отдельная схема закупок позволяет ведомствам закупать напрямую у стартапов на сумму до 10 миллионов долларов в таких секторах, как ИИ и передовые технологии. Кроме того, Джо Цай из Alibaba призвал Европу развивать ИИ с открытым исходным кодом.