По словам источников, советники Трампа заявили компаниям, занимающимся разработкой искусственного интеллекта, что они не будут проводить тестирование моделей с открытыми весами на безопасность ↗
По словам источников, знакомых с ходом обсуждений, администрация Трампа сообщила ведущим компаниям, занимающимся искусственным интеллектом, что не будет проводить тестирование на безопасность моделей с открытым весом. Это оставляет довольно важную часть оценки рисков вне рамок государственного регулирования.
На практике разработчикам и пользователям, возможно, придётся взять на себя больше ответственности за оценку моделей перед их выпуском или развертыванием. Возможно, это благоприятно для инноваций... но время для этого выбрано неудачно, поскольку открытые модели быстро развиваются и становятся всё более функциональными. (Reuters)
Модели искусственного интеллекта с открытыми весами догоняют передовые разработки. Однако пробел в обеспечении безопасности сохраняется. ↗
По сообщениям, модель GLM-5.2 от Z.ai отстает от ведущих закрытых моделей в области кибербезопасности и биологии всего на несколько месяцев. Тесты SaferAI показали, что она не отказалась ни от одной из поставленных перед ней задач в области наступательной кибербезопасности или биологии двойного назначения.
Закрытые модели могут полагаться на обучение отказу, классификаторы и управление API. Загружаемые веса — это совсем другое дело: после их выпуска средства защиты могут быть изменены или удалены, что делает разрыв в безопасности похожим на узкую пропасть. (TechCrunch)
Компания Samsung Electronics запускает технологию памяти нового поколения на основе искусственного интеллекта ↗
Компания Samsung представила прототип BV-NAND с более чем 400 слоями и новой конструкцией соединения пластин. По заявлению компании, он обеспечивает примерно на 58% большую плотность памяти, чем предыдущее поколение, а также более высокую скорость чтения, записи и ввода-вывода.
Компания Samsung также представила вертикально расположенную память zHBM, размещенную над ускорителями искусственного интеллекта. По утверждению производителя, такая архитектура может обеспечить более чем в десять раз большую плотность памяти по сравнению с обычной HBM5, втрое повысить энергоэффективность и существенно снизить тепловое сопротивление — мягко говоря, это очень многообещающее решение. (Reuters)
Гонка за создание центров обработки данных для ИИ создаст для крупных технологических компаний бремя арендных платежей в размере 1 триллиона долларов ↗
Microsoft, Meta, Oracle, Amazon и Alphabet выделили около 1,09 триллиона долларов на аренду помещений, которая еще не началась, в основном для центров обработки данных, предназначенных для ИИ. Эти обязательства почти в четыре раза превышают их признанные арендные обязательства.
Эти мощности могут подстегнуть следующий бум облачных технологий. Или, что менее радужно, привести к тому, что компаниям придется оплачивать огромные мощности, если спрос на ИИ окажется неудовлетворительным — своего рода покупка пальто за триллион долларов еще до того, как кто-либо проверил погоду. (Reuters)
Компания Anthropic заключила сделку на 10 миллиардов долларов со стартапом Volta, специализирующимся на облачных технологиях с использованием искусственного интеллекта ↗
По сообщениям, компания Anthropic согласилась приобрести вычислительные мощности у стартапа Volta, занимающегося облачными вычислениями в сфере ИИ, на сумму 10 миллиардов долларов в течение шести лет. Сделка будет поддерживать норвежский центр обработки данных мощностью 133 мегаватта.
Ожидается, что компания Bitdeer, занимающаяся майнингом криптовалют, поможет в разработке этого объекта, который будет использовать системы Nvidia Vera Rubin. Компания Anthropic собирает партнерские соглашения в сфере вычислительных мощностей, как магниты на холодильник — только эти магниты стоят миллиарды. (TechCrunch)
Всемирный банк заявляет, что искусственный интеллект может стать «спасательным кругом» для развивающихся экономик ↗
Всемирный банк утверждает, что ИИ может позволить развивающимся экономикам уместить столетие прогресса в десятилетие, при условии улучшения электроснабжения, связи и цифровых навыков. Более компактные, адаптированные к местным условиям инструменты могли бы поддерживать здравоохранение, образование, сельское хозяйство и государственные услуги без необходимости создания гигантских национальных моделей.
В отчете оценивается, что 4,5% рабочих мест в странах с низким и средним уровнем дохода связаны с генеративным искусственным интеллектом, по сравнению с 14,2% в более богатых странах. Тем не менее, эти обещания сопровождаются серьезными предупреждениями о неравенстве, дезинформации и политических репрессиях — спасательный круг, в который вплетено множество узлов. (Reuters)
Часто задаваемые вопросы
Почему правительство США не проводит тестирование на безопасность моделей искусственного интеллекта с открытыми весами?
Согласно статье, администрация Трампа сообщила ведущим компаниям, занимающимся разработкой ИИ, что модели с открытыми весами не будут включены в государственную систему тестирования безопасности. Это возлагает большую ответственность на разработчиков, распространителей и пользователей моделей, которым, возможно, потребуется самостоятельно оценивать риски кибербезопасности, биологического воздействия, неправомерного использования и развертывания, прежде чем выпускать или внедрять эти системы.
Почему модели ИИ с открытыми весами сложнее защитить, чем модели с закрытыми весами?
Модели ИИ с открытыми весами могут быть загружены, модифицированы и использованы вне инфраструктуры разработчика. В результате такие средства защиты, как обучение на отказ от обучения, классификаторы и контроль доступа, могут быть ослаблены или удалены. Закрытые модели обычно предоставляются через контролируемые API, что дает поставщикам больше возможностей для мониторинга использования, ограничения доступа и обновления средств защиты после развертывания.
Как организациям следует оценивать модели ИИ с открытыми весами перед их внедрением?
Распространенный подход заключается в тестировании модели на реалистичных сценариях неправомерного использования, включая наступательные киберзадачи, запросы на использование биологических ресурсов двойного назначения и попытки обойти средства защиты. Организациям также следует изучить, как будет размещаться модель, кто сможет ее модифицировать и какие системы мониторинга доступны. Внедрение систем с более высоким уровнем риска обычно требует более строгого контроля доступа и постоянного человеческого надзора.
Что призвана улучшить новая технология памяти с использованием искусственного интеллекта от Samsung?
Прототип BV-NAND от Samsung использует более 400 слоев и конструкцию склеивания пластин, предназначенную для увеличения плотности памяти при одновременном улучшении производительности чтения, записи и ввода-вывода. Компания также описала вертикально расположенную память zHBM, размещенную над ускорителями ИИ. Эти конструкции призваны удовлетворить потребности в емкости, энергии и тепловыделении, возникающие в связи с все более интенсивными рабочими нагрузками ИИ.
Почему договоры аренды дата-центров для ИИ, заключаемые крупными технологическими компаниями, считаются финансовым риском?
По имеющимся данным, Microsoft, Meta, Oracle, Amazon и Alphabet выделили около 1,09 триллиона долларов на аренду площадей, которая еще не началась, причем большая часть этих средств связана с центрами обработки данных для искусственного интеллекта. Дополнительные мощности могут поддержать быстрый рост спроса на облачные технологии и ИИ. Однако компании могут по-прежнему быть должны значительные суммы, если спрос будет расти медленнее, чем ожидалось, или инфраструктура останется недоиспользованной.
Какую пользу может принести ИИ развивающимся экономикам?
Всемирный банк утверждает, что ИИ может помочь развивающимся экономикам укрепить здравоохранение, образование, сельское хозяйство и государственные услуги, особенно с помощью небольших инструментов, адаптированных к местным потребностям. Эти преимущества зависят от надежного электроснабжения, доступа в интернет и цифровых навыков. Правительствам также необходимо управлять рисками, такими как неравенство, дезинформация и политические репрессии, по мере расширения внедрения ИИ.