🧾 Страны ЕС и законодатели достигли предварительного соглашения о смягченных правилах в отношении искусственного интеллекта ↗
В Европе правила регулирования ИИ были пересмотрены в более мягкой форме. Законодатели и страны ЕС достигли предварительного соглашения об упрощении некоторых положений Закона об ИИ, в рамках которого ключевые правила для систем высокого риска были отложены, а некоторые механизмы были исключены из общего свода.
Однако, острота проблемы всё ещё остаётся. Соглашение вводит запрет на изображения сексуального характера, созданные ИИ без согласия, и сохраняет водяные знаки для результатов, сгенерированных ИИ. Каким-то образом это одновременно и отмена, и ужесточение контроля — по сути, политика, занимающаяся йогой.
🎙️ Развитие голосового интеллекта с помощью новых моделей в API ↗
Компания OpenAI представила разработчикам новую группу моделей обработки звука в реальном времени: GPT-Realtime-2, GPT-Realtime-Translate и GPT-Realtime-Whisper.
Речь идёт не только о «говорящих чат-ботах». Эти модели призваны рассуждать в процессе разговора, переводить речь в режиме реального времени между языками, расшифровывать речь людей и обрабатывать голосовые запросы, более похожие на запросы агентов. Голосовой ИИ начинает выглядеть не столько как телефонное меню, сколько как слегка взбодрившийся помощник.
🛟 Представляем функцию «Доверенный контакт» в ChatGPT ↗
Компания OpenAI представила Trusted Contact — дополнительную функцию безопасности ChatGPT, которая позволяет взрослым назначать человека, которого можно будет оповестить, если системы и обученные специалисты обнаружат серьезные признаки самоповреждения.
Эта функция задумана как дополнительный уровень, а не как замена линиям экстренной помощи, службам экстренной поддержки или профессиональной медицинской помощи. Здесь также очень важен аспект конфиденциальности — оповещения призваны связать человека с поддержкой вне приложения, не перекладывая весь разговор на плечи другого человека.
💸 Китайская компания Moonshot AI привлекла 2 миллиарда долларов инвестиций, достигнув оценки в 20 миллиардов долларов, на фоне резкого роста спроса на ИИ с открытым исходным кодом ↗
По сообщениям, компания Moonshot AI привлекла около 2 миллиардов долларов при оценке в 20 миллиардов долларов, при поддержке венчурного подразделения Meituan и других китайских инвесторов.
Более важным фактором является растущий спрос на модели с открытыми весами. Линейка Kimi от Moonshot набирает серьезную популярность среди разработчиков, особенно среди пользователей, готовых пожертвовать некоторой пиковой производительностью ради более дешевого выполнения инференции. Возможно, это не самый эффектный вариант, но зато чрезвычайно мощный.
🛡️ Риски для финансовой стабильности возрастают по мере того, как искусственный интеллект подпитывает кибератаки ↗
МВФ предупредил, что искусственный интеллект делает кибератаки быстрее, дешевле и масштабируемее, что совсем не соответствует тому повышению производительности, которого кто-либо ожидал.
Главная проблема — финансовая стабильность. Если злоумышленники могут использовать инструменты ИИ для обнаружения и эксплуатации уязвимостей с промышленной скоростью, банкам, рынкам и платежным системам необходимы более высокая устойчивость, надзор и международная координация. Сухая фраза, но серьезная проблема.
⚖️ Американская судебная коллегия отложила рассмотрение дела о доказательствах, сгенерированных искусственным интеллектом, и дипфейках ↗
Американская судебная коллегия отложила рассмотрение предложенных правил использования в суде доказательств, созданных с помощью ИИ, и дипфейков после того, как судьи и адвокаты выступили против проекта правил.
Напряженность очевидна: суды не хотят, чтобы в ходе судебных процессов попадали поддельные аудио- или видеоматериалы, но некоторые судьи опасаются, что система может пытаться регулировать проблемы, которые она еще не в полной мере рассмотрела. Разумная осторожность или затягивание процесса? Вероятно, и то, и другое.
🏗️ Nvidia инвестирует до 2,1 миллиарда долларов в IREN в рамках сделки по созданию центров обработки данных для ИИ ↗
Компания Nvidia планирует инвестировать до 2,1 миллиарда долларов в оператора центров обработки данных IREN в рамках сделки, связанной с созданием инфраструктуры искусственного интеллекта мощностью до 5 гигаватт.
Вот что можно сказать о буме ИИ в одном предложении: чипов уже недостаточно, все гонятся за мощностью, землей, охлаждением и гигантскими вычислительными блоками где-нибудь в центре. Метафора фабрики становится почти буквальной.
Часто задаваемые вопросы
Какие изменения произошли во временном соглашении по Закону ЕС об искусственном интеллекте?
Предварительное соглашение упрощает некоторые положения европейского свода правил в области ИИ и откладывает введение некоторых правил для систем ИИ высокого риска. Оно также исключает из правил определенные механизмы. В то же время оно добавляет более жесткие меры, включая запрет на создание ИИ изображений сексуального характера без согласия и требования к водяным знакам для результатов, созданных ИИ.
Почему в этом обзоре новостей об ИИ соглашение с ЕС описывается одновременно как отмена прежних условий и как ужесточение контроля?
Соглашение смягчает некоторые положения Закона об искусственном интеллекте, откладывая или упрощая требования, особенно в отношении систем высокого риска. Но оно также ужесточает контроль в чувствительных областях, включая использование изображений, созданных ИИ без согласия, и маркировку контента, сгенерированного ИИ. В результате это воспринимается не как простая дерегуляция, а скорее как целенаправленная перестройка.
Для чего предназначены новые модели обработки голоса в реальном времени от OpenAI?
Новые модели обработки звука в реальном времени от OpenAI разработаны для более сложных рабочих процессов голосового управления для разработчиков. В статье упоминаются GPT-Realtime-2, GPT-Realtime-Translate и GPT-Realtime-Whisper. Эти модели предназначены для анализа речи в реальном времени, перевода, транскрипции и голосового взаимодействия, подобного взаимодействию агентов, а не для простых голосовых ответов в стиле чат-ботов.
Как работает функция «Доверенный контакт» в ChatGPT?
Функция «Доверенный контакт» описывается как дополнительная функция безопасности для взрослых пользователей ChatGPT. Она позволяет пользователю назначить человека, который может быть уведомлен, если система и обученные специалисты обнаружат серьезную проблему, связанную с самоповреждением. В статье подчеркивается, что это дополнительный уровень поддержки, а не замена линиям экстренной помощи, службам экстренной медицинской помощи или профессиональной медицинской помощи.
Почему финансирование проекта Moonshot AI важно в новостях об искусственном интеллекте?
По сообщениям, компания Moonshot AI привлекла около 2 миллиардов долларов при оценке в 20 миллиардов долларов, получив поддержку китайских инвесторов, включая венчурное подразделение Meituan. В статье это объясняется растущим спросом на модели с открытыми весами. Линейка моделей Kimi от Moonshot, как утверждается, набирает популярность среди разработчиков, особенно там, где привлекательна более дешевая обработка данных.
О каких рисках кибербезопасности, связанных с ИИ, предупреждал МВФ?
МВФ предупредил, что ИИ может сделать кибератаки быстрее, дешевле и проще масштабируемыми. Его беспокоит то, что это может угрожать финансовой стабильности, если злоумышленники будут более эффективно использовать уязвимости в банках, рынках или платежных системах. В статье указывается на повышение устойчивости, усиление надзора и международную координацию как на важные меры реагирования.