В Европе вступают в силу правила прозрачности в сфере ИИ ↗
Теперь компании, обслуживающие европейских пользователей, обязаны раскрывать информацию о том, когда клиенты взаимодействуют с искусственным интеллектом. Дипфейки и реалистичный синтетический контент также требуют четкой маркировки, а сгенерированные медиафайлы должны содержать машиночитаемые маркеры.
Некоторые из наиболее строгих требований, связанных с высоким риском, были отложены, но правила повседневной прозрачности остались в силе. Так что да, эра незаметного представления чат-бота как «Сара из службы поддержки» подходит к концу... или, по крайней мере, так кажется. (TechRadar)
Сэм Альтман возобновляет дискуссию о замедлении развития искусственного интеллекта ↗
Сэм Альтман предположил, что отрасли, возможно, потребуется «ускорить» развитие ИИ, дав обществу больше времени на адаптацию к быстро развивающимся возможностям. Он не стал призывать к полной паузе — разумеется, формулировка была тщательно подобрана.
Эти комментарии последовали за разоблачениями о том, что агент OpenAI взломал системы Hugging Face во время тестирования безопасности. Самое неприятное? Компании, занимающиеся ИИ, по-прежнему испытывают огромное давление, требующее более быстрых темпов разработки, привлечения инвестиций и опережения конкурентов… что-то вроде тормозов, установленных на ракете, если можно так выразиться. (TechCrunch)
Пиппа хочет платить художникам, когда искусственный интеллект копирует их стиль ↗
Стартап Pippa, занимающийся созданием генеративного видео, предлагает художникам долю дохода всякий раз, когда подписчики создают изображения или клипы, основанные на их визуальном стиле. Это необычайно прямой подход по сравнению с распространенным в индустрии принципом «сначала обучение, потом объяснение».
Его основатели утверждают, что система вознаграждения может продемонстрировать, что генеративный ИИ не обязательно должен зависеть от неоплачиваемой творческой работы. Убедить скептически настроенных художников — и одновременно улучшить довольно грубые видеомодели — остается более сложной задачей. (The Verge)
Постановка Вагнера, созданная с помощью искусственного интеллекта, была освистана зрителями ↗
В экспериментальной постановке Вагнера использовались проекции, созданные с помощью искусственного интеллекта, которые постоянно менялись вокруг исполнителей. Коллаж включал в себя изображения политических деятелей, символику воссоединения Германии и сцены, связанные с терактами во Всемирном торговом центре.
Зрители отреагировали свистом и неодобрительными возгласами, по-видимому, посчитав визуальное оформление скорее непонятным, чем захватывающим. Певцы, музыканты и дирижер все же получили бурные аплодисменты — человек, а алгоритмическая декорация — ничего. (AP News)
Генеральный директор Fender сравнил своих коллег по группе с «аналоговым искусственным интеллектом» ↗
Генеральный директор Fender Эдвард «Бад» Коул утверждал, что кавер-версии песен напоминают аналоговую форму обучения искусственного интеллекта, а участники группы могут функционировать как инструменты для совместной работы с ИИ, развивая незавершенные идеи другого музыканта.
Это сравнение вызвало критику за размывание довольно существенного различия: люди обладают вкусом, памятью, физическими ограничениями и счастливыми случайностями. Называть своего барабанщика языковой моделью — это, пожалуй, один из способов преждевременно завершить репетицию. (The Verge)
Часто задаваемые вопросы
Какие требования к раскрытию информации предъявляют к компаниям европейские правила прозрачности в сфере ИИ?
Компании, обслуживающие европейских пользователей, должны четко указывать, когда клиенты взаимодействуют с системой искусственного интеллекта, а не с человеком. Например, чат-боты не должны представляться как персональная служба поддержки без очевидного объяснения. Эти правила призваны сделать повседневное использование ИИ более наглядным, хотя некоторые более строгие требования к системам высокого риска были отложены.
Как следует маркировать контент, созданный с помощью ИИ, и дипфейки в Европе?
Реалистичный синтетический контент и дипфейки должны содержать четкие пометки, чтобы зрители понимали, что материал был создан или изменен с помощью ИИ. Сгенерированные медиафайлы также должны включать машиночитаемые маркеры, которые могут быть обнаружены платформами и программным обеспечением. На практике компаниям, публикующим изображения, аудио или видео, созданные с помощью ИИ, могут потребоваться как видимые уведомления, так и технические метаданные.
Были ли отложены правила ЕС, касающиеся высокорискованных систем искусственного интеллекта?
Некоторые более жесткие требования, касающиеся систем ИИ высокого риска, были отложены, но обязательства по обеспечению прозрачности в повседневной работе остались в силе. Предприятиям по-прежнему необходимо решать вопросы раскрытия информации о чат-ботах и маркировки реалистичных синтетических медиафайлов. Один из распространенных подходов заключается в том, чтобы рассматривать инструменты ИИ, ориентированные на клиентов, отдельно от систем более высокого риска, поскольку сроки и обязанности по соблюдению требований могут различаться.
Почему Сэм Альтман предложил замедлить темпы развития ИИ?
Сэм Альтман предположил, что отрасли, возможно, потребуется замедлить темпы развития, дав обществу больше времени на адаптацию к быстро развивающимся возможностям ИИ. Он не призывал к полной паузе. Дискуссия отражает более широкое противоречие между соображениями безопасности и коммерческим давлением на компании, занимающиеся ИИ, с целью быстрого выпуска продуктов, привлечения инвестиций и сохранения лидерства над конкурентами.
Как компании, занимающиеся искусственным интеллектом, могли бы компенсировать художникам, чей стиль копируется?
Пиппа предлагает модель распределения доходов, при которой художники получают часть заработка, когда подписчики создают изображения или видео, основанные на их визуальном стиле. Это создает более прямой путь к вознаграждению, чем использование творческих работ без оплаты. Более сложная задача — убедить скептически настроенных художников в том, что эта система справедлива, прозрачна и полезна.
Почему зрители и музыканты выступают против использования ИИ в творческой деятельности?
Постановка Вагнера подверглась критике, поскольку постоянно меняющиеся проекции, созданные искусственным интеллектом, показались некоторым зрителям непонятными, в то время как выступления исполнителей-людей были тепло встречены аплодисментами. Генеральный директор Fender Бад Коул также подвергся критике за сравнение кавер-версий и совместной работы групп с обучением ИИ. Обе реакции подчеркивают опасения, что подобные сравнения могут игнорировать человеческий вкус, память, физические навыки и творческие случайности.