🕵️ Великобритания будет сотрудничать с Microsoft для создания системы обнаружения дипфейков ↗
Великобритания заявляет о сотрудничестве с Microsoft, учеными и другими экспертами для создания системы, способной распознавать дипфейки в интернете, а также для проверки эффективности инструментов обнаружения в реальных условиях.
Основной упор делается на наиболее серьезные последствия: выдача себя за другое лицо, мошенничество и распространение материалов сексуального характера без согласия. Не самые привлекательные вещи, но именно в них концентрируется основной ущерб.
🧠 Компания Anthropic выпускает обновление для ИИ, в то время как рынок наказывает акции компаний-разработчиков программного обеспечения ↗
Компания Anthropic выпустила обновленную модель Claude (Opus 4.6), обещающую более высокую производительность в программировании и финансах, а также возможность использовать до 1 миллиона токенов за один раз. Это очень много контекста — как если бы модели дали целый читательский билет.
Они также активно используют «агентов» через Claude Code, где задачи могут распределяться между автономными помощниками. Это очень удобно, даже больше, чем можно было ожидать, и одновременно тот сдвиг, который немного насторожил бы инвесторов в программное обеспечение старой школы.
🧑💼 Компания OpenAI представила сервис ИИ-агентов в рамках усилий по привлечению бизнеса ↗
Компания OpenAI анонсировала «Frontier», корпоративный сервис для создания и управления агентами искусственного интеллекта — ботами, выполняющими конкретные задачи, такие как отладка программного обеспечения, обработка рабочих процессов и тому подобное.
Изюминка в том, что он предназначен для интеграции с существующей инфраструктурой компании и даже поддержки сторонних агентов, что выглядит как стремление OpenAI стать не просто поставщиком моделей, но и центром управления. Амбициозно… или немного собственнически, в зависимости от того, как на это посмотреть.
🪖 США и Китай отказались от участия в совместной декларации об использовании ИИ в военных целях ↗
Ряд стран подписали необязывающую декларацию, в которой изложены принципы использования ИИ в военных действиях, такие как ответственность человека, четкие структуры командования, а также серьезное тестирование и оценка рисков.
Но США и Китай не подписали. В этом и заключается вся история в одном неловком моменте: свод правил существует, а крупнейшие игроки… не держат ручку.
🎭 Законодательство штата Нью-Йорк требует раскрытия информации об исполнителях, созданных с помощью ИИ, в рекламе и усиливает права на использование образа после смерти ↗
В Нью-Йорке приняли законы, требующие от рекламных объявлений, использующих созданных с помощью ИИ «синтетических исполнителей», четко указывать это аудитории в штате — даже если рекламодатель находится в другом месте. По сути, это означает: не следует подсовывать людям поддельных людей и называть это маркетингом.
Отдельно следует отметить ужесточение правил коммерческого использования изображений умерших людей, включая цифровые копии. Честно говоря, это довольно мрачно, но в то же время очень напоминает ситуацию, когда «в эпоху, когда для идентификации личности нужен ремень безопасности»
Часто задаваемые вопросы
Что разрабатывает Великобритания совместно с Microsoft для обнаружения дипфейков в интернете?
Великобритания заявляет о сотрудничестве с Microsoft, учеными и другими экспертами для создания системы, способной выявлять дипфейки в интернете. План также включает разработку надежного способа проверки эффективности инструментов обнаружения вне лабораторных условий. Основное внимание уделяется наиболее опасным видам преступлений: выдаче себя за другое лицо, мошенничеству и распространению контента сексуального характера без согласия.
Чем будет отличаться тестирование детекторов дипфейков в реальных условиях от демонстрационных версий?
Наряду с самим детектором, Великобритания уделяет особое внимание способу тестирования инструментов обнаружения дипфейков в реалистичных условиях. Во многих конвейерах модели хорошо работают на тщательно отобранных наборах данных, но ослабевают при изменении форматов контента, сжатия или тактики злоумышленников. Структурированный подход к оценке помогает последовательно сравнивать инструменты и выявлять слабые места в обнаружении в реальных онлайн-средах.
Какие изменения внесла компания Anthropic в Claude Opus 4.6, и почему ограничение на количество токенов имеет значение?
Компания Anthropic заявляет, что Claude Opus 4.6 улучшает производительность в таких областях, как программирование и финансы, и может обрабатывать до 1 миллиона контекстных токенов. Более широкое контекстное окно упрощает работу с длинными документами или сложными кодовыми базами без постоянной перезагрузки информации. Они также отметили «агентов» в Claude Code, позволяющих распределять задачи между автономными помощниками.
Что такое OpenAI “Frontier” и как он вписывается в корпоративные рабочие процессы?
Компания OpenAI анонсировала «Frontier» — сервис для предприятий, предназначенный для создания и управления агентами искусственного интеллекта, выполняющими конкретные задачи, такие как отладка программного обеспечения или обработка рабочих процессов. Он позиционируется как интегрируемый в существующую инфраструктуру компании, а не как автономная конечная точка модели. OpenAI также заявила о возможности поддержки агентов сторонних разработчиков, что подразумевает наличие уровня управления для координации различных систем агентов.
Что говорится в военной декларации об искусственном интеллекте и что она означает для управления ИИ?
Декларация описывается как не имеющая обязательной силы и излагает принципы использования ИИ в военных действиях, включая ответственность человека, четкие структуры командования, а также серьезное тестирование и оценку рисков. Агентство Reuters сообщило, что многие страны подписали ее, но США и Китай этого не сделали. Для управления ИИ такой отказ имеет значение, поскольку он оставляет крупнейших игроков за пределами общего набора заявленных норм.
Какие требования предъявляют новые правила Нью-Йорка к актерам, созданным с помощью ИИ, в рекламе?
В Нью-Йорке были приняты законы, требующие от рекламодателей, использующих созданных с помощью ИИ «синтетических исполнителей», четко указывать этот факт аудитории в штате, даже если рекламодатель находится в другом месте. Отдельно штат ужесточил права на использование изображений умерших людей в коммерческих целях, включая цифровые копии, после их смерти. На практике это подталкивает управление ИИ к более четкой маркировке и более жесткому контролю за использованием личных данных.