🏛️ Как крупные технологические компании добились своего при принятии указа Трампа об искусственном интеллекте ↗
Трамп отказался от запланированного указа об искусственном интеллекте, который бы предусматривал проведение проверок безопасности новых моделей. Причина, по сути: не замедлять Америку в гонке с Китаем.
Примечательно, что, по сообщениям, распоряжение и без того было довольно мягким — добровольным, а не представляло собой какой-то всеобъемлющий регуляторный инструмент. Тем не менее, лидеры технологической отрасли оказали ему сильное сопротивление и добились своего. (The Guardian)
🛡️ Система искусственного интеллекта Claude Mythos обнаружила 10 000 серьезных уязвимостей в широко используемом программном обеспечении ↗
Компания Anthropic заявила, что в рамках проекта Glasswing с помощью Claude Mythos Preview было обнаружено более 10 000 уязвимостей высокой или критической степени серьезности. Это впечатляет, но в то же время создает ощущение, будто пожарная сигнализация надела плащ.
Компания заявляет, что 1726 обнаруженных уязвимостей подтверждены как истинно положительные, 97 исправлены в исходном коде, и выпущено 88 уведомлений. Сейчас самая сложная задача — не поиск ошибок, а их исправление до того, как злоумышленники получат доступ к тем же инструментам. (The Hacker News)
🛰️ Белый дом выделил 9 миллиардов долларов разведывательным ведомствам на освоение искусственного интеллекта ↗
Белый дом одобрил секретный запрос на сумму 9 миллиардов долларов на закупку передовых чипов для американских разведывательных агентств, предназначенных для запуска передовых моделей искусственного интеллекта в секретных целях.
Конгрессу еще предстоит утвердить увеличенное финансирование, но 800 миллионов долларов перераспределяются на более быстрый доступ к вычислительным ресурсам. Скрытый смысл очевиден: даже спецслужбы теперь застряли в очереди на чипы для ИИ, что одновременно абсурдно и предсказуемо. (Inquirer.com)
🪞 «Нельзя контролировать всё»: растёт число пластических хирургов, которым поручают создавать «лица с помощью ИИ» ↗
Пластические хирурги говорят, что все больше пациентов приносят отредактированные с помощью ИИ селфи в качестве целей, к которым они стремятся после операции: более выразительные скулы, идеальная симметрия, безупречная кожа — весь этот невероятный список желаемых результатов.
Хирурги предупреждают, что ИИ может переставлять пиксели, а не анатомические структуры. Один из них проанализировал рекомендованные ИИ процедуры, стоимость которых может превышать 100 000 фунтов стерлингов, и которые все равно не позволят добиться желаемого результата. Мрачный маленький зеркальный лабиринт, вот что это такое. (The Guardian)
💰 Компания Anthropic планирует закрыть раунд финансирования на сумму более 30 миллиардов долларов уже на следующей неделе ↗
По имеющимся данным, компания Anthropic близка к привлечению инвестиций на сумму более 30 миллиардов долларов, при оценке её стоимости выше 900 миллиардов долларов. Да, эта цифра просто зашкаливает.
Этот раунд финансирования обусловлен огромным спросом на Claude в таких областях, как программирование, бизнес-процессы и кибербезопасность. Компания также стремится получить больше вычислительных ресурсов, поскольку в современном ИИ деньги — это в основном топливо, которое носит костюм. (Business Standard)
🖼️ Изображения в ChatGPT содержат невидимые маркеры ИИ, которые может обнаружить любой: что должны знать пользователи, которые не могут раскрыть информацию о генерированном ИИ ↗
Теперь изображения, полученные с помощью OpenAI, содержат два сигнала происхождения: метаданные C2PA и водяной знак SynthID от Google DeepMind. Один из них обеспечивает более полный контекст файла, а другой предназначен для сохранения данных при создании скриншотов и сжатии.
Также доступен инструмент публичной проверки, находящийся в стадии предварительного просмотра. Он не является абсолютно надежным — исследователи демонстрировали атаки с использованием водяных знаков — но делает утверждение «Я совершенно точно не использовал ИИ» гораздо более рискованной ложью. (Tech Times)
Часто задаваемые вопросы
Почему Трамп отказался от запланированного указа об искусственном интеллекте?
В статье говорится, что планируемый указ об искусственном интеллекте был смягчен после давления со стороны лидеров крупных технологических компаний. Изначально указ описывался как относительно мягкий и добровольный, с упором на проверку безопасности новых моделей ИИ. Главный аргумент против него заключался в том, что дополнительные процедуры проверки могут замедлить гонку США с Китаем в области ИИ.
Что обнаружил Клод Мифос из компании Anthropic в программном обеспечении?
Компания Anthropic сообщила, что в рамках проекта Glasswing с помощью инструмента Claude Mythos Preview было выявлено более 10 000 уязвимостей высокой или критической степени серьезности в широко используемом программном обеспечении. В статье отмечается, что 1726 обнаруженных уязвимостей были подтверждены как истинно положительные, и уже выпущены некоторые исправления и рекомендации. Более широкий вопрос заключается в том, смогут ли специалисты по защите устранить эти уязвимости до того, как злоумышленники начнут использовать аналогичные инструменты искусственного интеллекта.
Почему американские спецслужбы запрашивают больше чипов с искусственным интеллектом?
В статье говорится, что Белый дом одобрил секретный запрос на выделение 9 миллиардов долларов для оказания помощи американским разведывательным агентствам в приобретении передовых чипов для передовых моделей искусственного интеллекта. Цель состоит в поддержке секретной работы в области ИИ, требующей больших вычислительных мощностей. В ней также отмечается, что Конгрессу еще предстоит утвердить более широкое финансирование, а часть средств перераспределяется для ускорения доступа к ним.
Что означает «лицо, созданное с помощью ИИ» в косметической хирургии?
Термин «лицо, созданное ИИ» относится к пациентам, которые приносят пластическим хирургам отредактированные с помощью ИИ селфи в качестве примеров того, как они хотели бы выглядеть. На этих изображениях могут быть более четкие черты лица, идеальная симметрия или неестественно выглядящая кожа. Хирурги, цитируемые в статье, предупреждают, что ИИ может легко изменять пиксели, но реальная анатомия имеет ограничения, которые хирургия не всегда может преодолеть.
Как невидимые маркеры на изображениях в ChatGPT влияют на пользователей?
В статье говорится, что выходные данные изображений ChatGPT теперь включают сигналы происхождения, такие как метаданные C2PA и водяные знаки SynthID. Эти маркеры могут помочь идентифицировать изображения, созданные с помощью ИИ, в том числе в случаях, когда кто-то не хочет раскрывать информацию об использовании ИИ. В статье также отмечается, что водяные знаки не являются абсолютно надежными, но они упрощают обнаружение скрытого использования изображений с помощью ИИ.