🛡️ Британские регулирующие органы спешат оценить риски новейшей модели антропогенного ИИ, сообщает Financial Times ↗
Как сообщается, британские финансовые регуляторы быстро продвигаются в разработке новой модели Mythos от компании Anthropic после опасений, что она может выявить серьезные уязвимости в критически важных системах. В переговорах участвуют Банк Англии, Управление по финансовому регулированию и надзору (FCA), Казначейство и Национальный центр кибербезопасности — внушительный состав для предварительного ознакомления с моделью.
Опасения вызывает тот факт, что Mythos обладает необычайной способностью обнаруживать уязвимости программного обеспечения, несмотря на заявления Anthropic о том, что внедрение строго ограничено и направлено на обеспечение защитной безопасности. Ожидается, что банки, страховые компании и биржи получат информацию, поэтому теперь это больше похоже не на сплетни из лаборатории, а на политику в области инфраструктуры.
🤖 На конференции HumanX все говорили о Клоде ↗
На конференции HumanX, казалось, антропоцентризм задал тон — вот и вся суть. На панельных дискуссиях, в беседах с поставщиками и в коридорах Клод постоянно упоминался как модель, которую люди больше всего хотели бы видеть в качестве основы для бизнес-процессов и программирования.
Наиболее примечательным было относительное молчание вокруг ChatGPT. В статье говорится, что у OpenAI по-прежнему есть масштаб и деньги, но на конференции настроение склонялось к тому, что Claude является инструментом, пользующимся на данный момент большей популярностью у предприятий — по крайней мере, так кажется.
📄 Claude от Anthropic для Word — это еще один вызов программной империи Microsoft ↗
Компания Anthropic выпустила бета-версию Claude для Word, расширив свою специализацию на повседневном офисном программном обеспечении, вместо того чтобы оставаться ограничивающимся инструментом для разработчиков. Программа может отвечать на вопросы о документе с помощью кликабельных ссылок на разделы, редактировать выделенный текст без нарушения форматирования и обрабатывать отслеживаемые изменения.
Целевая аудитория довольно ясна: команды, работающие с большим объемом документов, особенно юридические и финансовые. Это делает данное нововведение не просто добавлением новой функции, а прямым намеком на территорию Microsoft и довольно дерзким шагом.
🌐 Искусственный интеллект-боты грабят интернет, и Anthropic лидирует в этом направлении ↗
Новый анализ данных Cloudflare показывает, что компании, занимающиеся искусственным интеллектом, извлекают из интернета гораздо больше, чем возвращают пользователям. Ключевой показатель — соотношение количества посещений и переходов по ссылкам: как часто боты парсяют страницы и как часто они отправляют пользователей обратно. Компания Anthropic демонстрирует особенно плохие результаты в этом отношении.
По данным Anthropic, соотношение составляет 8800 к 1, у OpenAI оно также высокое, но значительно ниже. Главный вывод очевиден: старая схема работы с веб-сайтами заключалась в том, чтобы сначала просканировать нас, а затем направить трафик. Системы обработки данных на основе ИИ сохраняют первую часть, а вторая постепенно исчезает.
⚔️ Рассмотрим эскалацию глобальной гонки вооружений в области искусственного интеллекта, в рамках которой США, Китай, Россия и другие страны спешат создать автономное оружие и системы обороны, использующие возможности ИИ ↗
В последних материалах о военном ИИ речь идет не столько о эффектных демонстрациях, сколько о стратегическом ускорении. Крупные державы одновременно продвигают автономные системы обороны и системы обороны с поддержкой ИИ, из-за чего все это напоминает эстафету, где все схватили эстафетную палочку и забыли про тормоза.
Это поднимает обычные вопросы — контроль, эскалация, подотчетность — но сейчас с большей остротой. Как только ИИ будет глубже внедрен в системы целеуказания, наблюдения и принятия решений на поле боя, слово «экспериментальный» начнет звучать как бумажная этикетка на уже запущенном проекте.
🏭 Японская компания SoftBank запускает подразделение по разработке собственного искусственного интеллекта ↗
Компания SoftBank объединилась с Sony, Honda и другими японскими компаниями для создания нового предприятия в сфере искусственного интеллекта, ориентированного на «физический ИИ» — модели, предназначенные для управления машинами и роботами, а не просто для текстового ответа. Это совершенно иное направление, нежели обычные конкурсы чат-ботов, и, возможно, более интересное.
Амбиции огромны, и, как сообщается, усилия направлены на создание очень крупной базовой модели и длительный период до промышленного применения. Это отчасти национальная технологическая стратегия, отчасти амбициозный проект, отчасти аниме про роботов с заседаниями совета директоров.
Часто задаваемые вопросы
Почему британские регулирующие органы внимательно изучают модель Mythos компании Anthropic?
Согласно сообщениям, британские власти рассматривают Mythos как потенциальный риск, поскольку эта программа может быть необычайно эффективна в обнаружении уязвимостей программного обеспечения. Сообщается, что в обсуждениях участвуют Банк Англии, Управление по финансовому регулированию и надзору (FCA), Казначейство и Национальный центр кибербезопасности. Такое сочетание институтов свидетельствует об обеспокоенности по поводу возможного воздействия на критически важные системы, особенно в финансовой и инфраструктурной сферах.
Чем модель «Антропический миф» отличается от обычного выпуска ИИ?
Обеспокоенность вызывает не только то, что это новая модель, но и то, что она, по-видимому, особенно эффективна в задачах защиты, связанных с обнаружением уязвимостей программного обеспечения. По сообщениям, компания Anthropic заявляет о строго ограниченном доступе, что говорит о более осторожном подходе к внедрению, чем к широкому запуску для потребителей. На практике это создает ощущение скорее контролируемой системы безопасности, чем стандартного обновления чат-бота.
Почему Клоду было уделено так много внимания на конференции HumanX?
Согласно статье, Клод неоднократно упоминался на панельных дискуссиях, в беседах с поставщиками и в неформальных обсуждениях как перспективный вариант для бизнес-процессов и разработки программного обеспечения. В статье отмечается, что Anthropic пользовался значительной популярностью у корпоративных пользователей на этом мероприятии. Также предполагается, что отношение к HumanX на ChatGPT было более сдержанным, несмотря на то, что OpenAI по-прежнему обладает значительными масштабами и ресурсами.
Что же на самом деле делает Claude for Word для команд, работающих с большим количеством документов?
Описанная здесь бета-версия предназначена для работы внутри документов, а не просто для генерации автономного текста. Она может отвечать на вопросы о документе с цитатами из разделов, редактировать выбранные фрагменты без нарушения форматирования и обрабатывать отслеживаемые изменения. Это делает её особенно актуальной для юридических, финансовых и других отделов, которым требуется тщательная проверка, а не черновой вариант.
Что говорит соотношение количества посещений к количеству переходов о ботах с искусственным интеллектом и об интернете?
В статье этот показатель представлен как способ сравнения того, насколько активно компании, занимающиеся искусственным интеллектом, индексируют веб-сайты, и как часто они возвращают пользователей на них. В таком контексте очень высокий показатель предполагает извлечение контента с небольшим обратным трафиком. Компания Anthropic, по данным этого показателя, демонстрирует особенно низкие результаты, что усиливает общую критику в адрес поисковых систем, использующих ИИ, которые могут ослабить старый механизм обмена между индексацией и реферальными ссылками.
Почему прогресс в области ИИ связывают как с автономным оружием, так и с физическим ИИ?
В статье указываются две взаимосвязанные тенденции: правительства ускоряют разработку оборонных систем на основе ИИ, а такие компании, как SoftBank, поддерживают модели, предназначенные для управления машинами и роботами. Вместе они показывают, что ИИ выходит за рамки чатов и поиска и переходит к физическим системам, способным воспринимать информацию, принимать решения и действовать. Это поднимает более масштабные вопросы о контроле, подотчетности, промышленном применении и о том, как быстро эти системы перейдут из экспериментального состояния в практическое.