OpenAI поддерживает законопроекты в Конгрессе США, касающиеся искусственного интеллекта и угроз биологического оружия
OpenAI поддерживает целый ряд двухпартийных законопроектов о биоданных — Закон о сети биологических данных, Закон о стандартах биоданных, готовых к использованию ИИ, Закон о масштабируемой биологии. Суть в том, чтобы остановить использование моделей для ускорения разработки биологического оружия и синтетических вирусов. Серьезные заявления для пресс-релиза, опубликованного во вторник.
И подождите — они также поддерживают часть закона FRONTIER Act, которая обязывает ведущие лаборатории привлекать независимых экспертов по оценке безопасности. Согласно сообщениям в Конгрессе, это первый случай, когда они подписали подобное конкретное федеральное предписание.
Итак… компания, которая годами твердила: «Доверьтесь нам», вдруг просит Конгресс заставить посторонних оглядываться через плечо. Прогресс и лоббистский театр могут идти рука об руку.
В любом случае, посыл ясен: биологический риск больше не является лишь примечанием в официальном документе.
Фонд Гейтса заявляет, что тратит 1 миллиард долларов на расширение доступа к искусственному интеллекту.
Пока лаборатории спорят о том, стоит ли притормозить развитие технологий, Фонд Гейтса только что пообещал выделить не менее миллиарда долларов в течение двух лет на внедрение искусственного интеллекта в работу людей, которым обычно достаются объедки.
Примерное распределение ресурсов в рамках проекта Goalkeepers: около 40% — образование, 40% — здравоохранение, 10% — сельское хозяйство, 10% — языки и цифровые решения. Это могут быть репетиторы по математике, инструменты для сельских клиник, помощники по уходу за почвой и посевами, а также наборы данных, чтобы модели не были навсегда ориентированы только на английский язык.
Позиция Гейтса предельно ясна: без вмешательства рынок в первую очередь создаст ИИ для самых богатых. Благотворительность может выглядеть как решение или временная мера для структурной проблемы. И всё же миллиард долларов — это не пустые слова.
Кроме того, — мобильная система УЗИ с использованием ИИ, которая стремится к результатам, сопоставимым с больничными. Впечатляюще, если её внедрят в больших масштабах.
Новая модель рассуждений от Salesforce и Nvidia – это всё, чего следует опасаться лабораториям искусственного интеллекта
На Dreamforce представлена Koa. Первая модель логического мышления CRM от Salesforce, обученная на платформе Nemotron от Nvidia с открытыми весами, предназначена для отделов продаж, поддержки и сложных многоэтапных корпоративных процессов, для решения которых обычно используются Claude и ChatGPT.
В процессе обучения не используются реальные данные о клиентах — вместо них синтетические персоны, включая «разгневанных звонящих», что слишком уж очевидно. Salesforce удерживает веса в пределах своих границ доверия. Их CRM-система утверждает, что количество ошибок уменьшается с уменьшением количества токенов. Токеномика. Любимый отраслевой слоган.
Но они не собираются отказываться от Anthropic. ClaudeForce всё ещё существует. Так что да — создавайте свой собственный механизм рассуждений и продолжайте арендовать передовые лаборатории. Противоречие. Незначительное. В духе Salesforce.
Пилотные проекты уже запущены — Формула-1, больницы, кредитные союзы. А вот передовым лабораториям, возможно, стоит немного поволноваться.
Теперь Meta позволяет агентам с искусственным интеллектом брать на себя рутинные этапы настройки WhatsApp Business
Решение Meta — это не столько экзистенциальная драма, сколько "пожалуйста, прекратите заставлять разработчиков кликать по двенадцати консолям". Новый инструмент WhatsApp Business Tools MCP позволяет Claude, Cursor, Codex, ChatGPT — выберите своего агента — настраивать бизнес-сообщения, просто обсуждая их в чате.
Создайте учетную запись. Подтвердите номер. Зарегистрируйтесь в Cloud API. Создавайте шаблоны. Отслеживайте веб-хуки. Даже будете напоминать вам о проблемах с условиями обслуживания или сбоях при оплате. Скучные рутинные задачи, которые никому не нужны.
И то, и другое может быть правдой: повсеместное использование чата и MCP для адаптации новых сотрудников до тех пор, пока что-нибудь не сломается самым забавным образом.
В общем, если вам вдруг показалось, что вы общаетесь в WhatsApp Business с чересчур настойчивым стажером, теперь вы знаете почему.
Глава Nvidia Хуанг расходится во мнениях с генеральными директорами Anthropic и OpenAI по вопросу безопасности ИИ на конференции Dreamforce
Та же сцена Moscone, но противоположные регистры. Амодей говорит Бениоффу, что темп — это то, как нужно руководить: подавайте пример, будьте лучше. Хуанг выходит и называет выбор между скоростью и безопасностью «ложным выбором». Рыночные силы. Новые законы не нужны. Бегите быстро… если только вы не собираетесь отправить что-то небезопасное, тогда сделайте паузу.
Позже Альтман заявил: безопасность и мониторинг важнее возможностей. «Здесь не должно быть никаких оговорок». Таким образом, три генеральных директора не придерживаются одной точки зрения. Возможно, они близки друг к другу.
В течение одного дня выступлений аудитория услышала весь спектр тем: проповеди о замедлении темпов работы, оптимизм «короля чипов» и акцент OpenAI на ответственности, исключающий любые возможности для отступления, кроме случаев, когда конкуренты жульничают.
Какой аргумент окажется убедительнее на практике, остаётся неясным. Следите за тем, что выйдет в следующем квартале. Слова ничего не стоят. Видеокарты — нет.
Испанская организация по защите данных опубликовала первый отчет об утечке данных, связанных с использованием ИИ-агентств
Испанская организация AEPD сообщила о первом случае утечки персональных данных, предположительно совершенной с помощью искусственного интеллекта, который использовал широко известную технологию LLM для поиска уязвимостей, проникновения в систему, изменения персональных данных и просмотра счетов-фактур.
Ограниченное вмешательство человека на нескольких этапах атаки. Вот что пугает. Это не научная фантастика. Инцидент с оформлением документов, в который заложена автономия.
Агентство проявляет осторожность: не называет ни модель, ни жертву; утверждает, что инфраструктура провайдера не была скомпрометирована только потому, что кто-то управлял агентом. Дело всё ещё находится на рассмотрении. Всё ещё вызывает беспокойство.
Один случай – это не тенденция. Но это уже и не теория. Диспетчеры, готовьте секундомеры – атаки стали еще быстрее.
Часто задаваемые вопросы
Какие законопроекты об искусственном интеллекте и биологическом оружии поддерживает OpenAI в Конгрессе?
OpenAI поддержала ряд двухпартийных законопроектов о биоданных, включая Закон о сети биологических данных, Закон о стандартах биоданных, готовых к использованию ИИ, и Закон о масштабируемой биологии. Цель состоит в том, чтобы остановить использование моделей для ускорения разработки биологического оружия и синтетических вирусов. OpenAI также поддерживает положение Закона FRONTIER, которое обязывает ведущие лаборатории привлекать независимых экспертов по оценке безопасности — по сообщениям, это первый случай, когда компания подписала подобное конкретное федеральное постановление. Биологический риск больше не рассматривается как сноска в официальном документе.
Как Фонд Гейтса тратит 1 миллиард долларов на обеспечение доступа к искусственному интеллекту?
Фонд Гейтса пообещал выделить не менее миллиарда долларов в течение двух лет на расширение доступа к ИИ для людей, которым обычно достаются лишь остатки. В рамках программы Goalkeepers примерно 40% средств распределяются между образованием, 40% — здравоохранением, 10% — сельским хозяйством и 10% — языками и цифровыми технологиями, включая репетиторов по математике, инструменты для сельских клиник, помощников по почве и урожаю, а также наборы данных, чтобы модели не были навсегда ориентированы только на английский язык. Гейтс утверждает, что без вмешательства рынок сначала создаст ИИ для самых богатых. Примером такого подхода, если он будет внедрен в больших масштабах, станет ультразвуковая диагностика с использованием ИИ на телефоне, обеспечивающая результаты больничного уровня.
Что представляет собой модель логического мышления Koa от Salesforce и Nvidia?
Koa — это первая модель логического мышления CRM от Salesforce, прошедшая обучение на платформе Nemotron от Nvidia с открытыми весами и предназначенная для отделов продаж, поддержки и сложных многоэтапных корпоративных процессов. В процессе обучения использовались синтетические образы — включая разгневанных звонящих — а не реальные данные клиентов, и Salesforce сохраняет веса в пределах своих границ доверия. Тесты CRM показывают меньше ошибок при меньшем количестве токенов. Salesforce не отказывается от Anthropic: ClaudeForce остается, поэтому компания разрабатывает собственный механизм логического мышления, продолжая при этом арендовать передовые лаборатории, пилотные проекты которых уже проводятся в Формуле-1, больницах и кредитных союзах.
Как MCP WhatsApp Business от Meta помогает агентам искусственного интеллекта?
Новый инструмент Meta WhatsApp Business Tools MCP позволяет таким агентам, как Claude, Cursor, Codex и ChatGPT, настраивать бизнес-мессенджер, просто обсуждая его в чате. Агенты могут создать учетную запись, подтвердить номер, зарегистрироваться в облачном API, создавать шаблоны, отслеживать веб-хуки и сообщать о сбоях в работе сервиса или платежах. Цель — заменить скучную работу с несколькими консолями, которую никто не хочет выполнять. Процесс адаптации корпоративных клиентов начинает больше напоминать разговор с чересчур усердным стажером, чем работу с двенадцатью административными экранами.
В чём заключалось расхождение взглядов Хуанга из Nvidia по вопросам безопасности ИИ с Anthropic и OpenAI?
На Dreamforce Амодей сказал Бениоффу, что темп — это то, как вы руководите: подавайте пример и становитесь лучше, — в то время как Дженсен Хуанг назвал выбор между скоростью и безопасностью ложным выбором, продиктованным рыночными силами, и заявил, что новые законы не нужны, если вы не собираетесь выпускать что-то небезопасное. Альтман позже подчеркнул важность безопасности и мониторинга, а не возможностей, без каких-либо оговорок. Три генеральных директора не были едины во мнениях: на одной и той же сцене звучали проповеди о замедлении темпов развития, оптимизм «короля чипов» и призыв OpenAI к ответственности. То, что будет выпущено в следующем квартале, будет иметь большее значение, чем основные тезисы доклада.
Что сообщило испанское ведомство по защите данных о взломе, совершенном с помощью искусственного интеллекта?
Испанское агентство по защите персональных данных (AEPD) опубликовало первое сообщение о предполагаемой утечке персональных данных, осуществленной с помощью ИИ-агента, использующего известную модель LLM для поиска уязвимостей, проникновения в систему, изменения персональных данных и просмотра счетов-фактур. Наиболее пугающей частью является ограниченное вмешательство человека на нескольких этапах атаки — инцидент с документацией, в который заложена автономия. Агентство не назвало модель или жертву и заявило, что инфраструктура поставщика услуг не была скомпрометирована только потому, что кто-то управлял агентом. Дело все еще находится на рассмотрении, но это уже не просто теория.