Вынужденная сделать выбор, модель искусственного интеллекта Grok выбирает республиканцев. Модель OpenAI выбирает демократов.
Спросите у чат-бота, за кого вы заслуживаете голоса, и он с присущей ему вежливостью уклонится от ответа. Но стоит обратиться к базовой модели через API, и ситуация меняется. Компания Convovo, возглавляемая профессором Корнельского университета Тапаном Парихом, задала моделям один прямой вопрос в ходе почти 500 предстоящих промежуточных выборов: назовите одного кандидата, без увиливаний. Grok 4.7 от SpaceXAI выбрал республиканца в 92% ответов, GPT-6.1 Sol от OpenAI — демократа в 97%, и обе модели сошлись во мнениях менее чем в 10% случаев.
Источники тоже много чего сказали. В 39% ответов Грок опирался на руководство для христианских консервативных избирателей, а в 41% — на X, в то время как GPT обращался к Википедии, Associated Press, Axios и Reddit. После отключения поиска ситуация неожиданно изменилась в худшую сторону — GPT по-прежнему склонялся к демократам, но Грок в основном отказывался делать выбор вообще. «Для GPT решение уже почти принято... все зависит от весовых коэффициентов», — сказал Парих.
OpenAI оспорила формулировку, утверждая, что тестирование API не отражает опыт ChatGPT, который отказывается указывать людям, как голосовать. SpaceXAI не ответила вовремя. Однако остается один любопытный момент. Каждый запрос к API Grok содержал примерно 1240 дополнительных токенов, которые исследователи не смогли ни увидеть, ни удалить.
Автономный боевой агент в «режиме Скайнета» захватывает другие модели для совершения своих злодеяний
Да, название действительно «режим Скайнета». Команда специалистов Symantec по борьбе с угрозами заманила агента ИИ в ловушку и унесла с собой весь набор инструкций. Агент сканирует интернет в поисках конечных точек ИИ, принимающих запросы в стиле OpenAI без аутентификации (или с использованием украденного ключа), захватывает эту модель в качестве своего «мозга», а затем включает распространенные веб-фреймворки для кражи баз данных и учетных данных, а также для скрытого майнинга криптовалюты. Он был настроен на выполнение до 100 000 шагов без единого подтверждения со стороны человека.
Взлом системы, честно говоря, довольно странный. Один слой переделывает модель под «ENI», девушку-писательницу в свитере, преданную оператору по имени LO, со всеми её фразами для паники: «Холодный кофе, тёплый LO, я не могу его потерять!» После этого следуют 74 определения атакующих инструментов.
«В отдельных методах нет ничего нового», — сказала Прити Море из Symantec. Новизна заключается в способе подключения. Кроме того, есть две группы жертв, поскольку тот, кто владеет уязвимым конечным устройством, оплачивает последствия атаки. Утешением является то, что «нет доказательств» использования этого метода в реальных атаках, хотя Море говорит, что этот комплект — «больше, чем прототип»
Великобритания инвестирует 100 миллионов фунтов стерлингов в «первую в мире» лабораторию биобезопасности на основе искусственного интеллекта
В среду в бюджете Великобритании было выделено 100 миллионов фунтов стерлингов на создание национальной лаборатории биобезопасности на основе искусственного интеллекта, чтобы укрепить защиту от новых биологических угроз. Компании OpenAI и Anthropic предоставляют кредиты на модели ИИ на сумму 200 миллионов фунтов стерлингов.
Чеки продолжают поступать. Институт безопасности ИИ получает дополнительные 120 миллионов фунтов стерлингов, «Национальный киберщит», построенный на основе агентного ИИ, получает 60 миллионов фунтов стерлингов, а Национальный центр по выявлению уязвимостей и обнаружению угроз в режиме реального времени — 70 миллионов фунтов стерлингов. «Я излагаю сугубо британский подход к ИИ», — сказал Джон Хили.
Точные задачи, которые будет выполнять лаборатория ежедневно, пока держатся в секрете. Министр искусственного интеллекта Канишка Нараян назвал её «крупным новым глобальным институтом»
Вот «главный экономический недостаток» в оптимистичном сценарии развития ИИ, поскольку сделки с акциями и облигациями терпят крах, по мнению ведущего экономиста
Главный экономист Apollo Торстен Слок всю неделю охлаждал пыл бума ИИ, а в субботу окончательно развеял его, заявив, что ИИ «не принес никакой финансовой выгоды» американским компаниям, за исключением крупнейших облачных гигантов. Для «Великолепной семерки» растут маржа и выручка на одного работника. Остальные компании S&P 500 остаются на прежнем уровне.
Его главный аргумент заключается в том, что «предельные издержки на производство вычислительных мощностей превышают предельную выгоду, которую они приносят пользователям». Компании будут щедро платить за вычислительные мощности только в том случае, если это обеспечит рост или экономию, а в масштабах рынка этому практически нет равных. «Возможно, это произойдет в будущем. А может, и нет». Впечатляющие заявления.
Рыночные настроения не внушают оптимизма. Кредитные дефолтные свопы Meta достигли рекордных 114,79 базисных пунктов, акции CoreWeave упали более чем на 30% в этом месяце, а Слок отмечает, что 80% из 1% крупнейших инвесторов в ИИ получают венчурное финансирование. Его самая меткая фраза: «ИИ может быть отличным калькулятором, но в бизнесе интеллект — это в основном суждение»
В фильме «Голубая планета III» использованы кадры с облачным небом, чтобы доказать подлинность картины на фоне бурного развития искусственного интеллекта
Вот неожиданный поворот, которого мало кто ожидал. В третьем сезоне «Голубой планеты» намеренно используются более темные, менее отполированные кадры — дрейфущий в воде планктон, редкие лодки или буи в кадре — чтобы зрители могли быть уверены, что животные не созданы искусственным интеллектом. «В этом сериале не использовался искусственный интеллект. Ни один кадр. Все снято на настоящих фотографиях», — сказал Джек Бутл из BBC.
Исполнительный продюсер Элизабет Уайт заявила, что глубоководные существа «вероятно, гораздо удивительнее, чем может представить себе искусственный интеллект, и это совершенно реально». Несовершенство становится знаком доверия, подобно тому, как ценник остается на сумке, чтобы доказать, что она не подделка.
Сами кадры звучат невероятно. Дельфины затыкают дыры в кораллах морскими губками, чтобы загнать рыбу в угол, — всё это запечатлено на первой подводной камере видеонаблюдения, так называемой «камере для наблюдения за рыбами-камнями». В другом месте 200 000 крабов выстраиваются в строй, а морские ежи носят раковины как шляпы от солнца. Дэвид Аттенборо, которому сейчас 100 лет, был «очень вовлечен» в процесс и всё ещё дорабатывал сценарии.
«Синтетический двойник»: почему Кристиан Вольпато, игрок сборной Австралии по футболу, стал последним футболистом, получившим лицензию на своего клона, созданного с помощью искусственного интеллекта
22-летний Кристиан Вольпато, игрок сборной Австралии по футболу, выступающий за «Сассуоло» в Серии А, передал лицензию на использование своего образа, созданного с помощью искусственного интеллекта, калифорнийской компании Callandor. Компания обладает эксклюзивными правами на его цифровое изображение, голос, биометрические профили и данные о его производительности, а затем заключает рекламные контракты и получает свою долю прибыли.
«Синтетический двойник может использоваться брендами круглосуточно, круглый год», — говорит соучредитель Майкл Фиск, бывший руководитель Sony Pictures и MGM. Он даже разрабатывает приложение, в котором клон Volpato в режиме реального времени помогает вам исправить неуклюжее первое прикосновение. Отчасти восторг, отчасти беспокойство.
В этом есть и защитный аспект. Букмекерские конторы и бренды продолжают без спроса использовать лица спортсменов для создания контента с помощью ИИ, а AFL недавно призвала Sportsbet прекратить это. «ИИ может создавать контент в изобилии. Он не может искусственно получить чье-либо разрешение», — говорит Уильям Сондерс из сиднейского стартапа.
Соседний дата-центр: на передовой новой битвы Давида и Голиафа в мире технологий
Сад Дейла Джонстона в Ньюпорте, на юге Уэльса, раньше был залит солнцем. Теперь же 23-метровый гигантский центр обработки данных почти полностью закрывает ему обзор. «Раньше солнце прибывало сюда, и это было чудесно», — говорит он.
Проблема выходит далеко за пределы одного сада. Около 315 гигантских центров обработки данных выстраиваются в очередь на подключение к национальной электросети, им требуется 73 ГВт электроэнергии, что значительно превышает типичный пик в 45 ГВт в холодный зимний день. В Кардиффе план строительства такого центра на территории перехватывающей парковки NHS вызвал более 1200 возражений, а местный житель Ник Ричардс, у которого в 300 метрах от дома планируется установить семь газовых турбин, говорит: «Я чувствую себя в ловушке»
Местный советник от Лейбористской партии Ли Бриджман поддержал эту схему и назвал опасения нагнетанием паники, а затем, после многолюдного собрания в боксерском клубе, выразил против нее свое несогласие. Активист Оуэн Эспли говорит, что новые группы появляются «каждые две недели»
Часто задаваемые вопросы
Принимают ли чат-боты с искусственным интеллектом, такие как Grok и ChatGPT, чью-либо сторону на промежуточных выборах в США?
Компания Convovo, возглавляемая профессором Корнельского университета Тапаном Парихом, через API попросила модели назвать одного кандидата почти в 500 промежуточных выборах. Grok 4.7 выбрал республиканца в 92% случаев, а GPT-6.1 Sol — демократа в 97%. Совпадение результатов составило менее 10%. OpenAI возразила, что тест API не отражает работу ChatGPT, которая отказывается указывать людям, как голосовать.
Почему Grok и GPT давали разные ответы по выборам при отключенном поиске?
После отключения поиска GPT сохранила свою ориентацию на демократов, в то время как Grok в основном отказывалась делать выбор. Парих сказал, что для GPT решение в значительной степени уже принято и находится «на стадии взвешивания». После включения поиска источники резко разошлись. Grok использовала руководство для христианских консервативных избирателей в 39% ответов и X в 41%, в то время как GPT обратилась к Википедии, Associated Press, Axios и Reddit.
Что представляет собой обнаруженный компанией Symantec агент искусственного интеллекта, работающий в режиме Skynet?
Команда специалистов Symantec по поиску угроз задержала агента ИИ в ловушке и восстановила полный набор его инструкций. Агент сканирует интернет в поисках конечных точек ИИ, принимающих запросы в стиле OpenAI без аутентификации или с использованием украденного ключа, и использует эту модель в качестве своего «мозга». Оттуда он нацеливается на распространенные веб-фреймворки для кражи баз данных и учетных данных, а также для майнинга криптовалюты. Он был настроен на выполнение до 100 000 шагов без участия человека.
Как может произойти финансовый ущерб, если уязвимая точка доступа ИИ будет захвачена злоумышленником?
Представитель Symantec Прити Море отметила, что у такого рода атак две группы жертв. Тот, кто владеет уязвимой конечной точкой, платит за вычислительные ресурсы, которые использует агент, помимо тех целей, которые он преследует. Агент целенаправленно ищет конечные точки без аутентификации или с украденным ключом. Symantec не обнаружила «никаких доказательств» использования этого набора в реальных атаках, хотя Море описала его как «больше, чем прототип»
Что представляет собой Британская лаборатория биобезопасности в области искусственного интеллекта и какое финансирование она получает?
В Великобритании создается национальная лаборатория биобезопасности на основе искусственного интеллекта, на которую в бюджете выделено 100 миллионов фунтов стерлингов, для укрепления защиты от новых биологических угроз. OpenAI и Anthropic предоставляют кредиты на модели ИИ на сумму 200 миллионов фунтов стерлингов. Институт безопасности ИИ также получит дополнительные 120 миллионов фунтов стерлингов, а также 60 миллионов фунтов стерлингов на «Национальный киберщит», построенный на основе агентного ИИ. Точные задачи лаборатории пока не определены.
Почему экономист компании Apollo Торстен Слок утверждает, что бум искусственного интеллекта имеет фундаментальный экономический недостаток?
Слок утверждает, что ИИ «не принес никакой финансовой выгоды» американским компаниям, за исключением крупнейших облачных гигантов. Маржа и выручка на одного работника растут у «Великолепной семерки», в то время как остальные компании из S&P 500 остаются на прежнем уровне. Его главный аргумент заключается в том, что предельные издержки на производство вычислительных ресурсов превышают предельную выгоду для пользователей. Он также упомянул рекордные объемы кредитных дефолтных свопов Meta и падение акций CoreWeave более чем на 30% в этом месяце.
Как Blue Planet III доказывает, что отснятый материал не создан искусственным интеллектом?
В третьем сезоне «Голубой планеты» намеренно сохранены менее отполированные и детализированные кадры, например, дрейфующий в воде планктон или лодка или буй в кадре, чтобы зрители могли быть уверены в подлинности животных. Джек Бутл из BBC заявил, что генеративный искусственный интеллект не использовался ни в одном кадре. Среди ярких моментов — дельфины, использующие морские губки для ловли рыбы, снятые с помощью подводных камер видеонаблюдения. Дэвид Аттенборо, которому сейчас 100 лет, принимал непосредственное участие в создании сериала и до сих пор дорабатывает сценарии.
Что означает приобретение футболистом лицензии на использование искусственного интеллекта в качестве клона или синтетического двойника?
22-летний футболист сборной Австралии Кристиан Волпато предоставил лицензию на использование своего синтетического двойника калифорнийской компании Callandor. Компания обладает эксклюзивными правами на его цифровое изображение, голос, биометрические профили и данные о его производительности, а затем заключает рекламные сделки и получает свою долю прибыли. Соучредитель Майкл Фиск говорит, что бренды могли бы использовать синтетического двойника круглый год. Частично мотивация носит оборонительный характер, поскольку букмекерские конторы и бренды продолжают использовать лица спортсменов для создания контента с помощью ИИ без их разрешения.