🧒 OpenAI внедряет функцию прогнозирования возраста в ChatGPT ↗
Компания OpenAI начала внедрять в ChatGPT слой «прогнозирования возраста» — скрытую систему, которая пытается определить, принадлежит ли учетная запись несовершеннолетнему, а затем включает дополнительные меры безопасности. Если система считает, что вам меньше 18 лет, она автоматически ограничивает доступ к более конфиденциальному контенту.
Когда система ошибается в угадывании (а это… иногда случается), решением становится проверка личности через Persona с использованием селфи. Это также вписывается в более широкие изменения платформы, такие как эксперименты с «режимом для взрослых» и шаги по монетизации, которые, честно говоря, ощущаются как одновременное ведение нескольких дел.
🏦 Британии необходимы «стресс-тесты искусственного интеллекта» для финансовых услуг, заявляют законодатели ↗
Британские законодатели, по сути, говорят: перестаньте быть такими равнодушными к ИИ в финансовой сфере. Их аргумент заключается в том, что регулирующие органы и правительство должны проверять системы ИИ на прочность так же тщательно, как банки проходят стресс-тестирование, — потому что «ошибки» в финансовой сфере имеют тенденцию быстро распространяться.
Проблема заключается в том, что подобные неприятности проявляются только в больших масштабах: предвзятость, каскадные ошибки, схемы мошенничества, петли обратной связи. Это как позволить малышу водить автобус, потому что дорога прямая… пока она вдруг не перестанет быть прямой.
🏛️ Назначены специалисты по искусственному интеллекту, которые помогут городу безопасно воспользоваться возможностями, предоставляемыми ИИ ↗
Правительство Великобритании назначило двух «чемпионов по ИИ», чтобы помочь ускорить внедрение ИИ в сфере финансовых услуг — с обычными обещаниями роста, повышения производительности, инвестиций и всего того, что звучит многообещающе.
Примечательно, что здесь соблюден баланс: энергия «действуй быстро» сочетается с принципом «безопасно». Обнадёживает… или слегка комично, в зависимости от вашего настроения в этот день.
💰 Humans&, стартап в области искусственного интеллекта, ориентированный на человека и основанный бывшими сотрудниками Anthropic, xAI и Google, привлек 480 миллионов долларов в рамках посевного раунда финансирования ↗
Компания Humans& ворвалась на рынок с огромным начальным раундом финансирования и командой, которая выглядит как «стартовый набор для лаборатории ИИ» — люди из крупных компаний, занимающихся моделированием, и больших технологических компаний. Заявленная цель — не столько чат-боты, сколько «помощь людям в координации и сотрудничестве», с системами, способными работать как с людьми, так и с агентами ИИ.
Это большие деньги за продукт, который находится на ранней стадии разработки, что либо свидетельствует об уверенности рынка… либо о том, что мы все вместе покупаем фейерверки, потому что нам нравится их звук. Честно говоря, возможно и то, и другое.
⚖️ Стартап Ivo, занимающийся разработкой юридического ИИ, привлек 55 миллионов долларов в последнем раунде финансирования ↗
Стартап Ivo, специализирующийся на юридическом ИИ, привлек новые инвестиции для развития своей платформы и масштабирования продаж, воспользовавшись волной автоматизации трудоемких документооборота в юридических фирмах и корпоративных юридических отделах.
Эта категория продолжает лидировать, потому что ее ценность очевидна и проста: меньше часов тратится на рутинную работу с документами, меньше упущений. Не самая привлекательная, но очень, очень прибыльная работа.
🧠 Тайваньская компания Inventec заявляет, что решение по чипу Nvidia H200 «похоже, застопорилось» на стороне Китая ↗
Тайваньский производитель серверов заявил, что вопрос о продаже компанией Nvidia своего чипа H200 AI в Китай, похоже, «зашел в тупик», подразумевая, что узкое место заключается не только во внешних правилах, но и в получении разрешений со стороны Китая или во внутренней динамике.
Такова непривлекательная реальность аппаратного обеспечения для ИИ: все говорят о моделях и агентах, но все будущее может зависеть от нескольких узких мест, разрешений и политических интриг в цепочке поставок. Это как планировать запуск ракеты… а потом понять, что забыл ключ от топливного клапана.
Часто задаваемые вопросы
Каков прогноз возраста, используемый OpenAI на ChatGPT, и что меняется, если вас помечают как лицо младше 18 лет?
OpenAI внедрила малозаметный слой «прогнозирования возраста», который пытается определить, принадлежит ли учетная запись несовершеннолетнему. Если система приходит к выводу, что вам меньше 18 лет, ChatGPT автоматически применяет дополнительные меры безопасности. На практике это обычно означает более жесткие ограничения на контент, считающийся более деликатным. Цель состоит в том, чтобы снизить риски, не заставляя каждого пользователя заранее указывать свой возраст.
Что произойдет, если система прогнозирования возраста ChatGPT окажется неверной?
Если система прогнозирования возраста в ChatGPT дает сбой и определяет совершеннолетнего как несовершеннолетнего, заявленным решением является проверка личности. В этой версии проверка осуществляется через Persona с использованием процесса на основе селфи. После проверки учетная запись может вернуться к обычному доступу, а не оставаться заблокированной более строгими ограничениями. Это компромисс: меньше рискованных ситуаций, но дополнительные сложности возникают, когда система ошибается в определении возраста.
Какую роль играет проверка личности с помощью селфи в подходе OpenAI к обеспечению безопасности?
Система Persona служит механизмом для разрешения неопределенности, связанной с возрастом, когда вывод системы считается ненадежным. Процесс проверки личности на основе селфи позиционируется как корректирующий шаг после неверного прогнозирования возраста. На многих платформах подобный шаг используется для обеспечения баланса между безопасностью и доступом без постоянной блокировки законных пользователей. Это также указывает на необходимость более жесткого контроля на уровне учетных записей, а не только на уровне фильтрации запросов.
Почему OpenAI добавляет возрастные ограничения именно сейчас, и какое отношение это имеет к «режиму для взрослых»?
Это обновление выходит одновременно с более масштабными изменениями на платформе, включая эксперименты с «режимом для взрослых» и шаги по монетизации, упомянутые в том же обсуждении. Функция прогнозирования возраста на ChatGPT фактически становится переключателем, определяющим, кому будут доступны более строгие настройки по умолчанию, а кому — более широкий доступ. Это полезно для платформы, тестирующей различные варианты взаимодействия с разными аудиториями. Это также может ограничить доступ к более рискованному контенту, одновременно позволяя расширять возможности на других платформах.
Что представляют собой «стресс-тесты ИИ» для финансовых услуг Великобритании, и почему законодатели хотят их внедрить?
Британские законодатели призывают к проведению «стресс-тестов ИИ», которые будут рассматривать системы ИИ скорее как банки: проверять их на прочность до того, как проблемы распространятся. Опасение вызывает то, что предвзятость, каскадные ошибки, схемы мошенничества и петли обратной связи могут стать видимыми только в больших масштабах. В финансовой сфере небольшие сбои могут быстро распространяться по тесно взаимосвязанным системам. Стресс-тестирование призвано выявлять слабые места на ранней стадии, до того, как это повлияет на реальные деньги и реальных клиентов.
Кто являются «чемпионами в области искусственного интеллекта» в лондонском Сити в Великобритании и каковы их задачи?
Правительство Великобритании назначило двух «чемпионов по ИИ», чтобы помочь ускорить внедрение ИИ в финансовом секторе. Их роль позиционируется как помощь Сити в использовании возможностей ИИ, обеспечивая при этом «безопасность» процесса. На практике это выглядит как координация и продвижение: поощрение внедрения, поддержка передовых практик и согласование действий заинтересованных сторон. Это свидетельствует о желании правительства ускорить внедрение, обеспечив при этом видимую защиту от угроз.