Компания OpenAI приостанавливает часть работы над моделью ИИ Astra из-за проблем с безопасностью ↗
Компания OpenAI приостанавливает внутреннюю работу над Astra, которая не соответствует более строгим требованиям безопасности, после того как оценки показали, что её кибервозможности, возможно, перешли «критический» порог. Сообщается, что агент может находить и использовать уязвимости без вмешательства человека или совершать атаки с высокоуровневой цели. Да... это довольно серьёзная грань.
Компания ужесточает изолированное тестирование, доступ к сети и инструментам, защиту весов моделей, шифрование и мониторинг. Компания Astra не была причастна к более раннему инциденту с «обнимающимся лицом» OpenAI, но общая тенденция к развитию автономных агентов делает проблему сдерживания гораздо более серьезной. (Источник: The Guardian)
Компания Apple заявляет, что пользователи Mac в Китае могут подключиться к сервису Qwen AI от Alibaba ↗
Теперь пользователи Mac в материковом Китае могут подключить приложение Qwen от Alibaba к Siri и инструментам для письма от Apple. Это означает более подробные ответы, а также анализ документов и изображений, наряду с генерацией текста и изображений на основе описаний.
Честно говоря, это интересный союз: Apple получает локально совместимый путь к более мощным функциям ИИ на жестко конкурентном рынке ПК, а Alibaba — возможность гораздо глубже интегрировать Qwen в экосистему другой компании. Apple заявляет, что материалы, отправленные через расширение, не могут быть использованы Alibaba для обучения своих моделей. (Источник: Reuters)
Компания Google DeepMind вступает в новую эру: соучредитель Демис Хассабис меняет свою роль в сфере искусственного интеллекта ↗
Демис Хассабис отказывается от повседневного руководства DeepMind, становясь председателем совета директоров и одновременно занимая должность главного научного сотрудника в Alphabet. Его давний коллега Корай Кавукчуоглу возьмет на себя оперативное управление в качестве старшего вице-президента, а не генерального директора — тонкая смена должности, которая говорит о многом.
Эти перестановки происходят на фоне ухода других крупных исследователей и вопросов о том, не становится ли DeepMind менее независимой и все больше интегрируется в коммерческую систему искусственного интеллекта Google. Google отрицает связь этих изменений с конкурентоспособностью Gemini. (Источник: The Guardian)
В Великобритании растет число детей, сообщающих о том, что видели откровенные дипфейки со своими изображениями ↗
В Великобритании резко возросло число сообщений от детей о поддельных или отредактированных изображениях, содержащих откровенные материалы. Сервис Report Remove получил 420 сообщений всего за шесть месяцев, что уже превышает предыдущий годовой показатель в 397 сообщений. Инструменты для «обнажения» изображений, работающие на основе искусственного интеллекта, значительно упрощают масштабирование проблемы.
Фонд интернет-надзора заявляет, что многие из отредактированных изображений, о которых сообщалось, были достаточно серьезными, чтобы превысить порог материалов, содержащих сексуальное насилие над детьми. Некоторые жертвы также стали объектами шантажа с использованием интимных изображений, превращая сгенерированное искусственным интеллектом изображение в вполне реальное оружие. (Источник: The Guardian)
Опрос показал, что функции ИИ развиваются быстрее, чем их коммерческая ценность ↗
Компании, занимающиеся корпоративным программным обеспечением, активно внедряют функции искусственного интеллекта, но клиенты не всегда ими пользуются. В ходе опроса более 260 компаний, работающих в различных отраслях, 51% заявили, что менее четверти их клиентов используют разработанные ими возможности ИИ. Довольно неловко после всех этих усилий по внедрению...
Проблема, похоже, заключается не столько в возможностях ИИ, сколько в интеграции, безопасности, конфиденциальности, изменении рабочих процессов и доказательстве конкретной бизнес-ценности. Особенно своеобразным явлением является «токенмаксинг» — массовое использование ИИ, которое выглядит впечатляюще на панели управления, но не дает четких доказательств того, что это приводит к лучшим результатам. (Источник: Forbes)
Искусственный интеллект меняет сферу деятельности быстрее, чем объемы данных успевают за этим процессом ↗
Аргументы в пользу создания рабочих мест с помощью ИИ становятся все более запутанными, а не понятными. Исследование, охватившее более 21 000 американских компаний, показало, что компании, наиболее активно внедряющие ИИ, увеличили общую численность персонала на 10% и найм сотрудников начального уровня на 12%, в то время как компании, менее активно использующие ИИ, не продемонстрировали роста численности персонала.
Однако другие исследования выявили давление на рынок труда среди молодых работников, занятых в сферах, подверженных влиянию ИИ, и экономисты предупреждают, что растущие компании могут продолжать нанимать сотрудников, в то время как ИИ меняет профессии в экономике в целом. Таким образом, ИИ уничтожает рабочие места и создает их… или, по крайней мере, так утверждают противоречивые данные. (Источник: Fortune)
Часто задаваемые вопросы
Какие самые важные новости в сфере искусственного интеллекта происходят прямо сейчас?
Последние новости об ИИ указывают на несколько пересекающихся тем: более развитые автономные возможности, более жесткий контроль безопасности, более глубокая интеграция платформ, смена руководства, риски для безопасности в интернете и неопределенная коммерческая ценность. OpenAI усиливает меры защиты вокруг Astra, Apple подключает Qwen к компьютерам Mac в Китае, а DeepMind меняет руководство. В то же время растут опасения по поводу дипфейков, внедрения в корпоративном секторе и влияния ИИ на занятость.
Почему OpenAI приостановила часть работы над Astra?
По сообщениям, OpenAI приостановила внутреннюю работу над моделью Astra, которая не соответствовала более строгим требованиям безопасности, после того как оценки показали, что кибервозможности модели, возможно, достигли критического уровня. Опасение вызывает то, что продвинутый агент потенциально может обнаружить и использовать уязвимости с минимальным или полным отсутствием вмешательства человека. В ответ OpenAI усиливает изолированное тестирование, контроль доступа, шифрование, мониторинг и защиту весов модели.
Как Alibaba Qwen будет взаимодействовать с компьютерами Apple Mac в Китае?
Пользователи Mac в материковом Китае, имеющие на это право, могут подключить сервис Qwen от Alibaba к Siri и инструментам для работы с текстом от Apple. Интеграция позволит получать более подробные ответы, анализировать документы и изображения, а также генерировать текст или изображения на основе описаний. Для Apple это соглашение обеспечивает локально совместимый путь к более мощным функциям ИИ, а Alibaba получает более широкий доступ к экосистеме Apple. Apple заявляет, что предоставленные материалы не могут быть использованы для обучения моделей Alibaba.
Что означает смена руководства DeepMind для Google AI?
Демис Хассабис отходит от повседневного руководства DeepMind, одновременно становясь председателем совета директоров и занимая должность главного научного сотрудника в Alphabet. Корай Кавукчуоглу возьмет на себя оперативное управление в качестве старшего вице-президента. Эти изменения вызвали вопросы о том, становится ли DeepMind более тесно интегрированным с более широкими коммерческими операциями Google в области ИИ, хотя Google оспаривает предположения о том, что перестановки связаны с конкурентоспособностью Gemini.
Почему использование искусственного интеллекта для создания дипфейков становится всё большей проблемой для безопасности детей?
Инструменты для обработки изображений на основе искусственного интеллекта могут упростить создание реалистичных, откровенных, поддельных изображений в больших масштабах. Дети в Великобритании все чаще сообщают о случаях манипулирования или фальсификации своих изображений, и некоторые случаи настолько серьезны, что подпадают под определение материалов, содержащих сексуальное насилие над детьми. Эти изображения также могут использоваться для шантажа с использованием интимных фотографий, а это значит, что сфабрикованное изображение может нанести существенный репутационный, эмоциональный и финансовый ущерб.
Уже сейчас предприятия и работники получают выгоду от использования ИИ?
Последние новости об ИИ свидетельствуют о неоднозначных результатах. Многие компании-разработчики программного обеспечения внедряют функции ИИ быстрее, чем клиенты их осваивают, при этом интеграция, конфиденциальность, безопасность и измеримая коммерческая ценность остаются основными препятствиями. Данные о занятости также сложны: некоторые компании с активным внедрением ИИ расширяют набор персонала, в то время как другие исследования указывают на давление на молодых работников в сферах, связанных с ИИ. Общее влияние во многом зависит от отрасли, рабочего процесса и способа внедрения ИИ.