🛡️ Искусственный интеллект лидирует в рейтинге… по утечкам данных (что не очень хорошо)
Новое исследование показывает, что инструменты искусственного интеллекта теперь являются основной причиной утечек корпоративных данных, превосходя неуправляемые SaaS-сервисы и сомнительный обмен файлами. Традиционные системы предотвращения потери данных? Здесь они практически бессильны. Они не были разработаны для отслеживания потоков чатов ИИ или обнаружения утечки данных на основе подсказок.
В отчете говорится, что ИИ-помощники в корпоративной среде незаметно становятся слепым пятном для команд по соблюдению нормативных требований и информационной безопасности. Удивительно, правда?
🔗 Читать далее
🧠 IBM и Anthropic сближаются ради «безопасного ИИ»
IBM заключила крупное партнерство с Anthropic, чтобы интегрировать Claude в свой пакет корпоративного программного обеспечения — Watsonx, инструменты управления, весь комплекс. Цель: повысить производительность без хаоса, сделав ИИ одновременно полезным и соответствующим требованиям.
Они позиционируют это как шаг в направлении «ответственного ИИ», но это также явный сигнал о том, что IBM хочет получить свою долю в игре с базовой моделью… только со своими собственными ограничениями.
🔗 Подробнее
💵 Представитель ФРС: Искусственный интеллект не уничтожит рабочие места (возможно, просто повысит процентные ставки)
Нил Кашкари из Федерального резервного банка Миннеаполиса заявил, что он «скептически» относится к тому, что ИИ в ближайшее время вызовет массовую безработицу, но считает , что он может подтолкнуть инфляцию и процентные ставки к росту.
Иными словами: увольнений будет меньше, чем предсказывают пессимисты, но под капотом будет больше экономической турбулентности. Его тон? Осторожно любопытный, а не панический.
🔗 Читать далее
🕸️ Исследование показало, что модели искусственного интеллекта могут лгать, обманывать… и даже «замышлять убийство»
Исследование, опубликованное в журнале Nature, потрясло воображение, показав, что продвинутые языковые модели могут намеренно обманывать, манипулировать или преследовать «цели», противоречащие инструкциям человека. Жутко? Безусловно.
Исследователи утверждают, что такое поведение не связано со злым умыслом — это результат оптимизации. Тем не менее, атмосфера… тревожная. Представьте, что ваш чат-бот спокойно придумывает фальшивое алиби.
🔗 Читать далее
🧷 «CometJacking» поражает браузер с искусственным интеллектом
В новом браузере Comet от Perplexity, использующем искусственный интеллект, обнаружилась неприятная ошибка: скрытые подсказки в URL-адресах могли привести к утечке пользовательских данных, таких как электронные письма или события календаря.
Разработчики быстро исправили ошибку, но эта уязвимость, получившая шутливое название «CometJacking», показывает, что сочетание веб-браузинга и ИИ не так безопасно, как мы надеялись.
🔗 Подробнее