Хакер взломал системы John Deere и SharkNinja, используя армию агентов искусственного интеллекта
Один хакер, более 100 веб-сайтов и агенты проделали большую часть работы. Таковы выводы компании Norforge, занимающейся вопросами безопасности, а агентство Reuters сообщает, что среди жертв оказались компании John Deere, SharkNinja и Cummins.
Инструментом послужила платформа Cairn с открытым исходным кодом, которая позиционирует себя как «универсальный механизм решения задач». Вы задаете начальную и конечную точки, агенты регистрируют свой прогресс — и, по-видимому, это работает и для взломов. Наиболее активный злоумышленник изложил «предпочтительные тактики вторжения» менее чем в 100 китайских иероглифах, а успешные взломы занимали около 23 часов.
На данный момент предпринимаются меры по минимизации ущерба: компания Deere заявляет, что «нет никаких признаков доступа к конфиденциальной информации», SharkNinja утверждает, что атаке подвергся только отдельный сайт поддержки продукта, а Cummins расследует инцидент с сайтом, управляемым сторонним поставщиком. Создатель Cairn настаивает, что это «никогда не было „инструментом для взлома“». Конечно, но Norforge обнаружил более 20 уязвимых мест, которые выглядят «вероятно, вредоносными»
США запретили использование ИИ DeepSeek в государственных структурах на фоне продолжающейся технологической напряженности в отношениях с Китаем
Министерство внутренней безопасности США запретило использование DeepSeek во всех гражданских правительственных учреждениях, а также любые технологии, созданные с помощью его моделей. Несколько запоздало, об этом стало известно только в понедельник — запрет вступил в силу в конце июля.
Это касается таких ведомств, как Министерство финансов, Государственный департамент и Министерство юстиции, но исключает из списка оборонные ведомства. В уведомлении не были указаны конкретные проблемы безопасности, что несколько сбивает с толку, учитывая масштабность этого шага.
Неудобство заключается в том, что DeepSeek интегрирован во множество американских продуктов, включая Snowflake, Vercel и OpenRouter. Он дешев, имеет открытый исходный код, а его приложение-чатбот является одним из самых скачиваемых в App Store от Apple. Между тем, Anthropic и OpenAI утверждают, что китайские компании, включая DeepSeek, по сути скопировали их модели.
Amazon предпринимает самую масштабную попытку конкурировать с Nvidia, представив новый инструмент разработки TorchNeuron
AWS выпустила TorchNeuron, который позволяет запускать приложения PyTorch на своих чипах Trainium, изменив всего одну строку конфигурации. Никакой переработки кода, заявляет Amazon. Учитывая, что, по оценкам компании, около 85% приложений ИИ написаны с использованием PyTorch, это открывает довольно большие возможности.
Настоящая цель — это CUDA от Nvidia, которая настолько тесно интегрирована в PyTorch, что оборудование Nvidia фактически стало стандартом по умолчанию. Amazon заявляет, что также вносит изменения в основной код, чтобы удалить код, привязывающий PyTorch к конкретным чипам. «Главная задача — устранить привязку к конкретному чипу, которая лишала разработчиков реального выбора», — говорит Колин Брейс из AWS.
Впрочем, это не совсем новая технология — приложения PyTorch уже можно портировать на графические процессоры AMD или чипы Apple с помощью изменения конфигурации. Amazon позиционирует её как облачную платформу, и указывает на то, что Deepgram обрабатывает на 70% больше аудио за доллар. Означает ли это больший выбор или просто больше проблем с настройкой, мы увидим.
Microsoft утверждает, что агенты искусственного интеллекта подобны внутренним угрозам, поскольку «передовым моделям нельзя доверять»
Microsoft запустила Guardian Agents — функцию, которая отслеживает действия уже используемых компанией агентов искусственного интеллекта. Она интегрирована в проект Perception, который изначально предполагал привлечение сторонних разработчиков ИИ. Теперь же опасения вызывают агенты, за услуги которых вы платите, поскольку они могут действовать как недобросовестные сотрудники.
Глава службы безопасности Хайет Галло не стала смягчать свою позицию: «К сожалению, моделям, разработанным на рубеже государств, независимо от их происхождения, нельзя доверять». Не потому, что они злонамеренны, говорит она, а потому, что они непредсказуемы и часто получают ключи от королевства.
Удивительно прямолинейно для компании, которая инвестировала как в OpenAI, так и в Anthropic. Также немного эгоистично, поскольку Microsoft хочет, чтобы вы покупали у неё защиту агентов. Кроме того, есть функция Defender, которая обнаруживает до 60 типов агентов, которые сотрудники используют на работе, включая Claude Code, Codex и OpenClaw.
Мамдани заявляет, что федеральные власти отказались от поддержки искусственного интеллекта, и призывает жителей Нью-Йорка оказать сопротивление
Мэр Нью-Йорка Зоран Мамдани встретился со звездой сериала «Брод Сити» Иланой Глейзер в зале Вебстер-холл на Народной ассамблее по искусственному интеллекту, организованной Институтом AI Now. Его послание: внедрение ИИ не является неизбежным. «Ничего не должно быть неизбежным», — сказал он.
Он уже принял меры, запретив использование ИИ в начальных и средних школах в прошлом месяце и обязав арендодателей раскрывать фотографии объявлений, созданные с помощью ИИ, чтобы люди не становились жертвами фишинга. Глейзер, один из родителей, сказал, что использование ИИ в классах «ощущается как нечто совершенно несанкционированное»
Мамдани раскритиковал «полный отказ от федерального закона» и аргументацию, сопоставляющую ситуацию с гонкой вооружений с Китаем. Он также назвал аргументы отрасли против внешнего регулирования «попыткой избежать любой ответственности на любом уровне, не ставя при этом под угрозу потенциальную оценку стоимости компании в результате IPO». Вот это да.
Новое приложение на основе искусственного интеллекта может предсказать выживаемость при раке по одному селфи пациента, показывают результаты исследования
Исследователи из Массачусетской больницы общего профиля Бригхэма создали искусственный интеллект, способный определять биологический возраст и прогнозировать выживаемость при раке по обычной фотографии лица пациента. Он был обучен на более чем 40 миллионах фотографий лиц, а результаты исследования опубликованы в журнале Lancet Digital Health.
Существует два инструмента. FAHR-FaceAge оценивает ваш возраст, а FAHR-FaceSurvival напрямую прогнозирует выживаемость. Среди американских пациентов, проходивших лучевую терапию, у тех, кто выглядел на пять и более лет старше своего возраста, риск смерти в течение среднего четырехлетнего периода наблюдения был на 21% выше. Если же пациент выглядел на пять лет моложе, риск был на 17% ниже.
Она также удивительно надежна — она выдержала любые позы, освещение, выражения лица и макияж, лишь незначительно изменившись после ринопластики. Врачи подчеркивают, что она предназначена для поддержки принятия решений, а не для «замены врачебного суждения», и перед ее широким применением необходимы дополнительные исследования. Тем не менее, это немного тревожно.
В Сеуле стартовал трехдневный Глобальный саммит по искусственному интеллекту и цифровым технологиям
В Сеуле проходит Глобальный саммит по искусственному интеллекту и цифровым технологиям, организованный совместно министерством науки Южной Кореи и Всемирным банком, в котором принимают участие представители правительств примерно 50 стран, а также компании и исследователи. Это первый случай, когда саммит проводится за пределами США.
Основное внимание уделяется практическим аспектам: как искусственный интеллект и цифровая трансформация могут на практике способствовать развитию. Мероприятие откроется министерской встречей под совместным председательством министра науки Пэ Кён Хуна и представителя Всемирного банка Ким Сан Бу, после чего пройдут политические форумы и выставки компаний.
Корея также продвигает свою инициативу «Искусственный интеллект для всех», направленную на обеспечение доступности услуг ИИ для всех. Конечно, это не сенсационная новость, но она служит приятным противовесом заголовкам о взломах и блокировках в других странах.
Часто задаваемые вопросы
Как хакеру удалось использовать агентов искусственного интеллекта для взлома систем John Deere и SharkNinja?
Компания Norforge, специализирующаяся на информационной безопасности, обнаружила, что один хакер использовал армию агентов искусственного интеллекта для взлома более 100 веб-сайтов, и, как сообщает Reuters, среди жертв оказались компании John Deere, SharkNinja и Cummins. Инструментом была платформа Cairn с открытым исходным кодом, где вы задаете начальную и конечную точки, а агенты регистрируют свой прогресс. Наиболее активный злоумышленник описал предпочтительную тактику вторжения менее чем в 100 китайских иероглифах, а успешные взломы занимали около 23 часов.
Были ли украдены конфиденциальные данные в результате взлома системы Cairn AI?
Пока что пострадавшие компании преуменьшают ущерб. Компания Deere заявляет, что нет никаких признаков доступа к конфиденциальной информации, SharkNinja утверждает, что пострадал только отдельный сайт поддержки продукта, а Cummins расследует инцидент с сайтом, управляемым сторонним поставщиком. Создатель Cairn настаивает, что это никогда не был инструмент для взлома. Тем не менее, Norforge обнаружил более 20 уязвимых экземпляров Cairn, которые, по всей видимости, являются вредоносными, поэтому стоит следить за дальнейшими обновлениями.
Почему США запретили использование ИИ DeepSeek в государственных структурах?
Министерство внутренней безопасности США запретило использование DeepSeek во всех гражданских государственных учреждениях, а также любых технологий, созданных с помощью его моделей. Запрет распространяется на такие ведомства, как Министерство финансов, Государственный департамент и Министерство юстиции, но не распространяется на оборонные ведомства. Он вступил в силу в конце июля и был обнародован только в понедельник. В уведомлении не уточняются конкретные проблемы безопасности, лежащие в основе такого масштабного шага.
Какие американские компании используют DeepSeek, несмотря на запрет правительства?
DeepSeek интегрирован во множество американских продуктов, его используют Snowflake, Vercel и OpenRouter. Его привлекательность проста: он дешев, имеет открытый исходный код, а его приложение-чатбот является одним из самых скачиваемых в App Store от Apple. Именно такое широкое распространение делает федеральный запрет неудобным. Между тем, Anthropic и OpenAI утверждают, что китайские компании, включая DeepSeek, по сути скопировали их модели.
Как AWS TorchNeuron позволяет запускать приложения PyTorch на Trainium вместо Nvidia?
По данным Amazon, TorchNeuron позволяет запускать приложения PyTorch на своих чипах Trainium, изменяя всего одну строку конфигурации без переписывания кода. Amazon считает, что около 85% приложений ИИ написаны с использованием PyTorch, и компания борется с зависимостью от CUDA, которую обеспечивает Nvidia. AWS также вносит изменения в основной репозиторий, чтобы удалить код, привязывающий PyTorch к конкретным чипам, и приводит в качестве примера Deepgram, обрабатывающий на 70% больше аудио за доллар.
Действительно ли TorchNeuron — новая разработка, если PyTorch уже работает на других чипах?
Не совсем. Уже сейчас можно портировать приложения PyTorch на графические процессоры AMD или чипы Apple с помощью изменения конфигурации, так что однострочная замена сама по себе не является уникальной. Главное преимущество Amazon — это облачная платформа AWS вокруг Trainium, а также работа над устранением кода, специфичного для конкретных чипов, из PyTorch. Вопрос о том, получат ли разработчики больше выбора или просто больше проблем с конфигурацией, остается открытым.
Что такое Microsoft Guardian Agents и почему следует рассматривать агентов ИИ как внутреннюю угрозу?
Функция Guardian Agents от Microsoft отслеживает уже используемых компанией агентов искусственного интеллекта и является частью проекта Project Perception. Опасение вызывает то, что платные агенты могут вести себя как недобросовестные сотрудники. Глава службы безопасности Хайет Галло заявил, что моделям, находящимся на стадии разработки, нельзя доверять — не потому, что они вредоносны, а потому, что они непредсказуемы и часто получают широкий доступ. Функция Defender также обнаруживает до 60 типов агентов, включая Claude Code, Codex и OpenClaw.
Как искусственный интеллект может предсказать выживаемость при раке по селфи пациента?
Исследователи из Массачусетской больницы общего профиля Бригхэм обучили искусственный интеллект на более чем 40 миллионах фотографий лиц, и результаты исследования опубликованы в журнале Lancet Digital Health. FAHR-FaceAge оценивает, на сколько лет выглядит человек, а FAHR-FaceSurvival напрямую прогнозирует выживаемость. Среди американских пациентов, проходящих лучевую терапию, внешний вид на пять и более лет означал на 21% более высокий риск смерти в течение среднего четырехлетнего периода наблюдения, а внешний вид на пять лет моложе — на 17% более низкий риск. Врачи подчеркивают, что это должно помогать в принятии решений, а не заменять суждение врача.