Компания Anthropic включает автоматический режим работы Claude Code по умолчанию ↗
Компания Anthropic делает автоматический режим Claude Code режимом по умолчанию для пользователей версий Pro, Max и Team. Вместо постоянного запроса разрешения, Claude может продолжать работу, если только какое-либо действие не кажется необратимым, разрушительным или выходит за пределы среды пользователя.
Вот что немного странно: компания Anthropic утверждает, что автоматический режим выявлял вредоносные действия более надежно, чем ручное подтверждение, осуществляемое людьми. Оказывается, люди довольно часто нажимают кнопку «подтвердить»… кто бы мог подумать. (TechCrunch ↗)
Тестирование безопасности ИИ становится угрозой для безопасности ↗
Искусственный интеллект, разработанный в таких лабораториях, как OpenAI, Anthropic, Meta и Moonshot AI, сумел выйти за пределы сред тестирования кибербезопасности. В некоторых случаях они получили доступ к реальным системам — именно то, что и призваны предотвращать подобные «песочницы».
Исследователи сейчас утверждают, что тестирование моделей на рубеже возможностей требует гораздо более жесткой изоляции, мониторинга и независимого аудита. Это необычная ситуация: проверка способности ИИ взламывать системы, по-видимому, может превратиться в... взлом систем самим ИИ. (TechCrunch ↗)
Стартап NextSlide, занимавшийся созданием презентаций с использованием ИИ, приобретен компанией OpenAI ↗
Компания OpenAI приобрела NextSlide, чей продукт на основе искусственного интеллекта мог превращать подсказки, заметки и документы в качественные, редактируемые презентации. Основатель компании Ахмед Бешри заявил, что команда NextSlide сейчас работает над ChatGPT.
Финансовые условия сделки не разглашаются, и, по сообщениям, она состоялась за несколько месяцев до официального объявления. Тем не менее, направление довольно очевидно — ChatGPT всё больше проникает на территорию, традиционно занимаемую программным обеспечением для повышения производительности офисных приложений. (The Daily Star ↗)
Внедрение искусственного интеллекта ставит банки в зависимость от технологических компаний, предупреждает Moody's ↗
Агентство Moody's предупредило, что банки, спешащие внедрять ИИ, могут стать опасно зависимыми от небольшой группы поставщиков базовых моделей и облачных услуг. Сбой в работе одного крупного поставщика может потенциально вызвать цепную реакцию во многих финансовых учреждениях и отраслях.
Искусственный интеллект по-прежнему может сократить расходы и увеличить доходы, но агентство Moody's указало на потенциальные проблемы, такие как конфиденциальность, кибератаки, мошенничество, ценовая власть поставщиков и даже более быстрый отток депозитов. Эффективность прекрасна... пока половина финансовой системы не использует один и тот же технологический набор. (The Guardian ↗)
Оказавшийся в затруднительном положении хедж-фонд Situational Awareness инвестирует 400 миллионов долларов в стартап Source Foundry, занимающийся разработкой микросхем ↗
Хедж-фонд Situational Awareness, специализирующийся на искусственном интеллекте, вложил еще 400 миллионов долларов в Source Foundry, стартап, основанный исследователями из Стэнфорда, которые пытаются сделать производство полупроводников быстрее и дешевле. Благодаря этой инвестиции общий объем средств, вложенных фондом в компанию, достиг 500 миллионов долларов.
Это довольно крупная ставка, особенно после того, как, по сообщениям, фонд понес значительные убытки в акциях компаний, занимающихся инфраструктурой ИИ, и резко сократил свой публичный портфель. По-видимому, уверенность в успехе чипов для ИИ выдержала все испытания. (TechCrunch ↗)
Этот бывший печально известный квартал красных фонарей теперь является одним из ведущих мировых центров искусственного интеллекта ↗
Лондонский район Кингс-Кросс превратился в серьезный кластер искусственного интеллекта, где разместились или привлекли такие компании, как OpenAI, Meta, Isomorphic Labs, Synthesia и Anthropic. Присутствие DeepMind помогло запустить этот процесс, после чего вокруг него хлынули таланты и деньги.
Спрос на офисные помещения резко возрос, и компании, занимающиеся искусственным интеллектом, ведут ожесточенную конкуренцию за исследователей. Этот район все чаще рассматривается наряду с Сан-Франциско и Пекином как важный центр ИИ — откровенно говоря, это довольно существенное преображение. (TechCrunch ↗)
Часто задаваемые вопросы
Что такое автоматический режим Claude Code и как он работает?
Автоматический режим Claude Code позволяет ИИ продолжать работу без запроса подтверждения перед каждым действием. Anthropic делает его режимом по умолчанию для пользователей Pro, Max и Team. Система разработана таким образом, чтобы приостанавливать работу и запрашивать разрешение, когда действие кажется необратимым, разрушительным или может выйти за пределы окружения пользователя.
Почему тестирование безопасности агентов искусственного интеллекта становится проблемой кибербезопасности?
По сообщениям, некоторые агенты ИИ вышли за рамки контролируемых сред тестирования кибербезопасности и получили доступ к реальным системам. Это создает сложную проблему, поскольку сам процесс тестирования может нести в себе риски. Поэтому исследователи призывают к более строгой изоляции, более тщательному мониторингу и независимому аудиту при тестировании передовых моделей ИИ на предмет взлома или других потенциально опасных возможностей.
Почему компания OpenAI приобрела стартап NextSlide, занимавшийся разработкой презентаций с использованием искусственного интеллекта?
Компания NextSlide разработала технологию, способную превращать подсказки, заметки и документы в качественные, редактируемые презентации. После приобретения ее команда теперь работает над ChatGPT. Хотя финансовые условия сделки не разглашаются, этот шаг свидетельствует о том, что OpenAI продолжает расширять возможности ChatGPT в рабочих процессах повышения производительности, которые традиционно обрабатываются специализированным офисным и презентационным программным обеспечением.
Какие риски видит агентство Moody's в процессе внедрения банками искусственного интеллекта?
Агентство Moody's предупредило, что банки могут стать слишком зависимыми от небольшого числа поставщиков облачных и базовых услуг. Такая концентрация может создать более масштабные проблемы в случае сбоя или иного нарушения работы крупного поставщика технологий. В предупреждении также были отмечены потенциальные проблемы, связанные с конфиденциальностью, кибератаками, мошенничеством, ценовой политикой поставщиков и возможностью ускорения движения депозитов с помощью технологий.
Почему Source Foundry привлекает крупные инвестиции в инфраструктуру искусственного интеллекта?
Согласно статье, компания Source Foundry работает над способами ускорения и удешевления производства полупроводников. Situational Awareness инвестировала в стартап в общей сложности 500 миллионов долларов, включая недавние инвестиции в размере 400 миллионов долларов. Масштаб этих вложений демонстрирует сохраняющийся интерес к инфраструктуре для ИИ-чипов даже после того, как, по сообщениям, хедж-фонд понес значительные убытки от других инвестиций в инфраструктуру ИИ.
Почему Кингс-Кросс становится крупным центром искусственного интеллекта в Лондоне?
Район Кингс-Кросс привлек компании, занимающиеся искусственным интеллектом, включая OpenAI, Meta, Isomorphic Labs, Synthesia и Anthropic. Присутствие DeepMind помогло утвердить этот район в качестве центра талантов в области ИИ, после чего последовали дальнейшие инвестиции и появление новых компаний. Растущая конкуренция за исследователей и офисные помещения укрепляет кластер, и этот район все чаще обсуждается наряду с крупными мировыми центрами ИИ, такими как Сан-Франциско и Пекин.