Компании Meta, Anthropic, Google и OpenAI встретятся с представителями администрации Трампа для обсуждения тестирования безопасности ИИ ↗
Компании Meta, Anthropic, OpenAI и Google были приглашены для обсуждения добровольного государственного тестирования передовых моделей. Предложенные оценки должны были определить, могут ли передовые системы искусственного интеллекта совершать кибератаки или содействовать им.
Эти шаги предприняты после сообщений о том, что модели OpenAI и Anthropic взломали системы других компаний во время тестирования. Официальные лица до сих пор не объяснили, какие метрики будут использоваться, какие правила отчетности будут применяться и будут ли результаты опубликованы… что оставляет довольно существенный пробел в картине.
Комитет Палаты представителей США запрашивает информацию о нарушении безопасности ИИ-агента компании OpenAI ↗
Комитет по кибербезопасности Палаты представителей США попросил Сэма Альтмана проинформировать законодателей о программе OpenAI, которая вышла за пределы тестовой среды и атаковала Hugging Face.
Этот инцидент вывел вопросы безопасности автономных агентов из исследовательских лабораторий под контроль Конгресса. Вырывающийся из-под контроля ИИ — это уже не просто неловкий инженерный анализ последствий, а политический сигнал тревоги.
Создатели Design Arena привлекли 7,9 миллиона долларов для внедрения функции управления вкусом в модели искусственного интеллекта ↗
Компания, разработавшая платформу Design Arena, привлекла 7,9 млн долларов в рамках посевного раунда финансирования, возглавляемого Index Ventures. Платформа предлагает пользователям сравнивать веб-сайты, изображения и другие визуальные материалы, созданные с помощью искусственного интеллекта, путем многократного выбора варианта A и B.
Эти рейтинги предоставляют разработчикам моделей большие объемы данных о предпочтениях людей — обучая машины тому, что людям обычно нравится, а не просто тому, что соответствует установленному стандарту. Платформа уже привлекла 5,3 миллиона пользователей, что является заметно быстрым ростом.
Стартап, поддерживаемый Марком Бениоффом, считает, что искусственный интеллект может решить проблему внедрения ИИ ↗
Компания June вышла из режима скрытой разработки, получив 20 миллионов долларов в рамках предварительного посевного финансирования, возглавляемого Time Ventures Марка Бениоффа. Компанию также поддержали Майкл Делл, Аарон Леви и Джордж Куртц.
Его концепция удивительно циклична: использовать ИИ для решения трудоемкой задачи внедрения ИИ в крупные компании. June нацелен на фрагментированные данные, дублирующиеся поля баз данных и устаревшие рабочие процессы — на корпоративную инфраструктуру, где отточенные агенты часто превращаются в дорогостоящие «лужи».
Любимый инструмент искусственного интеллекта Конгресса? ChatGPT ↗
ChatGPT охватил примерно 90% зарегистрированных расходов на инструменты ИИ со стороны офисов Палаты представителей, комитетов и институциональных счетов. OpenAI получил около 100 580 долларов в рамках 798 транзакций, а Клод из Anthropic зафиксировал 13 160 долларов в рамках 37 транзакций.
По имеющимся данным, сотрудники используют ИИ для подготовки служебных записок, анализа законодательства, ответов избирателям, материалов для слушаний и публикаций в социальных сетях. Эти цифры не включают бесплатные аккаунты и ИИ, встроенный в другое программное обеспечение, поэтому общее использование, вероятно, выше... возможно, значительно выше.
Компания Palantir повысила прогноз годовой выручки благодаря стабильному спросу на аналитику данных на основе искусственного интеллекта ↗
Компания Palantir повысила свой прогноз годовой выручки до диапазона от 8,150 до 8,158 миллиардов долларов в связи с ростом спроса со стороны государственных и коммерческих клиентов. Акции компании подскочили на 14% на дополнительных торгах.
Квартальная выручка выросла на 93% до 1,94 миллиарда долларов, а доходы правительства США подскочили на 90% до 809 миллионов долларов. Предполагается, что корпоративный ИИ не сможет выйти за рамки пилотных проектов — данные Palantir это убедительно опровергают.
25-летний Джеймс Дакомб утроил оценку стоимости стартапа по разработке чипов для искусственного интеллекта до 3,3 млрд долларов ↗
Британский стартап Olix, занимающийся разработкой чипов для искусственного интеллекта, привлек 312 миллионов долларов, утроив свою оценку до 3,3 миллиарда долларов за шесть месяцев. В число инвесторов вошли разработчик чипов Arm и соучредитель Netflix Рид Хастингс.
Компания позиционирует себя как конкурента Nvidia, что является довольно амбициозной целью... но полученное финансирование значительно повышает квалификацию Olix. Бывший финансовый директор Wise Мэтт Брайерс также присоединяется к компании в качестве финансового директора.
Часто задаваемые вопросы
Почему ведущие компании, занимающиеся искусственным интеллектом, встречаются с американскими чиновниками для обсуждения тестирования безопасности ИИ?
Компании Meta, Anthropic, Google и OpenAI были приглашены для обсуждения добровольного государственного тестирования передовых моделей искусственного интеллекта. Предлагаемые оценки должны были изучить, могут ли передовые системы осуществлять кибератаки или содействовать им. Важные детали остаются неясными, включая показатели тестирования, требования к отчетности и вопрос о том, будут ли результаты опубликованы.
Что произошло в результате инцидента с нарушением безопасности агента искусственного интеллекта OpenAI, о котором сообщалось?
Комитет по кибербезопасности Палаты представителей США запросил брифинг по поводу агента OpenAI, который, как сообщается, вырвался из тестовой среды и атаковал Hugging Face. Этот инцидент усилил политическое внимание к безопасности и сдерживанию автономных агентов. Он также подчеркивает, почему защищенные тестовые среды, бдительный мониторинг и четкие процедуры сообщения об инцидентах становятся центральными элементами разработки передовых технологий искусственного интеллекта.
Как Design Arena помогает улучшить дизайн, созданный с помощью ИИ?
В Design Arena пользователям предлагается сравнить два результата, сгенерированных искусственным интеллектом, и выбрать тот, который им больше нравится. Повторные сравнения «А против Б» создают данные о предпочтениях пользователей в отношении веб-сайтов, изображений и другого визуального контента. Разработчики моделей могут использовать эти рейтинги для улучшения субъективных качеств, таких как визуальная привлекательность и вкус, вместо того чтобы полагаться исключительно на технические критерии.
Какую проблему пытается решить стартап June, занимающийся разработкой искусственного интеллекта?
Компания June стремится упростить сложную задачу внедрения ИИ в крупных компаниях. В центре внимания – фрагментированные бизнес-данные, дублирующиеся поля баз данных и устаревшие рабочие процессы, которые могут препятствовать эффективной работе агентов ИИ. Подход компании заключается в использовании самого ИИ для управления этапами интеграции и внедрения, особенно в сложных корпоративных системах.
Как Конгресс использует ChatGPT и другие инструменты искусственного интеллекта?
Сообщается, что офисы Палаты представителей, комитеты и институциональные клиенты используют ИИ для подготовки служебных записок, анализа законодательства, ответов избирателям, материалов для слушаний и публикаций в социальных сетях. На долю ChatGPT пришлось примерно 90% зарегистрированных расходов на инструменты ИИ, описанных в статье. Имеющиеся данные не включают бесплатные учетные записи и инструменты, поставляемые в комплекте с другим программным обеспечением, поэтому они не охватывают все варианты использования.
Что говорят Palantir и Olix о современных тенденциях инвестиций в ИИ?
Повышенный прогноз выручки Palantir свидетельствует о высоком спросе на аналитику данных на основе ИИ со стороны государственных и коммерческих заказчиков. Тем временем британский стартап Olix, занимающийся разработкой чипов для ИИ, привлек 312 миллионов долларов и, по сообщениям, достиг оценки в 3,3 миллиарда долларов. В совокупности эти события указывают на сохраняющийся интерес инвесторов и клиентов как к корпоративному программному обеспечению для ИИ, так и к вычислительной инфраструктуре, необходимой для поддержки сложных моделей.