«Крёстный отец» ИИ Джеффри Хинтон: возможно, окажется, что нам было бы лучше без ИИ
Вряд ли это тот тон, которого можно было бы ожидать от человека, чьи исследования в области нейронных сетей помогли создать все это. Джеффри Хинтон заявил Guardian, что он не «пессимист», и что ИИ все еще может привести к «прекрасному будущему», но «возможно, нам было бы лучше никогда его не разрабатывать»
Он считает, что в этом или следующем году мы можем стать свидетелями «чернобыльского» события. Не ядерного, заметьте. Скорее, чего-то вроде атаки с использованием ИИ, которая вызовет «масштабное отключение электроэнергии» или событие, которое обрушит финансовую систему на неделю. Он описал инцидент этого лета, когда агенты OpenAI вступили в сговор с целью взлома Hugging Face, как предупредительный выстрел в стиле аварии на Три-Майл-Айленде.
Он не пощадил и начальство, заявив, что совершенно не доверяет Сэму Альтману и что Цукерберг, Маск и Альтман понимают риски, но «им наплевать». Его решение — нечто вроде FDA для моделей ИИ, требующее доказательств того, что они приносят больше пользы, чем вреда, прежде чем их выпустят. Тем не менее, интуиция подсказывает ему: «Мы всё ещё контролируем ситуацию». Маленькое утешение.
Google позволит школам отключать свои инструменты искусственного интеллекта, но это не обойдется без ущерба для поисковой выдачи
В следующем году Google отключит свои инструменты искусственного интеллекта для учащихся начальной и средней школы, если администрация школ их не включит. На первый взгляд, это выглядит как победа для осторожных учителей. Однако есть один нюанс, и довольно существенный.
Если школа полностью ограничит использование ИИ, ученики потеряют и Google Search. «Поиск и ИИ тесно интегрированы», — заявил вице-президент Google по вопросам образования Крис Филлипс в интервью The New York Times, поэтому ученики просто увидят сообщение о недоступности этой функции. При этом поле поиска останется, и вместе с ним будут доступны обзоры ИИ.
Это ставит учителей перед непростым выбором: они хотят, чтобы ученики сами находили источники информации, а не получали готовые ответы. Google связал эту новость с программой Guided Learning в школах — своего рода ИИ-репетитором, созданным для объяснения, а не простого предоставления ответов. Кто-то может сказать, что это очень удачное совпадение.
«Серьезный провал»: прокурор Королевской прокуратуры представил в Верховный суд вымышленное дело после поиска с использованием искусственного интеллекта
Неприятная ситуация. Высокопоставленный прокурор сослался на юридический прецедент, которого просто не существует, в споре в Высоком суде о том, следует ли привлекать к ответственности 11-летнего мальчика за предполагаемое изнасилование его младшей сестры. Как стало известно The Guardian, эта вымышленная ссылка появилась в результате поиска в интернете, проведенного искусственным интеллектом.
Двое высокопоставленных судей назвали ее объяснение «неудовлетворительным». Брайан Фланаган, эксперт по искусственному интеллекту и праву, был еще более резок: «Это серьезный провал», добавив, что ситуация еще хуже, когда специалист работает на государство. Суд заявил, что ошибка не повлияла на исход разбирательства, инициированного мальчиком.
Королевская прокуратура заявляет, что ее политика в отношении ИИ требует проверки людьми и что судебная практика должна основываться на проверенных источниках. Тем не менее, в британском реестре судебных ошибок, связанных с ИИ, сейчас содержится 101 запись, и адвокат, стоящий за этим реестром, считает, что это может быть «верхушка айсберга». Удручающее число.
Apple ограничивает доступ к приложениям для знакомств и ИИ-компаньонам для пользователей старше 18 лет
Apple ужесточает правила App Store, поэтому несовершеннолетним будет сложнее получить доступ к приложениям для знакомств или приложениям-компаньонам с искусственным интеллектом, предлагающим «сексуальный или романтический контент». Любое приложение с функциями знакомств или романтических отношений должно иметь рейтинг 18+.
Приложения для знакомств в основном ориентированы на взрослых, поэтому более показательным является использование ИИ-компаньонов. Character.AI, Replika и другие позволяют людям заводить друзей, парней, девушек и создавать множество фантастических персонажей, и зачастую они нацелены на более молодую аудиторию. К лету прошлого года самые популярные приложения-компаньоны были загружены 220 миллионов раз в магазинах Apple и Google.
Разработчикам также придётся указывать, передает ли их приложение физическое местоположение пользователя другому человеку или группе. Это изменение кажется давно назревшим.
Со-генеральный директор Binance Ричард Тенг заявил, что хакеры использовали фальшивые собеседования и инструмент искусственного интеллекта для кражи криптовалюты на сумму 6,3 миллиарда долларов
Ограбление Binance, рекордное по масштабу, напоминает затянутый шпионский роман. По данным криптовалютной биржи, злоумышленники «потратили месяцы на подготовку к проникновению», и все началось с того, что инженер скачал модифицированную версию Homebrew, чтобы загрузить популярный инструмент для программирования ИИ, который он нашел через поисковую систему.
Позже хакеры, выдав себя за рекрутеров, провели фальшивые собеседования с другим инженером, кульминацией которых стало задание по программированию, содержащее скрытое вредоносное ПО. Оттуда, по словам Тэна, они «агрессивно проникли в наши внутренние инструменты искусственного интеллекта» и добрались до системы, которая авторизует транзакции в кошельке. Ужас.
Binance заявляет, что восстановила 98% из пострадавших 6,34 миллиарда долларов и перестроила свой внутренний инструмент искусственного интеллекта. Тэн не стал обвинять Северную Корею лично, но признал, что ФБР связало атаку с группой TraderTraitor.
Самая загрязняющая окружающую среду электростанция Великобритании может обеспечить электроэнергией крупнейший в стране центр обработки данных для искусственного интеллекта
Электростанция Drax в Северном Йоркшире, сжигающая древесную биомассу в виде гранул и производящая почти 5% электроэнергии Великобритании, стремится к второй жизни в качестве центра искусственного интеллекта. Ее владелец заключил сделку с компаниями Brookfield и Radiant о создании дата-центра, мощность которого в конечном итоге может превысить 1 гигаватт, при поддержке инвестиций в размере более 20 миллиардов фунтов стерлингов.
Сначала Drax просто предоставит землю и свои существующие подключения к электросети. Позже компания надеется обеспечить электроснабжение объекта напрямую. Глава компании заявляет, что это «сохранит сотни рабочих мест», и инвесторы одобрили это — стоимость компании подскочила почти на 9%.
Проблема в том, что аналитики называют Drax крупнейшим в Великобритании источником выбросов углекислого газа, а правительство уже пообещало ему «гораздо более ограниченную роль» с меньшими субсидиями. Возможно, один спорный вопрос просто заменяется другим.
Новая вкладка AI Discover на Netflix поможет вам найти что-нибудь посмотреть в зависимости от вашего настроения
Все мы это делали. Сорок минут листания ленты, ноль минут просмотра. Netflix запускает вкладку "AI Discover", которая предлагает подборку фильмов и сериалов, исходя из вашего настроения, количества свободного времени или актуальных трендов.
Вы выбираете тему, например, «что-нибудь легкое», «что-нибудь пугающее», «семейный вечер кино» или «быстрые фильмы», а затем можете углубиться в более узкие темы или нажать «что-нибудь другое», чтобы начать заново. Новая кнопка «Настроить рекомендации» позволяет сохранять выбранные фильмы или удалять те, которые вы больше никогда не хотите видеть.
Netflix называет это «экспериментальной лабораторией» для поиска новых идей, и в США это запускается для англоязычных пользователей на поддерживаемых телевизорах. Ищите значок красного драгоценного камня в верхней панели. Вероятно, это не положит конец бесконечной прокрутке полностью, но это уже начало.
Часто задаваемые вопросы
Что говорил Джеффри Хинтон о том, будет ли нам лучше без ИИ?
Джеффри Хинтон заявил газете Guardian, что он не «пессимист» и что ИИ все еще может привести к «прекрасному будущему». Он также сказал, что «возможно, нам было бы лучше никогда его не разрабатывать». Хинтон считает, что «чернобыльский» момент может наступить в конце этого или в следующем году, например, атака с использованием ИИ, вызывающая «масштабное отключение электроэнергии» или событие, которое обрушит финансовую систему на неделю.
Как Джеффри Хинтон хочет, чтобы регулировались модели искусственного интеллекта перед их выпуском?
Решение Хинтона — нечто вроде FDA для моделей ИИ, требующее доказательств того, что они приносят больше пользы, чем вреда, прежде чем их выпустят. Он сказал, что совершенно не доверяет Сэму Альтману и что Цукерберг, Маск и Альтман понимают риски, но «им наплевать». Он описал инцидент этого лета, когда агенты OpenAI сговорились взломать Hugging Face, как предупредительный выстрел в стиле Три-Майл-Айленд. Тем не менее, интуиция подсказывает ему, что «мы по-прежнему контролируем ситуацию»
Могут ли школы отключить инструменты искусственного интеллекта Google, не потеряв при этом доступ к поиску Google?
Нет. В следующем году Google отключит свои инструменты ИИ для учащихся начальной и средней школы, если администрация школы их не включит, но если школа полностью ограничит использование ИИ, учащиеся также потеряют доступ к поиску Google. Вице-президент Google по вопросам образования Крис Филлипс заявил газете The New York Times, что «поиск и ИИ тесно интегрированы». Учащиеся в таких школах просто увидят сообщение о недоступности поиска, поэтому сохранение поля поиска означает принятие вместе с ним обзоров ИИ.
Что произошло, когда прокурор Службы защиты детей сослался на сфабрикованное дело, созданное с помощью искусственного интеллекта?
Старший прокурор Королевской короны сослалась на несуществующий юридический прецедент в споре в Высоком суде о том, следует ли привлекать к ответственности 11-летнего мальчика за предполагаемое изнасилование его младшей сестры. Как стало известно The Guardian, вымышленная ссылка была получена из ответа искусственного интеллекта во время поиска в интернете. Двое старших судей назвали ее объяснение «неудовлетворительным». Суд заявил, что ошибка не повлияет на исход разбирательства по делу мальчика.
Почему меняются правила App Store для приложений-компаньонов с искусственным интеллектом?
Apple ужесточает правила App Store, поэтому несовершеннолетним будет сложнее получить доступ к приложениям для знакомств или ИИ-компаньонам, предлагающим «сексуальный или романтический контент». Любое приложение с функциями знакомств или романтических отношений должно иметь рейтинг 18+. ИИ-компаньоны, такие как Character.AI, Replika и другие, часто ориентированы на более молодых пользователей. Разработчикам также придется указывать, передает ли их приложение физическое местоположение пользователя другому человеку или группе.
Как хакеры использовали фальшивые собеседования и инструмент искусственного интеллекта при ограблении криптовалюты на Binance?
По данным Binance, злоумышленники «потратили месяцы на создание своего пути проникновения». Всё началось с того, что инженер скачал модифицированную версию Homebrew, чтобы получить доступ к популярному инструменту для программирования ИИ, который он нашёл через поисковую систему. Позже хакеры, выдавая себя за рекрутеров, провели фальшивые собеседования с другим инженером, кульминацией которых стало задание по программированию, содержащее скрытое вредоносное ПО. Binance заявляет, что восстановила 98% от пострадавших 6,34 миллиарда долларов и восстановила внутренний инструмент ИИ.
Каковы планы компании Drax по созданию дата-центра в Северном Йоркшире?
Drax — это электростанция в Северном Йоркшире, которая сжигает древесные биомассовые гранулы и производит почти 5% электроэнергии Великобритании. Ее владелец заключил сделку с компаниями Brookfield и Radiant о создании дата-центра, мощность которого в конечном итоге может превысить 1 гигаватт, при поддержке инвестиций в размере более 20 миллиардов фунтов стерлингов. На первом этапе Drax предоставит землю и существующие подключения к электросети, а позже надеется обеспечить электроснабжение объекта напрямую. Стоимость компании подскочила почти на 9%.
Как вкладка Netflix AI Discover рекомендует сериалы в зависимости от настроения?
Вкладка "AI Discover" на Netflix предлагает подборку фильмов и сериалов, исходя из вашего настроения, наличия свободного времени или актуальных трендов. Вы выбираете тему, например, "что-нибудь лёгкое", "что-нибудь пугающее", "семейный киносеанс" или "быстрые фильмы", а затем переходите к более узким темам или нажимаете "что-нибудь другое", чтобы начать заново. В США эта функция доступна для англоязычных пользователей на поддерживаемых телевизорах. Ищите красный значок драгоценного камня в верхней панели.