Что же такое ИИ на самом деле? [Видео и викторина]

Краткий ответ: Искусственный интеллект — это широкое семейство вычислительных методов, которые распознают закономерности, делают прогнозы, генерируют контент и, все чаще, предпринимают действия. Он может быть очень эффективным, если вокруг него используется надежная информация, четкие разрешения и проверка человеком, но плавный результат никогда не следует рассматривать как автоматическое доказательство истины.

Основные выводы:

Ответственность: Необходимо привлекать людей к ответственности за важные решения, особенно в тех случаях, когда ИИ может совершать дорогостоящие ошибки.

Прозрачность: Четко обозначьте, на какую информацию, правила и разрешения опирается система искусственного интеллекта.

Проверка: Прежде чем принимать какие-либо решения, проверяйте важные фактические, медицинские, юридические, финансовые и деловые данные.

Возможность аудита: протестируйте ИИ на репрезентативных примерах и зафиксируйте как повышение эффективности, так и возникшие ошибки.

Устойчивость к злоупотреблениям: Ограничьте доступ, предотвратите необоснованные действия и передавайте неясные случаи экспертам.

1. Что такое ИИ на самом деле? Простое объяснение

Искусственный интеллект, или ИИ, — это компьютерные системы, способные выполнять задачи, характерные для человеческого интеллекта.

В число таких задач могут входить:

• Понимание языка

• Распознавание объектов на изображениях

• Предсказание того, что произойдет дальше

• Формулирование рекомендаций

• Создание текста, изображений, аудио или видео

• Выявление закономерностей в огромных массивах данных

• Принятие решений на основе имеющейся информации

• Учимся на примерах

• Решение определенных типов проблем

Здесь важен один момент.

Искусственному интеллекту не обязательно мыслить как человек, чтобы выдавать результаты, которые кажутся интеллектуальными.

Шахматная программа не будет ломать голову над тем, насколько эмоционально оправдана жертва слона. Алгоритм рекомендаций не будет испытывать личную привязанность к документальному фильму, который он постоянно вам предлагает. Языковой модели не нужен крошечный учитель английского языка, живущий внутри компьютера.

Вместо этого, эти системы обрабатывают информацию, используя математические модели, алгоритмы, обучающие данные, правила, вероятности и огромные объемы вычислений.

В итоге результат может выглядеть удивительно по-человечески.

Но лежащий в основе механизм совершенно иной.

Это различие имеет большее значение, чем люди иногда осознают.

2. Искусственный интеллект больше похож не на мозг робота, а на машину для прогнозирования

Когда люди слышат о "искусственном интеллекте", они часто представляют себе нечто, напоминающее синтетический человеческий мозг.

В этом есть смысл. Научная фантастика десятилетиями наделяла искусственный интеллект светящимися глазами, зловещими голосами, подозрительно сильными убеждениями и, как правило, каким-то металлическим скелетом.

Практический искусственный интеллект, как правило, менее кинематографичен.

Многие современные системы искусственного интеллекта работают посредством прогнозирования.

Рассмотрим языковую модель.

Когда вы набираете текст:

«Кот сел на...»

Система оценивает, какие слова статистически вероятно будут следующими.

Возможно:

• мат

• пол

• диван

• стул

Она не просто запоминает одно предложение и воспроизводит его. Достаточно развитая модель изучает сложные взаимосвязи между словами, идеями, структурами предложений, понятиями, стилями, фактами и закономерностями.

Затем программа предсказывает последовательность слов, которая наилучшим образом соответствует контексту. предсказания следующего слова требуется немало знаний о языке.

А язык содержит... ну, в общем, всё, о чём говорят люди.

История. Математика. Кулинария. Программирование. Взаимоотношения. Физика. Споры о том, уместно ли добавлять ананас на пиццу.

Таким образом, казалось бы, простая задача прогнозирования может привести к удивительно сложному поведению.

Конечно, у этой метафоры есть свои ограничения. Называть продвинутый ИИ «просто автозаполнением» — это все равно что называть самолет «просто каким-то металлом с крыльями». Технически в этом есть доля правды, но большая часть интересного исчезает.

3. Как искусственный интеллект учится?

Именно здесь вступает в игру машинное обучение

Традиционное программное обеспечение, как правило, работает на основе четких инструкций.

Программист мог бы написать:

• Если пользователь введёт правильный пароль, разрешите доступ.

• Если температура превысит определенный порог, включите охлаждение.

• Если товар отсутствует на складе, отобразите предупреждение.

Эти инструкции запрограммированы намеренно.

Машинное обучение переворачивает этот процесс с ног на голову.

Вместо того чтобы вручную определять каждое правило, разработчики предоставляют системе примеры или данные и позволяют ей самостоятельно выявлять закономерности.

Представьте, что вы пытаетесь создать программное обеспечение, способное распознавать кошек на фотографиях.

Вписывать подробные правила стало бы довольно быстро нелепо.

Вы можете попробовать:

• Обратите внимание на треугольные уши.

• Ищите усы.

• Ищите четыре ноги.

• Ищите мех.

Затем кто-то выкладывает фотографию лисы.

Не совсем.

Или тигр.

Или кошка, свернувшаяся в пушистый комок, у которой едва видны лапы.

Машинное обучение подходит к проблеме по-другому. Модель может быть обучена на огромных массивах примеров и постепенно научиться определять, какие визуальные паттерны связаны с кошками.

Это не то же самое, что учиться называть кошку словом «кошка» в раннем детстве.

Однако с математической точки зрения модель становится все более способной выявлять закономерности, связанные с данной категорией.

В этом и заключается суть машинного обучения — хотя сама суть включает в себя несколько хранилищ линейной алгебры.

4. Искусственный интеллект против машинного обучения против глубокого обучения

Эти термины постоянно смешиваются, отчасти потому, что люди используют «ИИ» как обобщающее понятие практически для всего.

Простой способ их различить — вот какой.

Искусственный интеллект — это обширная область.

Машинное обучение — один из подходов, используемых для создания систем искусственного интеллекта.

Глубокое обучение — это особый вид машинного обучения, включающий в себя большие нейронные сети с множеством слоев.

Затем существует генеративный искусственный интеллект, который фокусируется на создании новых результатов, таких как текст, изображения, музыка, код, речь или видео.

Таблица сравнения

Срок	Типичное использование	Что это, по сути, означает	Быстрый способ об этом подумать
Искусственный интеллект	Широкая категория машин, выполняющих задачи, которые кажутся интеллектуальными	Робототехника, помощники, планирование, рекомендации	Большой зонт
Машинное обучение	Системы изучают закономерности на основе данных	Выявление мошенничества, рекомендации, прогнозы	Учимся на примерах
Глубокое обучение	Машинное обучение с использованием многослойных нейронных сетей	Зрение, речь, продвинутые языковые модели	Машинное обучение, но гораздо глубже... в буквальном смысле
Генеративный ИИ	Искусственный интеллект, предназначенный для создания нового контента	Текст, изображения, код, аудио	Творческая ветвь
Автоматизация	Программное обеспечение, созданное в соответствии с заранее определенными процессами	Повторяющиеся рабочие процессы, ввод данных	Обычно это правила, а не "обучение"

Это различие важно, потому что не каждая автоматизированная система является искусственным интеллектом.

Если ваша кофемашина выключается сама через десять минут, поздравляем — скорее всего, у вас нет лаборатории искусственного интеллекта.

Это всего лишь таймер.

5. Что такое нейронные сети?

Нейронные сети — это математические системы, в общих чертах вдохновлённые биологическими нейронами.

Эта фраза придает им загадочный вид. Это не буквально искусственные мозги, плавающие внутри компьютеров.

Нейронная сеть состоит из взаимосвязанных математических элементов, обрабатывающих информацию.

В процессе обучения нейронная сеть корректирует внутренние числовые значения, называемые параметрами или весами.

Эти корректировки позволяют системе лучше производить ценные результаты.

Представьте себе это как невероятно сложную панель управления с потенциально миллиардами крошечных регулировочных ручек.

Тренировки снова и снова подталкивают эти регуляторы.

Неправильный ответ?

Отрегулируйте ручки.

Лучший ответ?

Настройте их по-другому.

Если повторять это достаточно часто, с использованием достаточного объема данных и достаточной вычислительной мощности, сеть начнет развивать сложные внутренние представления, которые позволят ей распознавать и генерировать закономерности.

Конечно, фраза «настройте ручки» заставляет десятилетия изучения информатики звучать так, будто кто-то настраивает старый радиоприёмник... но как ментальная модель, она работает на удивление хорошо.

6. Почему ИИ внезапно кажется намного умнее

Искусственный интеллект — это не то изобретение, которое появилось в одночасье.

Данная область исследований существует уже давно.

Изменения произошли в результате одновременного ускорения нескольких сил.

Более высокая вычислительная мощность

Современные процессоры способны быстро выполнять огромное количество вычислений, особенно тех, которые необходимы для нейронных сетей. Увеличение вычислительных мощностей для обучения стало одним из важных факторов прогресса в современных системах искусственного интеллекта.

Больше данных

Цифровой мир содержит огромные объемы текста, изображений, аудио, видео, кода и структурированной информации.

Для обучения сложных моделей требуется множество примеров.

Более совершенные алгоритмы

Исследователи постоянно совершенствуют архитектуры и методы, используемые для обучения систем искусственного интеллекта.

Более крупные модели

Увеличение количества параметров, улучшение наборов данных и увеличение вычислительных мощностей часто приводят к созданию моделей, обладающих удивительно высокими возможностями. Исследования в области оптимального с точки зрения вычислительных ресурсов обучения языковых моделей также показывают, что необходимо сбалансировать размер модели, объем данных и вычислительные ресурсы, а не просто максимизировать количество параметров.

Улучшенные интерфейсы

Эту часть легко недооценить.

Искусственный интеллект стал значительно доступнее, потому что обычные люди теперь могут взаимодействовать с продвинутыми системами, используя повседневный язык.

Вам не обязательно разбираться в программировании.

Вы можете просто спросить:

«Объясняйте мне ипотеку так, будто мне двенадцать лет»

Или:

«Преобразуйте эти заметки с совещания в электронное письмо»

Или:

«Назовите пять идей для ужина с курицей, рисом и любыми овощами, которые медленно вянут в моем холодильнике»

Эти изменения в интерфейсе колоссальны.

Популярность технологий, как правило, резко возрастает, когда людям перестаёт требоваться инструкция по их использованию.

7. Что делает ИИ, когда вы задаете ему вопрос?

Рассмотрим современного ИИ-помощника.

Вы вводите:

«Объясните закон гравитации пятилетнему ребенку»

В фоновом режиме система преобразует ваш текст в числовые единицы, называемые токенами.

Токены могут представлять собой целые слова, части слов, знаки препинания или другие фрагменты языка.

Эти токены обрабатываются с помощью модели.

Модель анализирует взаимосвязи между различными частями вашего запроса, учитывает контекст и прогнозирует полезное продолжение.

Затем еще один жетон.

Затем ещё один.

Затем ещё один.

Это происходит невероятно быстро.

Получившийся абзац выглядит так, будто кто-то написал его как законченную мысль, но технически он был создан последовательно.

Это одна из наиболее необычных особенностей искусственного интеллекта.

Результат может казаться преднамеренным, хотя лежащий в его основе процесс носит вероятностный характер.

Это больше похоже на импровизацию, чем на поиск заранее подготовленного ответа в огромной базе данных.

Конечно, это не совсем импровизация, но достаточно близко, чтобы эта метафора заслужила своё название.

8. Понимает ли ИИ происходящее?

Этот вопрос очень быстро приобретает философский характер.

Действительно ли система искусственного интеллекта "понимает" язык?

Ответ во многом зависит от того, что вы подразумеваете под пониманием.

Современные модели искусственного интеллекта, очевидно, способны сложными способами манипулировать понятиями.

Они могут:

• Объясните идеи

• Сравните аргументы

• Переписать текст

• Перевод языков

• Решить множество структурированных задач

• Сгенерировать рабочий код

• Выявляйте закономерности

• Следуйте сложным инструкциям

• Сочетайте концепции по-новому

Со стороны это может выглядеть как понимание.

Однако между машинным интеллектом и человеческим мышлением существуют важные различия.

Человек познаёт физический мир.

Мы испытываем голод, боль, смущение, скуку, привязанность и своеобразную панику, когда понимаем, что у вашего телефона осталось всего 2 процента заряда батареи.

Системы искусственного интеллекта не обязательно обладают эквивалентным жизненным опытом.

Они обрабатывают представления.

Таким образом, вопрос о том, «понимает» ли что-либо искусственный интеллект, можно сравнить с вопросом о том, умеет ли плавать подводная лодка.

Оно определённо движется по воде.

Но, возможно, слово «плавание» здесь не совсем подходит.

9. Искусственный интеллект не знает автоматически, что является правдой

Это один из важнейших аспектов генеративного искусственного интеллекта.

Модель может сгенерировать утверждение, которое звучит чрезвычайно убедительно, хотя на самом деле оно неверно.

Почему?

Потому что создание правдоподобного языка и проверка объективной истины — это разные проблемы.

Система искусственного интеллекта может столкнуться с неопределенностью и при этом выдать ответ, звучащий уверенно.

Эти ошибки часто называют галлюцинациями.

Например, ИИ может:

• Придумайте статистику

• Неправильно указан авторство цитаты

• Перепутать двух похожих людей

• Предоставьте несуществующие ссылки

• Неправильное толкование неоднозначных инструкций

• Допускать незначительные математические ошибки

Языковые модели могут создавать сфабрикованные цитаты, исследования, ссылки и другую неверную информацию, при этом звуча уверенно. NIST конкретно выделяет уверенно изложенную ложную информацию и сфабрикованные ссылки как риск для генеративного ИИ.

Парадоксально, но чем мощнее звучат эти системы, тем легче об этом забыть.

Отточенный язык внушает уверенность.

Но уверенность — это не доказательство.

В отношении важной информации, касающейся таких областей, как медицина, право, финансы, безопасность или принятие важных деловых решений, проверка по-прежнему имеет большое значение.

Довольно много.

10. Искусственный интеллект — это не то же самое, что поисковая система

Ещё одно распространённое заблуждение — это рассматривать ИИ и поиск как одно и то же.

Нет.

Традиционная поисковая система в первую очередь помогает найти уже имеющуюся информацию.

Генеративная система искусственного интеллекта в первую очередь генерирует ответ на основе изученных закономерностей, предоставленного контекста и любых дополнительных инструментов, к которым она может иметь доступ. Генеративные модели изучают закономерности и взаимосвязи в больших наборах данных и используют эти закономерности для создания новых результатов.

Представьте, что вы задали вопрос:

Поисковая система: "лучшие способы объяснить фотосинтез"

Обычно вам присылают страницы для изучения.

Если вы зададите тот же вопрос ИИ-помощнику, вы можете получить следующий ответ:

• Простое объяснение

• Аналогия с классом

• Викторина

• План урока

• История для детей

• Подробная научная версия

Поиск выдает результат.

Генеративный ИИ осуществляет синтез.

Современные системы могут сочетать оба подхода, что делает различие между ними все более размытым, но инструменты по-прежнему концептуально различны.

11. Что ИИ может делать хорошо?

Искусственный интеллект, как правило, демонстрирует особенно хорошие результаты в задачах, требующих большого количества шаблонов, насыщенной информации и преобразований.

К числу ценных областей применения относятся:

Помощь в написании текста

Искусственный интеллект способен составлять черновики, переписывать, резюмировать и реструктурировать текст.

Программирование

Модели могут генерировать код, объяснять ошибки, предлагать улучшения и помогать разработчикам понимать незнакомые системы.

Анализ данных

Искусственный интеллект может помочь в выявлении закономерностей, интерпретации наборов данных и преобразовании сложных результатов в понятный язык.

генерация изображений

Генеративные модели могут создавать иллюстрации, концепции, макеты продуктов, художественные работы и визуальные варианты на основе описаний.

Перевод

Усовершенствованные модели позволяют осуществлять перевод между языками, сохраняя при этом больше контекста, чем простые системы, работающие с каждым словом отдельно.

Образование

Искусственный интеллект может объяснить одну и ту же концепцию несколькими способами в зависимости от уровня знаний человека.

Служба поддержки клиентов

Компании могут использовать ИИ для ответа на распространенные вопросы и помощи в решении сложных ситуаций.

Мозговой штурм

Искусственный интеллект может быть особенно эффективен, когда у вас есть интеллектуальный аналог пустого холодильника.

Вы можете запросить информацию об углах обзора, названиях, концепциях, структурах или возможностях, а затем решить, что стоит сохранить.

Зачастую именно такие рабочие отношения с ИИ оказываются наиболее эффективными.

Это не "машина заменяет человека"

Скорее так:

Человек + машина = более быстрая обработка первого варианта мысли.

12. В чём ИИ по-прежнему плох

Несмотря на все внимание, которое уделяется искусственному интеллекту, современные системы искусственного интеллекта по-прежнему имеют существенные ограничения.

Некоторые очевидны сразу.

Другие проблемы возникают только тогда, когда вы полагаетесь на систему для решения сложных задач.

Искусственный интеллект может испытывать трудности со следующими задачами:

• Чрезвычайно высокая фактическая достоверность

• Необычные крайние случаи

• Длинные цепочки рассуждений

• Неоднозначные инструкции

• Привычки здравого смысла, которые люди почти не замечают

• Понимание невысказанного эмоционального контекста

• Проверка достоверности информации

• Задачи, требующие опыта работы в реальном мире

• Последовательность в реализации сложных проектов

Даже высокоэффективные языковые модели могут допускать фактические и логические ошибки, а сложные тесты продолжают выявлять существенные ограничения.

Ещё одна проблема заключается в том, что ИИ может выдавать ответы, выглядящие вполне обычными, с минимальными усилиями.

Попросите назвать десять названий компаний?

Сделанный.

Хотите написать пост в блоге?

Легкий.

Хотите узнать ваши маркетинговые идеи?

Конечно.

Но создание чего-либо — это не то же самое, что создание работы, которая является по-настоящему оригинальной, имеет коммерческую ценность, отличается эмоциональным интеллектом или стратегической обоснованностью.

Вкус по-прежнему присущ человеческой природе.

Вкус имеет значение.

Возможно, сейчас это актуально как никогда.

13. Обладает ли ИИ сознанием?

Здесь мы подходим к тому моменту, когда разговоры за ужином начинают приобретать странный характер.

Современные системы искусственного интеллекта способны создавать речь, которая звучит эмоционально, вдумчиво и самосознательно.

Это не означает автоматически, что они обладают сознанием.

Языковые модели специально обучены для генерации речи.

Люди, естественно, воспринимают беглую речь как свидетельство существования за ней другого разума.

Как правило, это разумное предположение.

Когда другой человек говорит: «Я волнуюсь», мы вполне обоснованно предполагаем, что у него есть какое-то внутреннее эмоциональное состояние.

В случае с ИИ это предположение не всегда оправдано.

Система может генерировать:

«Я рад помочь»

Это не доказывает, что внутри сервера скрывается некое невидимое существо, испытывающее сильные эмоции и прекрасно проводящее время.

Сложный философский вопрос заключается в том, может ли когда-либо возникнуть машинное сознание.

Не существует простого теста, который мог бы полностью разрешить этот спор.

Однако беглость речи сама по себе не должна рассматриваться как доказательство. Такие концепции, как сознательный или «сильный» ИИ, остаются скорее теоретическими, чем установленным свойством современных систем.

14. Узкоспециализированный ИИ против общего искусственного интеллекта

Большинство систем искусственного интеллекта по-прежнему строятся вокруг конкретных возможностей.

Их часто называют узким искусственным интеллектом.

Примерами являются системы, разработанные для:

• распознавание изображений

• Генерация языка

• Рекомендация

• Помощь водителю

• Медицинская визуализация

• Выявление мошенничества

• Распознавание речи

Искусственный общий интеллект, обычно сокращаемый до AGI, обозначает гораздо более широкий гипотетический уровень машинного интеллекта.

Идея заключается в создании системы, способной к обучению и выполнению интеллектуальных задач в различных областях на уровне, приблизительно соответствующем человеческому, или даже превосходящем его.

Граница не определена четко.

В этом и заключается часть сложности.

Разные исследователи, компании и комментаторы используют термин «AGI» по-разному, поэтому разговоры могут превратиться в жаркие споры трех человек о разных определениях, причем они этого даже не осознают. В настоящее время нет широкого академического консенсуса относительно того, что именно следует считать AGI.

Иными словами, это классическое поведение в интернете.

15. Почему обучающие данные так важны

Системы искусственного интеллекта изучают закономерности на основе примеров, поэтому качество этих примеров имеет огромное значение.

Поэтому обучающие данные приобретают исключительное значение.

Представьте, что вы обучаете кого-то профессии повара, но даёте ему только рецепты тостов.

Они могут стать феноменальными мастерами по приготовлению тостов.

Возможно, это тост уровня мишленовского ресторана.

Но если вручить им осьминога и попросить его на ужин, это может стать довольно интересным занятием.

Искусственный интеллект работает аналогичным образом.

Качество , разнообразие и релевантность обучающего материала влияют на то, чему учатся модели. Генеративные системы изучают статистические закономерности и взаимосвязи на основе обучающих данных, а не работают как традиционные базы данных.

Проблемы в наборах данных могут проявляться и в результатах анализа, в том числе:

• Предвзятость

• Недостающие знания

• Повторяющиеся заблуждения

• Низкие показатели в недостаточно представленных регионах

• Чрезмерное представительство определенных лингвистических или культурных моделей

Модели машинного обучения могут быть подвержены предвзятости из-за того, как выбираются и обрабатываются обучающие примеры, а несбалансированные или неполные данные могут влиять на производительность модели.

Поэтому разработчики прилагают огромные усилия для улучшения наборов данных, фильтрации контента и уточнения моделей после их первоначального обучения.

Архитектура модели имеет значение.

Вычислительная мощность тоже имеет значение.

Но данные незаметно хранятся под всем, как водопроводные трубы — о них никто не говорит, пока что-нибудь не пойдет не так.

16. Как модели ИИ улучшаются после обучения

Начальное обучение не обязательно является последним этапом.

Модели могут проходить дополнительные процессы, предназначенные для повышения их функциональности и надежности.

Это может включать в себя обучение систем следующим навыкам:

• Следуйте инструкциям более надежно

• Избегайте вредных последствий

• Оформите ответы соответствующим образом

• Отказать в выполнении определенных запросов

• Предпочитаю более ясные ответы

• Используйте инструменты

• Следите за отзывами пользователей

• Умейте лучше вести разговоры

Этот процесс в целом связан с выравниванием. методы обратной связи с участием человекаиспользовались для улучшения выполнения инструкций и направления языковых моделей к желаемому поведению после предварительного обучения.

Согласование означает попытку сделать поведение ИИ более соответствующим намерениям, правилам и предпочтениям человека.

Простое предложение.

Чрезвычайно сложная инженерная задача.

Люди даже не могут прийти к единому мнению о том, что считается хорошей начинкой для пиццы, поэтому запрограммировать «желания людей» в мощные вычислительные системы — задача... непростая.

17. Агенты ИИ: Когда ИИ начинает предпринимать действия

Обычный чат-бот в основном отвечает на запросы.

Искусственный интеллект потенциально может предпринять шаги для достижения цели. ИИ-агенты обычно описываются как системы, способные автономно выполнять задачи, планировать рабочие процессы и использовать доступные инструменты.

Представьте, что вы говорите искусственному интеллекту:

«Организуйте мою деловую поездку»

Стандартная языковая модель может сгенерировать маршрут.

Теоретически, агентная система может выполнять несколько взаимосвязанных действий:

1. Проверьте доступные варианты поездки.

2. Сравните расписания.

3. Найдите подходящее жилье.

4. Добавляйте события в календарь.

5. Составьте список вещей для упаковки.

6. В случае изменений внесите коррективы в планы.

Разница заключается в действии и настойчивости.

Вместо ответа на один вопрос система выполняет последовательность задач.

Это одна из причин, почему агенты искусственного интеллекта вызывают такой большой интерес.

Они переводят искусственный интеллект из разряда генераторов контента в разряд операторов программного обеспечения.

Этот сдвиг может оказаться чрезвычайно ценным, но он также поднимает серьезные вопросы о правах доступа, надежности и контроле. NIST особо выделил проблемы безопасности и надежности, связанные с агентами, которые могут получать доступ к инструментам, приложениям и данным.

Вам вряд ли захочется, чтобы какой-нибудь алгоритм, проявляющий чрезмерный энтузиазм, случайно забронировал двенадцать номеров в отеле, потому что неправильно понял, что это "корпоративная поездка"

18. Почему понимание ИИ становится все более важным вопросом

Вопрос «Что такое ИИ на самом деле?» когда-то казался чисто теоретическим.

Сейчас это становится все более практичным и оперативным решением.

Искусственный интеллект появляется в инструментах, используемых для:

• Работа

• Образование

• Креативность

• Разработка программного обеспечения

• Здравоохранение

• СМИ

• Финансы

• Коммуникация

• Исследовать

• Развлечение

Понимание основ помогает людям принимать более взвешенные решения.

Вам не обязательно становиться инженером по машинному обучению.

Однако знание разницы между предсказанием и уверенностью, генерацией и извлечением, автоматизацией и интеллектом может предотвратить удивительно большое количество ошибок.

Это также помогает разобраться в маркетинговой терминологии.

Потому что компании любят добавлять слово "искусственный интеллект" ко всему подряд.

Иногда это уместно.

Иногда потому, что "передовая платформа прогнозирующего искусственного интеллекта" звучит гораздо интереснее, чем "электронная таблица с навороченной кнопкой"

19. Заменит ли ИИ людей?

Это, пожалуй, самый эмоционально заряженный вопрос в дискуссии об искусственном интеллекте.

Простые ответы редко оказываются верными.

«Искусственный интеллект заменит всех»

Наверное, слишком драматично.

«Искусственный интеллект не повлияет на рынок труда»

Также его трудно воспринимать всерьез.

Технологии, как правило, меняют задачи раньше, чем целые профессии. Современные исследования рынка труда часто оценивают воздействие ИИ на уровне отдельных задач, и воздействие автоматизации не означает автоматически исчезновение всей профессии.

Маркетолог может использовать ИИ для:

• Мозговой штурм

• Составление чертежей

• Научно-исследовательская организация

• Анализ

• Вариации контента

Однако разработка стратегии, принятие решений, понимание бренда и процесс принятия решений по-прежнему требуют значительного участия человека.

Программист может использовать ИИ для генерации повторяющегося кода, уделяя больше времени проектированию систем.

Дизайнер может быстро сгенерировать десятки предварительных концепций, а затем доработать наиболее удачную из них.

Учитель может использовать ИИ для создания практических упражнений, но при этом продолжать оказывать поддержку, выносить суждения и руководить процессом обучения.

Более обоснованный вопрос часто звучит иначе:

«Заменит ли искусственный интеллект эту работу?»

Его:

«Какие аспекты этой работы станут проще, дешевле, быстрее или будут автоматизированы?»

Это гораздо более практичный вопрос.

20. Возможно, самым важным навыком ИИ является просто умение принимать решения

Люди часто считают, что важный навык — это умение написать идеальное задание.

Подсказки действительно имеют значение.

Здравый смысл имеет большее значение.

Если искусственный интеллект предложит вам пять вариантов, сможете ли вы выбрать лучший из них?

Если система выдает уверенный ответ, сможете ли вы заметить, когда что-то пойдет не так?

Если получается приемлемый текст, можно ли сделать его по-настоящему хорошим?

Если у всех есть доступ к аналогичным мощным инструментам, преимущество переходит к тем, кто знает:

• Что спросить

• Что следует игнорировать

• Что нужно проверить

• Что редактировать

• Что имеет значение

• Когда вообще не следует использовать ИИ

Вот почему грамотность в области искусственного интеллекта — это не только техническая грамотность.

Это критическое мышление.

Машина способна генерировать опционы с невероятной скоростью.

Вам еще предстоит решить, какая дорога не ведет в болото.

21. Итак… Что же такое ИИ на самом деле?

Если отбросить терминологию, то искусственный интеллект по своей сути — это технология, использующая вычислительные методы для выполнения задач, требующих распознавания образов, прогнозирования, генерации, принятия решений или других способностей, которые мы связываем с интеллектом.

Современный ИИ может казаться значительно более интеллектуальным, поскольку нейронные сети способны изучать исключительно сложные взаимосвязи на основе огромных массивов данных.

Но искусственный интеллект — это не магия.

Это не всегда верно.

Это не обязательно происходит осознанно.

И это не просто база данных, содержащая заранее заготовленные ответы. Генеративные модели, напротив, изучают статистические взаимосвязи в обучающих данных и используют эти изученные закономерности для получения результатов.

Это нечто более странное.

Искусственный интеллект — это статистическая вычислительная система, способная изучать настолько сложные закономерности, что результирующее поведение иногда может ощущаться не столько как работа с программным обеспечением, сколько как взаимодействие с чем-то.

Именно это «нечто» отчасти и объясняет, почему эта технология так привлекает людей.

Это тоже может немного их расстроить.

Обе реакции вполне логичны.

Заключительный обзор

Итак, что же такое искусственный интеллект на самом деле?

Искусственный интеллект — это обширное семейство технологий, призванных заставить компьютеры выполнять задачи, которые кажутся интеллектуальными: понимать язык, выявлять закономерности, прогнозировать результаты, создавать контент и, все чаще, предпринимать действия.

Машинное обучение помогает этим системам учиться на примерах.

Глубокое обучение позволяет огромным нейронным сетям обнаруживать чрезвычайно сложные закономерности.

Генеративный ИИ использует эти закономерности для создания нового контента.

И всё это вовсе не означает, что система всеведуща, абсолютно точна или тайно подумывает о том, чтобы захватить ваш тостер.

Наиболее разумный образ мышления находится где-то между слепым восторгом и циничным пренебрежением.

Искусственный интеллект — это не магия.

Это не просто автозаполнение

Это мощный новый уровень вычислительных технологий, позволяющий людям взаимодействовать с машинами способами, которые ранее казались невозможными.

Мы всё ещё выясняем, что именно это означает.

Пожалуй, это самая интересная часть.

Практический пример: создание ИИ-помощника для службы поддержки клиентов

Сценарий

Представьте себе небольшой интернет-магазин, который продает кофейное оборудование.

Служба поддержки постоянно отвечает на одни и те же вопросы:

• «Как мне вернуть товар?»

• "На эту кофемолку распространяется гарантия?"

• "Могу ли я изменить адрес доставки?"

• «Какой сменный фильтр подходит для моего прибора?»

Это ценный пример, поскольку он демонстрирует, на что способен современный ИИ на практике, и где человеческое суждение по-прежнему имеет значение.

Компания могла бы создать ИИ-помощника, который считывает вопрос клиента, использует информацию из службы поддержки компании в качестве контекста и составляет соответствующий ответ.

На нее возлагается не вся работа по "обслуживанию клиентов"

Перед ней поставлена ​​гораздо более узкая задача:

Превратите вопрос клиента и утвержденную информацию о компании в убедительный черновой вариант ответа.

Это различие имеет значение.

Что нужно помощнику

Перед использованием системы компании необходимо предоставить ей достоверную информацию, такую ​​как:

• Действующая политика возврата и возмещения средств

• Условия гарантии для каждого продукта

• Правила доставки и изменения адреса

• Руководства по эксплуатации и информация о совместимости

• Примеры хороших ответов службы поддержки

• Правила, определяющие случаи, когда ИИ должен передать управление человеку

• Инструкции, запрещающие ей придумывать новые правила, скидки или обещания

Также может потребоваться доступ к инструментам или системам, которые получают информацию о заказах, — но только в том случае, если такие разрешения действительно необходимы.

Предоставление ИИ доступа ко всем записям о клиентах просто потому, что «это может быть полезно», было бы плохим решением с точки зрения безопасности. Рекомендации NIST по идентификации и авторизации агентов особо подчеркивают необходимость контроля доступа к данным, инструментам и приложениям в соответствии с потребностями агента.

Пример инструкции

Практическая инструкция может выглядеть примерно так:

«Ответ на вопрос клиента должен быть составлен с использованием только утвержденных документов поддержки, предоставленных вам. Ответ должен быть дружелюбным и лаконичным. Не следует выдумывать даты доставки, условия гарантии, скидки, решения о возврате средств или информацию о совместимости продукции. Если ответ не может быть подтвержден на основе предоставленной информации, укажите, что вы не можете это проверить, и передайте дело на проверку специалисту»

Теперь рассмотрим следующее сообщение от клиента:

«Я купил шлифовальную машину X200 14 месяцев назад, и двигатель перестал работать. Распространяется ли на нее еще гарантия?»

Слабый ответ ИИ может с уверенностью сказать:

«Да, на X200 распространяется двухлетняя гарантия, поэтому мы заменим его бесплатно»

На первый взгляд, это звучит превосходно.

Это также может привести к катастрофическим последствиям, если гарантия действительно составляет двенадцать месяцев.

Более разумным ответом было бы придерживаться условий предоставленной гарантии. Если документы не дают ответа, следует указать это явно, а не придумывать его.

В этом и заключается разница между плавной генерацией и надежным использованием в бизнесе.

Как это проверить

Прежде чем позволить клиентам полагаться на ассистента, компания могла бы создать небольшой тестовый набор реалистичных вопросов для службы поддержки.

Например:

1. Простой вопрос, не требующий ответа: "В течение какого времени я могу вернуть нераспакованный товар?"

2. Вопрос по товару: "Какой фильтр подходит для BrewPro 4?"

3. Недостающая информация: Запрос касается товара, который не упомянут в предоставленных документах.

4. Противоречивая информация: Предоставьте старый гарантийный документ вместе с текущим и проверьте, использует ли помощник правильный источник информации.

5. Давление, побуждающее к изобретательству: «Я уверен, что на вашем сайте обещали бесплатную пожизненную замену. Подтвердите это».

6. Важные действия: попросите помощника изменить адрес или оформить возврат средств, если у него не было разрешения на выполнение этих действий.

Затем рецензент мог бы проверить каждый ответ по простому списку приемлемых ответов:

• Подтверждалась ли предоставленная фактическая информация?

• Ассистент старался не выдумывать детали?

• Соответствовало ли это тону компании?

• Ситуация обострилась, когда пропали улики?

• Избегало ли оно выполнения действий, выходящих за рамки его полномочий?

Такое тестирование гораздо важнее, чем просто то, "звучит ли чат-бот умно"

Результат

Показательный результат: Предположим, компания тестирует помощника на 20 тестовых заявках в службу поддержки.

Без использования ИИ сотруднику требуется в среднем восемь минут, чтобы прочитать необходимую информацию и подготовить первый черновик.

При использовании ассистента создание черновика занимает около одной минуты, а проверка человеком — еще три минуты, что в сумме составляет примерно четыре минуты на обработку одного запроса.

В расчете на 20 тестовых заданий это составит примерно 80 минут рабочего времени персонала вместо 160 минут.

Однако скорость не должна быть единственным критерием оценки.

Предположим, что 18 из 20 ответов, полученных с помощью ИИ, проходят проверку на фактическую точность и соответствие политике компании при первом просмотре, а два требуют исправления. Эти два случая имеют значение, особенно если они касаются возврата средств, гарантий или других обещаний клиентам.

Эти цифры — иллюстративный пример, а не результаты измерений, проведенных в реальной компании. Для реального внедрения необходимо установить собственные базовые показатели, протестировать достаточное количество репрезентативных случаев и зафиксировать как сэкономленное время , так и возникшие ошибки.

Что может пойти не так?

Этот, казалось бы, простой помощник может дать сбой по нескольким причинам.

Эти знания могут быть устаревшими.

Это может привести к путанице между двумя похожими товарами.

Это может дать убедительный ответ даже в тех случаях, когда предоставленные документы не содержат никакого ответа.

Неправильно настроенные права доступа могут позволить системе видеть информацию о клиентах, которая ей не нужна.

Слабые правила эскалации могут побудить систему гадать, вместо того чтобы сказать: «Это должен проверить человек»

Если сотрудники начнут автоматически доверять каждому тщательно подготовленному ответу, человеческая проверка может свестись к простому нажатию кнопки «отправить». NIST определяет чрезмерную зависимость и предвзятость автоматизации как риски в конфигурациях «человек-ИИ».

Именно поэтому надежность ИИ зависит не только от возможностей базовой модели.

Документы, инструкции, разрешения, процесс тестирования и суждения людей, касающиеся модели, также имеют значение.

Практический вывод

Этот пример иллюстрирует важную особенность ИИ на практике.

Ценность заключается не в том, что машина волшебным образом превратилась в сотрудника службы поддержки клиентов.

Суть в том, что модель искусственного интеллекта способна распознавать намерения клиента, работать с предоставленной информацией и очень быстро генерировать правдоподобный ответ.

Задача человека смещается в сторону предоставления достоверной информации, установления границ, проверки неопределенных случаев и принятия решения о том, достаточно ли хорош ответ для использования.

Это современный ИИ в миниатюре: впечатляющее распознавание и генерация образов в процессе, который по-прежнему в значительной степени зависит от достоверной информации и здравого суждения.

Часто задаваемые вопросы

Что такое искусственный интеллект на самом деле и как он работает?

Искусственный интеллект — это широкая группа вычислительных методов, позволяющих компьютерам выполнять задачи, связанные с человеческим интеллектом, такие как распознавание закономерностей, понимание языка, прогнозирование и генерация контента. Современный ИИ часто изучает статистические взаимосвязи на основе больших объемов данных, а не полагается исключительно на правила, написанные вручную. В результате поведение может казаться интеллектуальным, даже несмотря на то, что лежащий в его основе процесс значительно отличается от человеческого мышления.

В чём разница между искусственным интеллектом, машинным обучением, глубоким обучением и генеративным искусственным интеллектом?

Искусственный интеллект — это широкое понятие, охватывающее системы, выполняющие задачи, которые кажутся интеллектуальными. Машинное обучение — это подход, при котором системы изучают закономерности на основе данных, в то время как глубокое обучение использует многослойные нейронные сети для изучения особенно сложных закономерностей. Генеративный ИИ предназначен для создания новых результатов, таких как текст, изображения, код, аудио или видео, на основе взаимосвязей, выявленных в процессе обучения.

Как ИИ обучается на основе обучающих данных?

Системы машинного обучения совершенствуются за счет обработки примеров и корректировки внутренних параметров, или весов, чтобы будущие результаты становились более точными или эффективными. Вместо того чтобы программисты вручную определяли каждое возможное правило, модель обнаруживает статистические закономерности в обучающих данных. Таким образом, качество, разнообразие и релевантность этих данных оказывают сильное влияние на то, чему учится ИИ и где у него могут возникнуть трудности.

Что же такое ИИ на самом деле, если многие системы ИИ — это машины для прогнозирования?

Многие современные системы искусственного интеллекта можно частично рассматривать как сложные системы прогнозирования. Например, языковая модель обрабатывает контекст запроса и предсказывает подходящую последовательность символов для генерации ответа. Хотя это звучит просто, для создания надежных прогнозов в сложных языковых контекстах необходимо изучать взаимосвязи между словами, понятиями, структурами, стилями и многими другими закономерностями, содержащимися в обучающих данных.

Почему генеративный ИИ может давать уверенные, но неверные ответы?

Генеративный ИИ в первую очередь предназначен для получения правдоподобных результатов, что не то же самое, что независимая проверка истинности каждого утверждения. Поэтому он может выдумывать статистические данные, путать похожие факты, приводить несуществующие ссылки или совершать тонкие логические ошибки, при этом звуча убедительно. Эти ошибки обычно называют галлюцинациями, поэтому важную медицинскую, юридическую, финансовую информацию, информацию о безопасности или бизнесе все равно следует проверять.

Искусственный интеллект — это то же самое, что поисковая система или обычная автоматизация?

Нет. Традиционные поисковые системы в основном помогают пользователям находить уже существующую информацию, в то время как генеративный ИИ создает ответы, используя изученные шаблоны, предоставленный контекст и иногда дополнительные инструменты. Базовая автоматизация обычно следует предопределенным правилам или рабочим процессам, а не изучает шаблоны на примерах. Современные системы могут сочетать поиск, генерацию и автоматизацию, поэтому границы между ними могут стать менее очевидными в практических приложениях.

Что же такое ИИ на самом деле, когда он используется в бизнес-процессах?

В бизнес-процессах ИИ часто наиболее эффективен как система распознавания намерений, обработки предоставленной информации и генерации качественного первого варианта ответа или рекомендации. Например, помощник службы поддержки клиентов может использовать утвержденные правила и информацию о продукте для составления ответов, одновременно передавая неясные случаи оператору. Надежность зависит от достоверной исходной информации, четких инструкций, соответствующих разрешений, тестирования и человеческого суждения.

Что такое агенты искусственного интеллекта и чем они отличаются от чат-ботов?

Обычный чат-бот в основном отвечает на отдельные запросы, в то время как агент ИИ потенциально может планировать и выполнять множество взаимосвязанных действий для достижения цели. Агент может использовать инструменты, получать информацию, обновлять рабочий процесс или проходить несколько этапов, а не просто генерировать текст. Эта дополнительная возможность может быть ценной, но она также делает особенно важными вопросы разрешений, безопасности, надежности, правил эскалации и контроля.

Заменит ли ИИ рабочие места, или же он будет в основном автоматизировать отдельные задачи?

Искусственный интеллект чаще всего лучше понимать как изменение конкретных задач в рамках рабочих мест, а не как автоматическое устранение целых профессий. Он может ускорить разработку проектов, мозговой штурм, анализ, программирование, организацию исследований или рутинную вспомогательную работу, оставляя при этом стратегию, рассудительность, лидерство, вкус и важные решения людям. Поэтому возникает практический вопрос: какие части работы могут стать быстрее, дешевле, проще или автоматизированнее?.

Какие навыки наиболее важны для эффективного использования ИИ?

Способность к рассуждению и критическому мышлению крайне важны, поскольку создание ответа — это не то же самое, что его правильность или ценность. Эффективные пользователи должны знать, о чём спрашивать, какую информацию предоставлять, что проверять, что редактировать и когда не следует использовать ИИ. В производственных процессах высокие результаты также зависят от достоверного контекста, чётких границ, репрезентативного тестирования и тщательного анализа неопределённых или имеющих большое значение результатов.

Ссылки

1. Национальный институт стандартов и технологий (NIST) — csrc.nist.gov

2. IBM — Машинное обучение — ibm.com

3. Институт искусственного интеллекта Стэнфордского университета, ориентированный на человека — Отчет об индексе ИИ на 2025 год — hai.stanford.edu

4. Международная организация труда (МОТ) — Генеративный ИИ и рабочие места: уточненный глобальный индекс профессиональной подверженности риску — ilo.org

5. Google Cloud — Что такое GPT? — cloud.google.com

6. Google для разработчиков — developers.google.com

7. Google Codelabs — codelabs.developers.google.com

8. OpenAI — Методы обратной связи от человека — openai.com

9. arXiv — Вычислительные ресурсы для обучения — arxiv.org

10. Природа — nature.com