Ответ: Искусственный интеллект может потреблять очень мало электроэнергии для решения простых текстовых задач, но гораздо больше, когда запросы длинные, выходные данные многомодальные или системы работают в огромных масштабах. Обучение обычно является основной статьей затрат энергии на начальном этапе, в то время как ежедневный вывод становится значительным по мере накопления запросов.
Основные выводы:
Контекст : Прежде чем давать какие-либо оценки энергопотребления, определите задачу, модель, оборудование и масштаб.
Обучение : При планировании бюджетов рассматривайте обучение модели как основное мероприятие, требующее значительных энергетических затрат на начальном этапе.
Вывод : Внимательно следите за повторным выводом, поскольку небольшие затраты на один запрос быстро накапливаются в больших масштабах.
Инфраструктура : В любую реалистичную оценку следует включить системы охлаждения, хранения данных, сети и простаивающие мощности.
Эффективность : используйте модели меньшего размера, более короткие запросы, кэширование и пакетную обработку для сокращения энергопотребления.

Статьи, которые могут вас заинтересовать после этой:
🔗 Как искусственный интеллект влияет на окружающую среду
В статье объясняется углеродный след, энергопотребление и компромиссы в области устойчивого развития, связанные с искусственным интеллектом.
🔗 Вреден ли искусственный интеллект для окружающей среды?
В статье рассматриваются скрытые экологические издержки, связанные с моделями искусственного интеллекта и центрами обработки данных.
🔗 Искусственный интеллект — это хорошо или плохо? Плюсы и минусы
Сбалансированный взгляд на преимущества, риски, этические аспекты и реальные последствия использования ИИ.
🔗 Что такое ИИ? Простое руководство
Изучите основы искусственного интеллекта, ключевые термины и примеры из повседневной жизни за считанные минуты.
Почему этот вопрос важнее, чем кажется 🔍
Использование энергии искусственным интеллектом — это не просто тема для обсуждения в контексте экологии. Она затрагивает несколько очень реальных аспектов:
-
Стоимость электроэнергии — особенно для предприятий, обрабатывающих большое количество запросов к ИИ.
-
Углеродный след — зависит от источника питания серверов.
-
Нагрузка на оборудование — мощные чипы потребляют значительное количество электроэнергии.
-
Решения о масштабировании : один недорогой запрос может превратиться в миллионы дорогостоящих.
-
В дизайне продукта эффективность зачастую оказывается более важным фактором, чем кажется на первый взгляд ( Google Cloud , Green AI ).
Многие спрашивают: «Сколько энергии потребляет ИИ?», потому что хотят получить впечатляющую цифру. Что-то огромное. Что-то, что привлечет внимание СМИ. Но более важный вопрос: о каком именно использовании ИИ идет речь? Потому что это меняет все. ( МЭА )
Один-единственный вариант автозаполнения? Довольно мало.
Обучение перспективной модели на огромных кластерах? Гораздо, гораздо больше.
Постоянно работающий корпоративный рабочий процесс ИИ, затрагивающий миллионы пользователей? Да, это быстро накапливается... как копейки, превращающиеся в арендную плату. ( Министерство энергетики , Google Cloud )
Сколько энергии потребляет ИИ? Краткий ответ ⚡
Вот практическая версия.
Искусственный интеллект может потреблять от ничтожно малой доли ватт-часа для выполнения несложных задач до огромных объемов электроэнергии для крупномасштабного обучения и развертывания. Этот диапазон звучит комично широко, потому что он действительно широк. ( Google Cloud , Strubell et al. )
Проще говоря:
-
Простые задачи на логический вывод — зачастую относительно несложные в плане затрат времени на выполнение.
-
Длительные разговоры, большие объемы данных, создание изображений, создание видео — заметно более энергозатратные процессы.
-
Обучение больших моделей — главный чемпион по энергопотреблению.
-
Запуск ИИ в масштабе всего дня — где «небольшой объем запросов» превращается в «большую общую сумму расходов» ( Google Cloud , Министерство энергетики США ).
Вот хорошее эмпирическое правило:
-
Тренировки – это грандиозное событие, требующее огромной энергии на начальном этапе 🏭
-
Вывод — это постоянный счет за коммунальные услуги 💡 ( Струбелл и др. , Google Research )
Поэтому, когда кто-то спрашивает: « Сколько энергии потребляет ИИ?» , прямой ответ звучит так: «Не одно конкретное количество, а достаточное, чтобы эффективность имела значение, и достаточное, чтобы масштаб изменил всю картину». ( IEA , Green AI )
Знаю, это не так броско, как хотелось бы. Но это правда.
Что делает версию оценки энергопотребления, созданную с помощью ИИ, качественной? 🧠
Хорошая оценка — это не просто эффектная цифра, нанесённая на график. Практическая оценка включает в себя контекст. В противном случае это всё равно что взвешивать туман на напольных весах. Достаточно близко, чтобы звучать впечатляюще, но недостаточно близко, чтобы доверять. ( IEA , Google Cloud )
Достойная оценка энергопотребления ИИ должна включать в себя:
-
Тип задачи : текст, изображение, аудио, видео, обучение, тонкая настройка.
-
Размер модели — для больших моделей обычно требуется больше вычислительных ресурсов.
-
Используемое оборудование — не все чипы одинаково эффективны.
-
Продолжительность сеанса — короткие подсказки и длинные многоэтапные рабочие процессы — это совершенно разные вещи.
-
Использование — неиспользуемые системы по-прежнему потребляют энергию.
-
Охлаждение и инфраструктура — сервер не покрывает все расходы.
-
Местоположение и структура энергопотребления — электроэнергия не везде одинаково чистая ( Google Cloud , МЭА )
Вот почему два человека могут спорить об энергопотреблении ИИ и при этом уверенно говорить о совершенно разных вещах. Один человек имеет в виду один ответ чат-бота, другой — масштабный тренировочный запуск. Оба говорят «ИИ», и внезапно разговор сходит с рельсов 😅
Сравнительная таблица — лучшие способы оценки энергопотребления ИИ 📊
Вот практичная таблица для тех, кто пытается ответить на этот вопрос, не превращая его в перформанс.
| Инструмент или метод | Лучшая аудитория | Цена | Почему это работает |
|---|---|---|---|
| Простая приблизительная оценка | Любопытные читатели, студенты | Бесплатно | Быстро, просто, немного нечётко, но достаточно хорошо для приблизительных сравнений |
| Ваттметр со стороны устройства | Строители-одиночки, любители | Низкий | Измеряет фактическую силу натяжения станка, что является на удивление конкретным результатом |
| Панель телеметрии графического процессора | Инженеры, команды машинного обучения | Середина | Более подробная информация о ресурсоемких вычислительных задачах, хотя она может не учитывать более высокие накладные расходы на инфраструктуру |
| Облачная оплата + журналы использования | Стартапы, операционные команды | Средний до высокого | Связывает использование ИИ с реальными расходами — не идеальное решение, но всё ещё весьма ценное |
| Отчеты об энергопотреблении центров обработки данных | Корпоративные команды | Высокий | Это обеспечивает более широкую оперативную прозрачность, и здесь начинают появляться системы охлаждения и инфраструктура |
| Оценка полного жизненного цикла | Команды по устойчивому развитию, крупные организации | Довольно высокий, иногда болезненный | Лучше всего подходит для серьезного анализа, поскольку выходит за рамки самого чипа... но он медленный и довольно громоздкий |
Идеального метода не существует. В этом и заключается небольшая проблема. Но есть уровни ценности. И обычно что-то приемлемое лучше, чем идеальное. ( Google Cloud )
Главный фактор — не магия, а вычислительные мощности и оборудование 🖥️🔥
Когда люди представляют себе энергопотребление ИИ, они часто воображают саму модель как то, что потребляет энергию. Но модель — это программная логика, работающая на аппаратном обеспечении. Именно на аппаратном обеспечении и отображается счет за электроэнергию. ( Струбелл и др. , Google Cloud )
К числу наиболее значимых переменных обычно относятся:
-
Тип графического процессора или ускорителя
-
Сколько чипов используется?
-
Как долго они остаются активными
-
Загрузка памяти
-
Размер партии и пропускная способность
-
Независимо от того, насколько хорошо оптимизирована система или же она просто использует грубый метод ( Google Cloud , стратегии квантования, пакетной обработки и обслуживания в LLM Energy Use ).
Высокооптимизированная система способна выполнять больше работы с меньшими затратами энергии. Некачественная система может с поразительной уверенностью тратить электроэнергию впустую. Вы же знаете, как это бывает — одни установки похожи на гоночные автомобили, а другие — на тележки для покупок с приклеенными скотчем ракетами 🚀🛒
Да, размер модели имеет значение. Более крупные модели, как правило, требуют больше памяти и вычислительных ресурсов, особенно при генерации длинных выходных данных или обработке сложных рассуждений. Но приемы повышения эффективности могут изменить ситуацию: ( Зеленый ИИ , Квантование, пакетная обработка и стратегии обслуживания в LLM Energy Use )
-
квантование
-
улучшенная маршрутизация
-
более мелкие специализированные модели
-
кэширование
-
пакетная обработка
-
Более интеллектуальное планирование работы оборудования ( стратегии квантования, пакетной обработки и обслуживания в LLM Energy Use )
Таким образом, вопрос заключается не только в том, «Насколько велика модель?», но и в том, «Насколько грамотно она управляется?»
Обучение и вывод результатов — это совершенно разные вещи 🐘🐇
Этот раскол сбивает с толку почти всех.
Обучение
Обучение — это процесс, в ходе которого модель изучает закономерности на основе огромных наборов данных. Он может включать в себя работу множества процессоров в течение длительного времени, обрабатывая гигантские объемы данных. Этот этап энергозатратен. Иногда до экстремальной степени. ( Струбелл и др. )
Энергетическая ценность тренировки зависит от:
-
размер модели
-
размер набора данных
-
количество тренировочных запусков
-
неудачные эксперименты
-
этапы тонкой настройки
-
эффективность оборудования
-
охлаждение сверху ( Струбелл и др. , Google Research )
И вот что часто упускают из виду: публика часто представляет себе один большой тренировочный запуск, проведенный однократно, и на этом все. На практике же разработка может включать в себя многократные запуски, настройку, переобучение, оценку и все прозаические, но дорогостоящие итерации вокруг основного события. ( Струбелл и др. , Зеленый ИИ )
Вывод
Вывод — это модель, отвечающая на реальные запросы пользователей. Один запрос может показаться незначительным. Но вывод происходит снова и снова. Миллионы раз. Иногда миллиарды. ( Google Research , DOE )
Энергия вывода возрастает с:
-
длина запроса
-
длина выходных данных
-
количество пользователей
-
требования к задержке
-
мультимодальные характеристики
-
Ожидаемое время безотказной работы
-
Меры безопасности и постобработки ( Google Cloud , стратегии квантования, пакетной обработки и предоставления данных в LLM Energy Use )
Таким образом, обучение — это землетрясение. Умозаключение — это прилив. Одно драматично, другое настойчиво, и оба могут немного изменить береговую линию. Возможно, это необычная метафора, но она более или менее понятна...
Скрытые затраты энергии, о которых люди забывают 😬
Когда кто-то оценивает энергопотребление ИИ, основываясь только на характеристиках чипа, он обычно занижает данные. Не всегда до катастрофических последствий, но достаточно, чтобы это имело значение. ( Google Cloud , IEA )
Вот скрытые детали:
Охлаждение ❄️
Серверы выделяют тепло. Мощное оборудование для искусственного интеллекта выделяет его в больших количествах. Охлаждение — не опция. Каждый ватт, потребляемый вычислительными ресурсами, приводит к увеличению энергопотребления просто для поддержания оптимальной температуры. ( IEA , Google Cloud )
Перемещение данных 🌐
Перемещение данных между хранилищами, памятью и сетями также требует энергии. Искусственный интеллект не просто «думает». Он также постоянно перетасовывает информацию. ( IEA )
Запас мощности в режиме ожидания 💤
Системы, рассчитанные на пиковую нагрузку, не всегда работают в пиковый период. Простой или недостаточно используемый объект инфраструктуры по-прежнему потребляет электроэнергию. ( Google Cloud )
Избыточность и надежность 🧱
Резервные копии, системы аварийного переключения, дублирующие регионы, уровни безопасности — все это ценно и является частью общей картины в энергетике. ( МЭА )
Хранение 📦
Обучающие данные, эмбеддинги, журналы, контрольные точки, сгенерированные выходные данные — всё это где-то хранится. Хранение данных, конечно, дешевле вычислительных мощностей, но не бесплатно с точки зрения энергопотребления. ( МЭА )
Вот почему на вопрос «Сколько энергии потребляет ИИ?» нельзя дать однозначный ответ, просто взглянув на один-единственный график бенчмарка. Важен весь комплекс мер. ( Google Cloud , IEA )
Почему один запрос от ИИ может быть крошечным, а следующий — настоящим монстром 📝➡️🎬
Не все запросы одинаковы. Короткая просьба переписать предложение не сравнима с просьбой о проведении длительного анализа, многоэтапного кодирования или создании изображения высокого разрешения. ( Google Cloud )
Факторы, которые, как правило, увеличивают потребление энергии при каждом взаимодействии:
-
Более длинные контекстные окна
-
Более развернутые ответы
-
Этапы использования и извлечения инструмента
-
Многократная проверка для обоснования или подтверждения
-
Создание изображений, аудио или видео
-
Более высокая степень параллелизма
-
Цели по снижению задержки ( Google Cloud , стратегии квантования, пакетной обработки и обслуживания в LLM Energy Use )
Простой текстовый ответ может быть относительно недорогим. А вот масштабный многомодальный рабочий процесс может быть, ну, совсем недешевым. Это как заказать кофе и организовать свадебный банкет. Технически, и то, и другое считается «услугами общественного питания». Одно не похоже на другое ☕🎉
Это особенно важно для продуктовых команд. Функция, которая кажется безобидной при низком уровне использования, может стать дорогостоящей в больших масштабах, если каждая пользовательская сессия становится дольше, сложнее и требует больших вычислительных ресурсов. ( DOE , Google Cloud )
Искусственный интеллект для потребителей и корпоративный ИИ — это не одно и то же 🏢📱
Обычный пользователь, неспешно использующий ИИ, может предположить, что основная проблема заключается в периодических запросах. Как правило, дело не в этом. ( Google Cloud )
Использование в корпоративной среде меняет расчеты:
-
тысячи сотрудников
-
постоянно находящиеся в режиме ожидания вторые пилоты
-
автоматизированная обработка документов
-
суммирование звонков
-
анализ изображений
-
инструменты для проверки кода
-
фоновые агенты работают постоянно
Вот тут-то и начинает иметь большое значение совокупное потребление энергии. Не потому, что каждое действие носит апокалиптический характер, а потому, что повторение умножает эффект. ( DOE , IEA )
В ходе моих собственных тестов и анализа рабочих процессов я обнаружил, что люди часто удивляются. Они сосредотачиваются на названии модели или эффектной демонстрации, игнорируя объем продаж. А ведь именно объем продаж зачастую является настоящим двигателем роста — или спасением, в зависимости от того, выставляете ли вы счета клиентам или оплачиваете коммунальные услуги 😅
Для потребителей последствия могут казаться абстрактными. Для бизнеса же они очень быстро становятся конкретными:
-
более крупные законопроекты об инфраструктуре
-
усиление давления с целью оптимизации
-
более высокая потребность в моделях меньшего размера, где это возможно
-
внутренняя отчетность по устойчивому развитию
-
Больше внимания уделяется кэшированию и маршрутизации ( Google Cloud , Green AI )
Как сократить энергопотребление ИИ, не отказываясь от него 🌱
Эта часть важна, потому что цель не в том, чтобы «прекратить использование ИИ». Обычно это нереалистично и даже не нужно. Более разумный путь — это более эффективное использование.
Вот основные рычаги воздействия:
1. Используйте самую маленькую модель, которая справится с поставленной задачей
Не для каждой задачи нужен ресурсоемкий вариант. Более легкая модель для классификации или обобщения может быстро сократить потери. ( Зеленый ИИ , Google Cloud )
2. Сократить подсказки и выходные данные
Подробный ввод, подробный вывод. Дополнительные токены означают дополнительные вычисления. Иногда сокращение запроса — самый простой способ добиться успеха. ( Квантование, пакетная обработка и стратегии предоставления данных в программе LLM по энергетике , Google Cloud )
3. Кэширование повторяющихся результатов
Если один и тот же запрос постоянно появляется, не генерируйте его заново каждый раз. Это почти до смешного очевидно, но всё равно упускается из виду. ( Google Cloud )
4. По возможности выполняйте задания в пакетном режиме
Выполнение задач партиями может повысить эффективность использования ресурсов и сократить потери. ( Стратегии квантования, пакетной обработки и обслуживания в LLM Energy Use )
5. Разумно распределяйте задачи
Используйте большие модели только тогда, когда снижается уверенность в правильности решения или возрастает сложность задачи. ( Зеленый ИИ , Google Cloud )
6. Оптимизация инфраструктуры
Улучшенное планирование, более совершенное оборудование, более эффективная стратегия охлаждения — обыденные вещи, но огромная отдача. ( Google Cloud , Министерство энергетики США )
7. Проведите измерения, прежде чем делать предположения
Многие команды считают, что знают, куда уходит энергия. Но потом проводят измерения, и оказывается, что самая дорогая часть находится где-то в другом месте. ( Google Cloud )
Работа над повышением эффективности не отличается привлекательностью. Она редко вызывает одобрение. Но это один из лучших способов сделать ИИ более доступным и защищенным в больших масштабах 👍
Распространенные мифы об использовании электроэнергии искусственным интеллектом 🚫
Давайте развеем несколько мифов, потому что эта тема быстро становится сложной.
Миф 1 - Каждый запрос к ИИ крайне неэффективен
Не обязательно. Некоторые из них довольно скромные. Масштаб и тип задачи имеют большое значение. ( Google Cloud )
Миф 2 - Тренировки - это единственное, что имеет значение
Нет. В условиях массового использования вывод может стать доминирующим методом со временем. ( Google Research , DOE )
Миф 3 - Чем больше модель, тем лучше результат
Иногда да, иногда категорически нет. Многие задачи прекрасно решаются с помощью небольших систем. ( Зеленый ИИ )
Миф 4 - Потребление энергии автоматически приводит к увеличению выбросов углекислого газа
Не совсем. Углерод также зависит от источника энергии. ( МЭА , Струбелл и др. )
Миф 5 — Можно получить единый универсальный показатель энергопотребления ИИ
Невозможно, по крайней мере, в форме, которая сохранит свою значимость. Или возможно, но это настолько усреднится, что перестанет быть ценным. ( IEA )
Вот почему вопрос « Сколько энергии потребляет ИИ?» — это разумно, но только если вы готовы к многогранному ответу, а не к простому лозунгу.
Итак... сколько энергии на самом деле потребляет ИИ? 🤔
Вот здравый вывод.
Искусственный интеллект использует:
-
немного , для выполнения простых задач
-
гораздо больше , для генерации большого количества мультимодальных данных.
-
очень большая сумма для обучения крупномасштабных моделей.
-
В общей сложности это огромная сумма , когда миллионы запросов накапливаются со временем ( Google Cloud , Министерство энергетики США ).
Вот в какой форме оно находится.
Главное — не сводить всю проблему к одной пугающей цифре или одному пренебрежительному пожатию плечами. Энергопотребление ИИ — это реальная проблема. Она важна. Ее можно улучшить. И лучший способ говорить об этом — в контексте, а не в театральных постановках. ( IEA , Green AI )
В публичных дискуссиях часто встречаются крайности: с одной стороны — «ИИ практически бесплатен», с другой — «ИИ — это электрический апокалипсис». Реальность же более обыденна, что делает её более информативной. Это системная проблема. Аппаратное обеспечение, программное обеспечение, использование, масштабируемость, охлаждение, проектные решения. Прозаично? Отчасти. Важно? Очень. ( IEA , Google Cloud )
Основные выводы ⚡🧾
Если вы пришли сюда с вопросом: « Сколько энергии потребляет ИИ?» , вот вам главный вывод:
-
Универсального числа не существует
-
Тренировки обычно требуют больше всего энергии на начальном этапе
-
В больших масштабах умозаключения становятся важнейшим фактором
-
Размер модели, аппаратное обеспечение, рабочая нагрузка и система охлаждения — все это имеет значение
-
Небольшие оптимизации могут привести к удивительно большим результатам
-
Самый разумный вопрос — не просто «сколько», а «для какой задачи, на какой системе, в каком масштабе?» ( IEA , Google Cloud ).
Да, ИИ действительно потребляет энергию. Достаточно, чтобы заслуживать внимания. Достаточно, чтобы оправдать более совершенные инженерные решения. Но не в карикатурном, однозначном смысле.
Часто задаваемые вопросы
Сколько энергии потребляет ИИ для выполнения одного запроса?
Не существует универсального показателя для отдельного запроса, поскольку энергопотребление зависит от модели, оборудования, длины запроса, длины выходных данных и использования дополнительных инструментов. Короткий текстовый ответ может быть относительно недорогим, в то время как длинная многомодальная задача может потреблять значительно больше энергии. Наиболее информативный ответ — это не один заголовок, а контекст, окружающий задачу.
Почему оценки энергопотребления ИИ так сильно различаются?
Оценки различаются, поскольку люди часто сравнивают совершенно разные вещи под единым обозначением «ИИ». Одна оценка может описывать простой ответ чат-бота, а другая — генерацию изображений, видео или обучение крупномасштабной модели. Для того чтобы оценка была осмысленной, ей необходим контекст, такой как тип задачи, размер модели, оборудование, загрузка, охлаждение и местоположение.
Что требует больших затрат энергии: обучение ИИ или ежедневный запуск ИИ?
Обучение обычно является самым энергозатратным процессом на начальном этапе, поскольку оно может включать в себя работу множества чипов в течение длительного времени над огромными наборами данных. Вывод информации — это постоянные затраты, возникающие каждый раз, когда пользователи отправляют запросы, и в больших масштабах они также могут стать очень значительными. На практике важны оба процесса, хотя и по-разному.
Почему один запрос к ИИ требует значительно больше энергии, чем другой?
Увеличение контекстных окон, увеличение объема выходных данных, повторные проходы обработки, вызовы инструментов, этапы поиска и многомодальная генерация — все это, как правило, увеличивает энергопотребление на одно взаимодействие. Целевые показатели задержки также имеют значение, поскольку требования к более быстрому ответу могут снизить эффективность. Небольшой запрос на переписывание кода и длительный процесс кодирования или обработки изображений просто несопоставимы.
Какие скрытые затраты энергии люди упускают из виду, когда спрашивают, сколько энергии потребляет ИИ?
Многие сосредотачиваются только на самом чипе, но при этом упускают из виду охлаждение, передачу данных, хранение, резервные мощности и системы обеспечения надежности, такие как резервное копирование или отказоустойчивость. Эти вспомогательные уровни могут существенно изменить общую энергетическую нагрузку. Именно поэтому бенчмарк сам по себе редко отражает полную картину энергопотребления.
Всегда ли более крупная модель ИИ потребляет больше энергии?
Более крупные модели обычно требуют больше вычислительных ресурсов и памяти, особенно для длинных или сложных выходных данных, поэтому они часто потребляют больше энергии. Но больший размер не означает автоматически лучшее качество для любой задачи, и оптимизация может значительно изменить ситуацию. Более мелкие специализированные модели, квантование, пакетная обработка, кэширование и более интеллектуальная маршрутизация — все это может повысить эффективность.
Является ли использование ИИ в потребительском сегменте основной проблемой энергопотребления, или же более серьезной проблемой является ИИ в корпоративном сегменте?
Потребление ресурсов обычными потребителями может суммироваться, но более масштабная проблема энергопотребления часто проявляется в корпоративных развертываниях. Постоянно работающие помощники, обработка документов, суммирование звонков, проверка кода и фоновые агенты создают повторяющийся спрос среди больших пользовательских баз. Проблема обычно заключается не столько в одном радикальном действии, сколько в устойчивом объеме данных в течение длительного времени.
Сколько энергии потребляет ИИ, если учитывать центры обработки данных и системы охлаждения?
После включения в расчеты более широкой системы ответ становится более реалистичным и, как правило, оказывается больше, чем предполагают оценки, основанные только на чипах. Центрам обработки данных требуется электроэнергия не только для вычислений, но и для охлаждения, работы сети, хранения данных и поддержания резервных мощностей. Именно поэтому проектирование инфраструктуры и эффективность объектов имеют почти такое же значение, как и разработка модели.
Каков наиболее практичный способ измерения энергопотребления ИИ в реальном рабочем процессе?
Наилучший метод зависит от того, кто проводит измерения и с какой целью. Для быстрого сравнения можно использовать приблизительное эмпирическое правило, в то время как ваттметры, телеметрия графических процессоров, журналы выставления счетов за облачные услуги и отчеты центров обработки данных обеспечивают все более глубокое понимание оперативных процессов. Для серьезной работы в области устойчивого развития еще более эффективным является более полный анализ жизненного цикла, хотя он и занимает больше времени и требует больших затрат.
Как командам снизить энергопотребление ИИ, не отказываясь при этом от полезных функций ИИ?
Наибольший прогресс обычно достигается за счет использования самой маленькой модели, которая все еще справляется со своей задачей, сокращения запросов и выходных данных, кэширования повторяющихся результатов, пакетной обработки и перенаправления более сложных задач только на более крупные модели. Оптимизация инфраструктуры также имеет значение, особенно планирование и эффективность оборудования. Во многих конвейерах предварительные измерения помогают предотвратить оптимизацию командами неправильных параметров.
Ссылки
-
Международное энергетическое агентство (МЭА) - Потребление энергии с точки зрения ИИ - iea.org
-
Министерство энергетики США (DOE) - Министерство энергетики США опубликовало новый отчет, оценивающий рост спроса на электроэнергию и работу центров обработки данных - energy.gov
-
Google Cloud — Оценка воздействия искусственного интеллекта на окружающую среду — cloud.google.com
-
Google Research - Хорошие новости об углеродном следе обучения машинного обучения - research.google
-
Исследование Google — Углеродный след от обучения машинного обучения сначала стабилизируется, а затем уменьшится — research.google
-
arXiv - Зеленый ИИ - arxiv.org
-
arXiv - Штрубелл и др. - arxiv.org
-
arXiv - Стратегии квантования, пакетной обработки и предоставления данных в области энергопотребления в рамках LLM - arxiv.org