Сколько воды потребляет искусственный интеллект?

Наверняка вы слышали всё что угодно, от «ИИ выпивает бутылку воды после каждых нескольких вопросов» до «это всего лишь несколько капель». На самом деле всё гораздо сложнее. Водный след ИИ сильно колеблется в зависимости от места его работы, длительности вашего вопроса и способа охлаждения серверов в центре обработки данных. Так что да, главная цифра существует, но она окутана множеством оговорок.

Ниже я привожу наглядные, готовые к принятию решений цифры, объясняю, почему оценки расходятся, и показываю, как строители и обычные пользователи могут сократить потребление воды, не превращаясь при этом в помешанных на устойчивом развитии.

Статьи, которые могут вас заинтересовать после этой:

🔗 Что такое набор данных для ИИ?
В статье объясняется, как наборы данных позволяют проводить обучение машинного обучения и разработку моделей.

🔗 Как ИИ прогнозирует тренды
В видео показано, как искусственный интеллект анализирует закономерности для прогнозирования изменений и будущих результатов.

🔗 Как измерить производительность ИИ
В статье подробно рассматриваются основные показатели для оценки точности, скорости и надежности.

🔗 Как общаться с ИИ
В руководстве представлены эффективные стратегии подсказок для повышения ясности, результативности и согласованности.

Сколько воды потребляет ИИ? Краткие цифры, которые вы можете использовать на практике 📏

• В настоящее время типичный диапазон значений для каждого запроса составляет от долей миллилитра для среднего текстового запроса в одной из основных систем до десятков миллилитров для более длинного и ресурсоемкого ответа в другой. Например, согласно данным Google о производственной отчетности, средний текстовый запрос составляет ~0,26 мл (с учетом всех накладных расходов на обслуживание) [1]. Оценка жизненного цикла Mistral оценивает ответ помощника из 400 токенов примерно в 45 мл (маргинальный вывод) [2]. Контекст и модель имеют большое значение.

• Обучение модели граничного масштаба может потребовать миллионов литров , в основном из-за охлаждения и воды, используемой в производстве электроэнергии. В широко цитируемом академическом анализе было подсчитано, что для обучения модели класса GPT около 5,4 миллиона литров около 700 000 литров, потребляемых на месте для охлаждения, и было высказано предположение о необходимости интеллектуального планирования для снижения водоемкости [3].

• Центры обработки данных в целом: крупные объекты в среднем потребляют сотни тысяч галлонов в день у крупных операторов, при этом пиковые значения на некоторых кампусах выше в зависимости от климата и конструкции [5].

Давайте будем честны: на первый взгляд эти цифры кажутся противоречивыми. Так оно и есть. И на то есть веские причины.

Показатели водопотребления с помощью ИИ ✅

Хороший ответ на вопрос «Сколько воды потребляет ИИ?» должен соответствовать нескольким критериям:

1. Четкость границ.
   Включает ли это только для охлаждения на месте или также воду, используемую электростанциями для выработки электроэнергии за пределами площадки забор воды и потребление воды и охватывает 1-2-3, аналогично учету выбросов углерода [3].

2. Чувствительность к местоположению.
   Расход воды на кВтч варьируется в зависимости от региона и состава сети, поэтому один и тот же запрос может оказывать различное воздействие на потребление воды в зависимости от места его обслуживания — это ключевая причина, по которой в литературе рекомендуется планирование с учетом времени и места [3].

3. Реалистичность рабочей нагрузки.
   Отражает ли это число средние производственные запросы , включая простаивающую мощность и накладные расходы центра обработки данных, или только ускоритель в пиковый период? Google делает акцент на учете всей системы (простой, ЦП/DRAM и накладные расходы центра обработки данных) при выводе результатов, а не только на вычислениях TPU [1].

4. Технологии охлаждения.
   Испарительное охлаждение, жидкостное охлаждение с замкнутым контуром, воздушное охлаждение и новые к прямому охлаждению чипа значительно меняют водоемкость. Microsoft внедряет разработки, предназначенные для исключения использования охлаждающей воды на некоторых площадках следующего поколения [4].

5. Время суток и сезон.
   Жара, влажность и состояние сети влияют на эффективность использования воды в реальных условиях; одно влиятельное исследование предлагает планировать основные работы тогда и там, где интенсивность использования воды ниже [3].

Разница между водозабором и водопотреблением: объяснение 💡

• Забор воды = вода, забранная из рек, озер или водоносных горизонтов (часть возвращается).

• Потребление = вода, не возвращаемая в систему, поскольку она испаряется или используется в технологических процессах/продуктах.

Градирни потребляют воду в основном за счет испарения. Производство электроэнергии может забирать большие объемы (иногда потребляя часть воды), в зависимости от установки и метода охлаждения. Достоверный показатель AI-water указывает, о чем идет речь [3].

Куда уходит вода в искусственном интеллекте: три ведра 🪣

1. Область применения 1 — локальное охлаждение.
   Видимая часть: вода испаряется в самом центре обработки данных. Выбор конструкции, например, испарительное охлаждение, воздушное охлаждение или жидкостное охлаждение замкнутого контура, задает базовый уровень [5].

2. Область применения 2 - производство электроэнергии
   Каждый кВт·ч может нести скрытую метку воды; состав и местоположение определяют сигнал литров на кВт·ч, который наследует ваша рабочая нагрузка [3].

3. Область применения 3 — цепочка поставок
   производстве микросхем используется сверхчистая вода. Вы не увидите ее в показателе «на единицу продукции», если граница явно не включает в себя косвенные воздействия (например, полный анализ жизненного цикла) [2][3].

Поставщики услуг в цифрах, с учетом нюансов 🧮

• Google Gemini предлагает
  метод обслуживания Full-stack (включая простой и накладные расходы оборудования). Медианное текстовое сообщение потребляет ~0,26 мл воды и ~0,24 Вт·ч энергии; цифры отражают производственный трафик и общие границы [1].

• Жизненный цикл Mistral Large 2.
  Редкий независимый LCA (с ADEME/Carbone 4) показывает ~281 000 м³ для обучения + раннего использования и вывод, составляющий примерно 45 мл для из 400 токенов [2].

• Амбиции Microsoft в отношении охлаждения без воды.
  Центры обработки данных следующего поколения спроектированы таким образом, чтобы не потреблять воду для охлаждения , опираясь на подход «прямо к чипу»; для административных целей все еще требуется некоторое количество воды [4].

• Общий масштаб центров обработки данных.
  Крупные операторы публично сообщают о сотнях тысяч галлонов в день в среднем на отдельных площадках; климат и конструкция влияют на эти показатели в большую или меньшую сторону [5].

• Более ранняя академическая база.
  В основополагающем анализе «жаждущего ИИ» было подсчитано, что для обучения моделей класса GPT миллионы литров 10–50 средних ответов могут примерно соответствовать объемом 500 мл — в значительной степени в зависимости от того, когда и где они выполняются [3].

Почему оценки так сильно расходятся 🤷

• Различные границы.
  Некоторые цифры учитывают только охлаждение на месте ; другие добавляют воду, электроэнергию ; анализ жизненного цикла может включать производство микросхем . Яблоки, апельсины и фруктовый салат [2][3].

• Различные рабочие нагрузки.
  Короткая текстовая подсказка не является длительным многомодальным/кодовым выполнением; пакетная обработка, параллелизм и целевые показатели задержки изменяют использование ресурсов [1][2].

• Различные климатические условия и сетки.
  Испарительное охлаждение в жарком, засушливом регионе ≠ воздушно-жидкостное охлаждение в прохладном, влажном. Интенсивность водопотребления в сетке сильно варьируется [3].

• Методологии поставщиков:
  Google опубликовал метод обслуживания в масштабах всей системы; Mistral опубликовал формальный анализ жизненного цикла. Другие предлагают точечные оценки с использованием разреженных методов. Широко обсуждаемое «одной пятнадцатой чайной ложки» на каждый запрос попало в заголовки новостей, но без подробной информации о границах это несопоставимо [1][3].

• Постоянно меняющаяся цель
  . Системы охлаждения быстро развиваются. Microsoft проводит пилотные испытания систем охлаждения без воды на некоторых объектах; их внедрение позволит сократить потребление воды на объекте, даже если поступающая электроэнергия по-прежнему будет передавать сигнал о наличии воды [4].

Что вы можете сделать сегодня, чтобы уменьшить водный след ИИ 🌱

1. Оптимизируйте размер модели.
   Меньшие по размеру, оптимизированные для конкретной задачи модели часто обеспечивают ту же точность, но при этом потребляют меньше вычислительных ресурсов. Оценка Мистраля подчеркивает сильную корреляцию между размером и занимаемым пространством и публикует предельные значения вывода, чтобы вы могли рассуждать о компромиссах [2].

2. Выбирайте регионы с рациональным водопотреблением.
   Отдавайте предпочтение регионам с более прохладным климатом, эффективным охлаждением и сетями с меньшей водоемкостью на кВтч; работа «жаждущего ИИ» показывает, что с учетом времени и места помогает [3].

3. Перенос рабочей нагрузки во времени.
   Планирование обучения/выполнения ресурсоемких пакетных вычислений на водосберегающие часы (более прохладные ночи, благоприятные условия сети) [3].

4. Попросите вашего поставщика предоставить прозрачные показатели.
   Требуйте указания по объему воды на каждый запрос , определения границ и того, включают ли эти данные неиспользуемую мощность и накладные расходы объекта. Политические группы настаивают на обязательном раскрытии информации, чтобы сделать возможным сравнение «яблоко к яблоку» [3].

5. Технологии охлаждения имеют значение.
   Если вы используете аппаратное обеспечение, оцените системы охлаждения с замкнутым контуром/прямым охлаждением чипа ; если вы работаете в облаке, отдавайте предпочтение регионам/провайдерам, инвестирующим в системы с низким содержанием воды [4][5].

6. Использование сточных вод и вариантов повторного использования.
   Многие кампусы могут заменить непитьевые источники или перерабатывать воду в рамках замкнутых циклов; крупные операторы описывают балансировку источников воды и вариантов охлаждения для минимизации чистого воздействия [5].

Быстрый пример, чтобы это стало реальностью (не универсальное правило): перенос ночной тренировки из жаркого, сухого региона в середине лета в более прохладный, влажный регион весной — и проведение ее в непиковые, более прохладные часы — может изменить как потребление воды на месте вне объекта (из сети). Вот какой практический, не требующий больших усилий успех может обеспечить планирование [3].

Таблица сравнения: быстрые варианты снижения платы за воду, взимаемой ИИ 🧰

(Цена по замыслу производителя довольно расплывчата — варианты развертывания различаются.)

Подробный анализ: политическая активность набирает обороты 🥁

Инженерные организации призывают к обязательному раскрытию информации об энергопотреблении и водопотреблении центров обработки данных, чтобы покупатели и местные сообщества могли оценить затраты и выгоды. Рекомендации включают определение масштабов, отчетность на уровне площадки и руководство по размещению — потому что без сопоставимых показателей, учитывающих местоположение, мы спорим вслепую [3].

Подробный анализ: не все центры обработки данных работают одинаково 🚰

Существует устойчивый миф о том, что «воздушное охлаждение не использует воду». Это не совсем так. Системы, требующие большого количества воздуха, часто потребляют больше электроэнергии , которая во многих регионах потребляет скрытую воду из сети; с другой стороны, водяное охлаждение может сократить потребление электроэнергии и выбросы за счет воды на месте. Крупные операторы явно балансируют эти компромиссы на каждом объекте [1][5].

Подробный анализ: быстрая проверка реальности вирусных утверждений 🧪

Возможно, вы встречали смелые утверждения о том, что одна подсказка равна «бутылке воды», или, наоборот, «всего лишь нескольким каплям». Лучшая позиция: смирение с математикой . Сегодняшние достоверные ориентиры составляют ~0,26 мл для средней подсказки при полной подаче [1] и ~45 мл для ответа помощника из 400 токенов (маргинальный вывод) [2]. Широко распространенное «одна пятнадцатая чайной ложки» не имеет общедоступных границ/метода; относитесь к нему как к прогнозу погоды без города [1][3].

Краткий раздел часто задаваемых вопросов: Сколько воды потребляет ИИ? Опять же, простыми словами 🗣️

• Итак, что мне следует сказать на совещании?
  В зависимости от модели, длины и места проведения, объем информации варьируется от нескольких капель до нескольких глотков Для обучения нужны бассейны , а не лужи». Затем приведите один или два примера, приведенных выше.

• Является ли ИИ исключительно плохим?
  Он уникально концентрирован : мощные чипы, расположенные близко друг к другу, создают большие нагрузки на систему охлаждения. Но центры обработки данных также являются местом, где наиболее эффективные технологии, как правило, появляются в первую очередь [1][4].

• Что, если мы просто переведем все на воздушное охлаждение?
  Возможно, мы сократим на месте , но увеличим потребление воды за счет электроэнергии. Опытные операторы учитывают оба варианта [1][5].

• А что насчет технологий будущего?
  Конструкции, позволяющие избежать охлаждения воды в больших масштабах, кардинально изменят ситуацию для категории 1. Некоторые операторы движутся в этом направлении; электроэнергия, поступающая из вышестоящих источников, по-прежнему передает сигнал воды до тех пор, пока не произойдут изменения в энергосистемах [4].

Заключительные замечания — Слишком длинно, я не стал читать 🌊

• На один запрос: от долей миллилитра до десятков миллилитров , в зависимости от модели, длины запроса и места его выполнения. Медианный объем запроса ~0,26 мл на одном крупном стеке; ~45 мл для ответа из 400 токенов на другом [1][2].

• Обучение: миллионы литров для передовых моделей, что делает планирование, размещение и технологии охлаждения критически важными [3].

• Что делать: модели оптимального размера, выбор регионов с низким потреблением воды, перенос тяжелых работ на более прохладное время, предпочтение поставщиков, предлагающих водосберегающие конструкции, и требование прозрачных границ [1][3][4][5].

В заключение немного неуместная метафора: ИИ — это жаждущий оркестр: мелодия — это вычисления, а барабаны — это охлаждение и вода из водопровода. Настройте оркестр, и зрители всё равно услышат музыку, без включения поливальных установок. 🎻💦

Ссылки

1. Блог Google Cloud — Сколько энергии потребляет ИИ Google? Мы произвели расчеты (методология + ~0,26 мл медианного объема запроса, накладные расходы на полную порцию). Ссылка
   (Технический документ в формате PDF: Измерение воздействия внедрения ИИ в масштабах Google на окружающую среду ). Ссылка

2. Mistral AI — наш вклад в глобальный экологический стандарт для ИИ (анализ жизненного цикла с ADEME/Carbone 4; ~281 000 м³ на обучение + начальное использование; ~45 мл на 400 токенов , предельный вывод). Ссылка

3. Ли и др. — Как сделать ИИ менее «жаждущим»: выявление и устранение скрытого водного следа моделей ИИ (обучение миллионов литров , с учетом времени и места , забор и потребление воды). Ссылка

4. Microsoft — центры обработки данных следующего поколения не потребляют воду для охлаждения (конструкции с прямым подключением к чипу ориентированы на безводное охлаждение на определенных площадках). Ссылка

5. Центры обработки данных Google — устойчивая работа (компромиссы в области охлаждения для каждого объекта; отчетность и повторное использование, включая очищенную/серую воду; типичные ежедневные объемы потребления на уровне объекта). Ссылка

Найдите новейшие разработки в области ИИ в официальном магазине ИИ-помощников

О нас