Почему ИИ - катастрофа для климата
Истерия вокруг ИИ затмевает важную особенность этой технологии: она очень энергозатратна. Британский колумнист Guardian John Naughton размышляет о катастрофическом влиянии технологии ИИ на окружающую среду. Большие языковые модели потребляют колоссальное количество электроэнергии и оставляют после себя значительный след. Техно отрасль предпочитает не вспоминать об этом. Исследование модели ChatGPT-2 (2019 год) выявило, что обучение этого алгоритма эквивалентно 300 000 кг CO2 или 125 полетам «туда и обратно» между Нью-Йорком и Пекином. Если реализуются мечты техно отрасли, что ИИ будет использоваться повсеместно, то его углеродный след может стать реальной катастрофой.
Что делать, если вокруг теряют голову от Супернового хайпа? Ответ: посмотреть на диаграмму Гартнера, которая описывает развитие прорывных технологий с помощью пяти стадий: первая -«инновационный триггер», за которой следует резкий «пик завышенных ожиданий», потом «падение в пропасть», медленный подъем «по склону просветления», и наконец – «плато продуктивности» (иногда спустя десятилетия).
Нынешняя истерия по поводу ИИ натолкнула колумниста John Naughton проверить, на какой стадии находится технология ИИ. Генеративный ИИ (имеется в виду ChatGPT и его аналоги) достигли пика завышенных ожиданий. Эта стадия вполне согласуется с лихорадочными прогнозами техно отрасли (не считая правительств), что ИИ скоро трансформируется и будет применяться повсеместно. Эта шумиха вокруг ИИ породила панические страхи о влиянии технологии на занятость, дезинформацию, политику и прочее, вплоть до экстраполяции всех этих страхов на угрозу существования всего человечества.
Все это служит на пользу техно отрасли, так как отвлекает от недостатков технологии, которые мы видим уже сегодня: ошибки предубеждения алгоритма, невозможности отследить логику алгоритма, невозможности контролировать результаты обучения и «галлюцинации» алгоритма. И это всего четыре дефекта технологии. В общественном поле также не хватает обсуждения важного вопроса: что будет с планетой, если мир будет наполнен этой технологией? Эта тема действительно тревожная, так как технология ИИ воздействует на окружающую среду, что может оказаться довольно проблематичным.
Почему же ИИ имеет катастрофическое влияние на окружающую среду?
Технология ИИ требует просто ошеломляющих вычислительных мощностей. Компьютеры в принципе потребляют электроэнергию, а GPU (graphics processing units -графический процессор) особенно сильно нагреваются и требуют охлаждения, что означает колоссальное потребление энергии. Это, в свою очередь, приводит к масштабным выбросам углекислого газа. Причем техно отрасль необычно скромна в признании этого факта, так как хвастается различными методами компенсации за выбросы, имитируя стремление к углеродной нейтральности.
Напрашиваются выводы: реализация мечты техно отрасли о «вездесущном ИИ» (как однажды сказал глава Гугл) приведет к формированию мира, зависимого от этой технологии, которая не только не стабильна, но и оставляет чудовищный углеродный след. Может пора уже обратить на это внимание?
Обучение моделей оказывает колоссальное влияние на углеродный след
К счастью, некоторые люди уже это делают. Исследование 2019 года провело оценку углеродного следа от обучения таких больших языковых моделей (LLM - large language model) как GPT-2. Выяснилось, что обучение приводит к выбросам 300 000 кг CO2. Это эквивалентно 125 полетов «туда и обратно» между Нью-Йорком и Пекином. С 2019 года модели стали еще больше, и их обучение оставляет еще больший углеродный след.
Обучение алгоритмов – это только один из этапов жизненного цикла ИИ. Это в какой-то степени единовременные экологические издержки. Что будет, когда технологии ИИ перейдут на фазу эксплуатации, и ими будут пользоваться миллиарды пользователей по всему миру? В техно отрасли это фаза, когда пользователь просит алгоритм Stable Diffusion «создать образ Риши Сунака, заискивающего перед Илоном Маском, когда последний постит эмоджи в Твитттер на своем смартфоне». Этот запрос потребует масштабных затрат энергии, чтобы произвести вычисления на отдаленном сервере. Какой углеродный след это оставит? А если появятся миллионы таких запросов ежеминутно? Ведь технология ИИ будет повсеместна. Как изменится мир?
Оценка влияния ИИ на окружающую среду
Первая системная попытка оценить углеродный след от ИИ была опубликована в прошлом месяце. Исследователи сравнили стоимость фазы вывода в пром различных систем машинного обучения (всего их было 88), включая модели, созданные для специальных задач (например, точно настроенные модели для выполнения одной конкретной задачи), а также модели генеративного ИИ (например, ChatGPT, Claude, Llama – предназначенные для выполнения множества задач).
Результаты многое прояснили. Генеративные модели (генерация текста, синтез текста, генерация образов и субтитров) оказались предсказуемо более энергоемкими и углеродными, чем модели с одной задачей. Задачи по генерации образов приводят к большому выбросу углеродов, чем задачи по генерации текста. Оказалось, что обучение моделей более углеродная задача, чем их использование в проме. Исследователи попытались оценить, сколько запросов пользователей приведет к такому же уровню углеродного выброса, что и при обучении модели. В случае одной большой языковой модели эта цифра равна 204,5 миллионов запросов.
Звучит вроде бы много, но в масштабах всемирной паутины это совсем не так. За первую неделю работы ChatGPT у алгоритма появилось 1 млн пользователей, а сегодня 100 млн человек отправляет запросы алгоритму. Получается, что для планеты будет лучше, если технология генеративный ИИ упадет в «фазу разочарования», что позволит многим из нас продолжить жить.
Ссылка на исследование по оценке углеродного следа от ИИ: https://arxiv.org/abs/2311.16863