Ученые оценили выбросы CO₂ от работы нейросетей в зависимости от запросов к ним

Углеродный след разных запросов к искусственному интеллекту может отличаться в 50 раз. Каждый запрос, введенный в большую языковую модель (LLM), такую как ChatGPT, требует энергии и приводит к выбросам CO₂. Однако объем выбросов зависит от модели, темы запроса и пользователя. Новое исследование, вышедшее на страницах Frontiers in Communication, сравнило экологический вред 14 нейросетей в разных режимах работы.

Результаты довольно предсказуемы: сложные ответы вызывают больше выбросов, чем простые, а модели, дающие более точные ответы, производят  больше CO₂. Тем не менее, получены некоторые данные, которые, по мнению авторов, могут помочь более сознательной эксплуатации чат-ботов.

Независимо от того, какие вопросы мы задаем ИИ, модель всегда предоставит ответ. Для генерации этой информации — независимо от ее правильности — она использует токены. Токены — это слова или части слов, преобразованные в последовательность чисел, которую может обработать LLM.

Это преобразование, как и любые другие вычислительные процессы, приводит к выбросам CO₂. Ученые измерили и сравнили выбросы CO₂ разных уже обученных LLM, используя стандартизированный набор вопросов.

«Влияние на окружающую среду при использовании обученных LLM сильно зависит от их подхода к рассуждениям: явные процессы рассуждения заметно увеличивают энергопотребление и выбросы углекислого газа. Мы обнаружили, что модели с функцией рассуждений производят до 50 раз больше CO₂, чем модели, дающие краткие ответы», — пояснил Максимилиан Даунер из Мюнхенской высшей школы прикладных наук.

Исследователи протестировали 14 LLM с параметрами от 7 до 72 миллиардов на 1000 стандартных вопросов из разных областей. Параметры определяют, как LLM обучаются и обрабатывают информацию.

В среднем модели с рассуждениями создают 543,5 «мыслительных» токенов на вопрос, тогда как для кратких ответов хватает всего 37,7 токенов. Мыслительные токены — это дополнительные токены, которые генерируются в процессе подготовки ответа. Большее количество токенов всегда означает больше выбросов CO₂, но не обязательно гарантирует правильность ответа, поскольку избыточные детали не всегда критичны для точности.

Самой «умной» оказалась модель Cogito с 70 миллиардами параметров и функцией рассуждений, достигшая 84,9% точности. Она производит в три раза больше углекислого газа, чем модели аналогичного размера, дающие краткие ответы.

Тема запроса также сильно влияет уровень выбросов. Вопросы, требующие длительных рассуждений, например, по абстрактной алгебре или философии, дают в шесть раз выше выбросов, чем более простые темы вроде школьной истории.

Исследователи надеются, что их работа поможет людям принимать более осознанные решения об использовании ИИ. Пользователи могут значительно сократить выбросы, запрашивая у ИИ краткие ответы или ограничивая использование мощных моделей задачами, которые действительно требуют таких ресурсов.

Выбор модели может существенно повлиять на объем выбросов. Например, ответы модели DeepSeek R1 (70 млрд параметров) на 600 000 вопросов производят столько же углекислоты, сколько перелет туда и обратно из Лондона в Нью-Йорк. В то же время Qwen 2.5 (72 млрд параметров) может ответить более чем на 1,9 миллиона вопросов (в 3+ раза больше) с аналогичной точностью при тех же выбросах.

Авторы предупредили, что на результаты могло повлиять оборудование, использованное в исследовании, региональные различия в энергосетях, а также сами исследуемые модели. Эти факторы могут ограничивать обобщаемость выводов.

Если бы пользователи знали точную стоимость выбросов CO₂ от своих запросов к ИИ — например, для создания аватарки в виде фигурки супергероя — они могли бы более избирательно и осознанно подходить к использованию этих технологий, — утверждают исследователи.

Источник — naukatv.ru

Добро пожаловать на канал SREDA.UZ в Telegram

Добавить комментарий Отменить ответ

Ваш e-mail не будет опубликован.

Комментарий

Имя

E-mail

Сайт

девять  ×   =  восемьдесят один

Введите код с картинки (CAPTCHA)*

 Notify me when new comments are added.

Получать новые комментарии по электронной почте. Вы можете подписаться без комментирования.

Еще статьи из Климат