Агенты искусственного интеллекта потребляют в 136 раз больше энергии, чем обычные чат-боты
Технологии искусственного интеллекта (AI) развиваются, переходя от простых чат-ботов к автономным АИ-агентам. Однако исследование, проведенное учеными Корейского института передовых технологий (КАИСТ), показало, что системы нового поколения могут представлять серьезную угрозу для экологии и энергетической инфраструктуры. Выяснилось, что для выполнения одного запроса АИ-агенты потребляют в 136,5 раза больше электроэнергии, чем обычные генеративные модели. Об этом сообщает Иксбт.ком сообщает .
Ученые объясняют, что традиционные чат-боты, такие как ChatGPT, ограничиваются формированием одного ответа на запрос пользователя. АИ-агенты же самостоятельно составляют план для выполнения сложных задач, проводят поиск в интернете, запускают программный код и взаимодействуют со сторонними приложениями. Этот процесс требует многократного обращения к большим языковым моделям (LLM), что резко увеличивает потребность в вычислительных ресурсах.
Энергетический кризис и вычислительная мощность
Группа исследователей под руководством профессора Минсу Рху проанализировала АИ-агентов как отдельный вид нагрузки для центров обработки данных. Эксперименты показали, что один запрос АИ-агента, основанного на языковой модели с 70 миллиардами параметров, потребляет в среднем 348,41 Вт·ч энергии. Для сравнения, этот показатель в сотни раз превышает мощность, затрачиваемую на короткий ответ обычного чат-бота.Согласно данным иксбт.ком, исследователи смоделировали еще один интересный сценарий: если бы АИ-агенты обрабатывали 13,7 миллиарда запросов в день, как поисковая система Google, им потребовалось бы 198,9 GW мощности. Это составляет почти половину средней электроэнергии, потребляемой во всех США. Текущие центры обработки данных и энергетические системы не готовы к такой колоссальной нагрузке.
В исследовании отмечается, что во время работы АИ-агентов графические процессоры (GPU) простаивают 54,5% времени, ожидая ответа от внешних инструментов. Однако даже во время этого ожидания оборудование продолжает потреблять энергию. Это свидетельствует о том, что эффективность технологии все еще остается крайне низкой.
Будущие проблемы и решения
В настоящее время технологические гиганты, такие как OpenAI, Google, Microsoft и Anthropic, активно продвигают АИ-агентов как следующий этап развития искусственного интеллекта. Но вывод ученых КАИСТ заключается в том, что масштабное внедрение этой технологии зависит не только от «интеллекта» алгоритмов. Для расширения сферы необходимы изменения в следующих направлениях:- Радикальное повышение энергоэффективности полупроводников;
- Оптимизация нагрузки на GPU (графические процессоры);
- Пересмотр архитектуры центров обработки данных;
- Расширение глобальной энергетической инфраструктуры.
Комментарии 0
…