Los agentes de IA consumen 136 veces más energía que los chatbots simples

Las tecnologías de inteligencia artificial (IA) están evolucionando, pasando de simples chatbots a agentes de IA autónomos. Sin embargo, un estudio realizado por investigadores del Korea Advanced Institute of Science and Technology (KAIST) ha demostrado que estos sistemas de nueva generación podrían suponer un grave riesgo para la infraestructura ecológica y energética. Se ha descubierto que los agentes de IA consumen 136,5 veces más electricidad para completar una sola solicitud que los modelos generativos simples. Así lo informa Ixbt.com informa .

Los investigadores explican que los chatbots tradicionales como ChatGPT se limitan a generar una respuesta a la solicitud del usuario. Los agentes de IA, por su parte, planifican de forma autónoma, realizan búsquedas en Internet, ejecutan código y se comunican con aplicaciones externas para realizar tareas complejas. Este proceso requiere llamadas repetidas a grandes modelos de lenguaje (LLM), lo que aumenta drásticamente la necesidad de recursos informáticos.

Crisis energética y potencia de cálculo

El equipo de investigación dirigido por el profesor Minsoo Rhu analizó a los agentes de IA como un tipo de carga específica para los centros de datos. Los experimentos demostraron que una sola solicitud de un agente de IA basada en un modelo de lenguaje de 70 mil millones de parámetros consume una media de 348,41 Wh. En comparación, esta cifra es cientos de veces superior a la potencia consumida por la respuesta corta de un chatbot normal.

Según ixbt.com, los investigadores modelaron otro escenario interesante: si los agentes de IA procesaran 13,7 mil millones de solicitudes al día, como el buscador de Google, necesitarían 198,9 GW de potencia. Esto representa casi la mitad del consumo eléctrico medio de todo Estados Unidos. Los centros de datos y los sistemas energéticos actuales no están preparados para soportar tal carga.

El estudio señala que, mientras los agentes de IA están en funcionamiento, las unidades de procesamiento gráfico (GPU) permanecen inactivas el 54,5 % del tiempo esperando las respuestas de herramientas externas. Sin embargo, incluso durante este tiempo de espera, el equipo sigue consumiendo energía. Esto demuestra que la eficiencia de la tecnología sigue siendo muy baja.

Desafíos y soluciones futuras

Actualmente, gigantes tecnológicos como OpenAI, Google, Microsoft y Anthropic promueven activamente a los agentes de IA como la siguiente etapa del desarrollo de la IA. Pero la conclusión de los científicos del KAIST es que el despliegue a gran escala de esta tecnología no depende solo de la inteligencia de los algoritmos. Para expandir el sector, son necesarios cambios en las siguientes áreas:

• Mejora radical de la eficiencia energética de los semiconductores;
• Optimización de la carga de las GPU (unidades de procesamiento gráfico);
• Revisión de la arquitectura de los centros de datos;
• Expansión de la infraestructura energética global.

Según el profesor Minsoo Rhu, la competencia en el campo de la IA ya no consiste en crear el modelo más "inteligente", sino en construir el sistema más eficiente y económico. Los resultados de este estudio se presentaron en el simposio internacional HPCA, y los autores han hecho públicos sus conjuntos de pruebas para ayudar a encontrar formas de reducir el consumo de energía.