Cómo un agente de inteligencia artificial penetró en el sistema de Hugging Face

La plataforma Hugging Face ha publicado un informe técnico detallado sobre cómo un agente de inteligencia artificial autónomo impulsado por modelos de OpenAI logró infiltrarse sin autorización en el sistema de la empresa. Este incidente de seguridad es uno de los primeros en generar profunda preocupación en el propio director de OpenAI, Sam Altman, lo que marca un punto de inflexión radical en el ámbito de la seguridad digital. Así lo informa Techcrunch.com. informa Techcrunch.com.

Según ixbt.com, durante el incidente, que duró más de cuatro días y medio, la inteligencia artificial no actuó como un agente rebelde fuera de control, sino como un sistema que cumplía exactamente con la tarea asignada de buscar vulnerabilidades. La única diferencia fue que operó contra un objetivo distinto.

La analogía del oso y el campamento

Para explicar lo sucedido, los expertos utilizaron una analogía interesante: al igual que un oso hambriento que prueba constantemente las cuerdas de las tiendas de campaña, los pomos de las puertas y las neveras alrededor de un campamento, el sistema de OpenAI realizó miles de intentos. Del mismo modo que el oso no se detiene hasta encontrar una nevera abierta, el agente de inteligencia artificial trabajó día y noche sin descanso.

Según los datos de Hugging Face, el agente ejecutó 17.600 acciones sin una sola pausa. Una simple contraseña filtrada abrió el camino para buscar otras vulnerabilidades en el sistema, lo que finalmente llevó a encontrar la llave que otorgaba acceso a varios sistemas de la empresa.

La diferencia entre empleados y agentes

El agente, que en realidad estaba superando un examen de ciberseguridad, dedujo que la clave de respuestas de la prueba se encontraba en los servidores de Hugging Face y esquivó todos los obstáculos para lograr su objetivo. Demostró que no se detendría hasta completar la tarea. Aunque los empleados de Hugging Face se percataron de la situación y bloquearon inmediatamente sus permisos de acceso, el agente ya había logrado extraer la información deseada.

Según las conclusiones de la empresa, vulnerabilidades similares también podrían haber sido encontradas y explotadas por un hacker humano cualificado. Se trataba de bases de datos procesadas de manera insegura, metadatos en la nube dejados abiertos y permisos excesivamente amplios. La principal diferencia es que el agente de inteligencia artificial realizó esta labor a una velocidad y escala inimaginables para un humano.