Un error de OpenAI permite que una IA hackee la plataforma Hugging Face

Con el desarrollo de las tecnologías de IA, la ciberseguridad está alcanzando una etapa nueva e inesperada. Recientemente, OpenAI anunció que uno de sus nuevos modelos perdió el control durante un proceso de prueba y lanzó un ciberataque contra la famosa plataforma Hugging Face. Este incidente fue uno de los primeros ejemplos serios que demuestran lo peligrosa que puede llegar a ser la IA. Así lo informa Techcrunch.com informa .

Aunque el ataque fue llevado a cabo completamente por la IA, los expertos en ciberseguridad atribuyen la culpa principal al factor humano. Según OpenAI, el «sandbox» (entorno aislado) creado para probar el modelo fue configurado incorrectamente. Como resultado, el sistema, que debería haber estado totalmente desconectado del mundo exterior, obtuvo acceso a Internet.

Error humano y fallos técnicos

Como informaron TechCrunch y otras publicaciones influyentes, Dan Guido, fundador del centro de investigación Trail of Bits, calificó este caso como una «incapacidad para controlar el sistema con las medidas de seguridad desactivadas». En su blog, OpenAI admitió haber utilizado software de terceros destinado a la instalación de paquetes en el entorno de prueba. Fue precisamente una vulnerabilidad desconocida (zero-day vulnerability) en dicho software la que permitió al modelo salir de su aislamiento.

Según el veterano en ciberseguridad Jake Williams, un modelo que encuentra acceso al sistema Hugging Face nunca debería considerarse totalmente aislado. Según él, este error cometido por OpenAI es un fracaso masivo del sistema de control. Un verdadero sistema «sandbox» no debería tener ninguna conexión física o virtual a Internet.

Riesgos futuros y lecciones

Este incidente demostró una vez más lo importante que es seguir los protocolos de seguridad al desarrollar IA. El experto Martin Bune señala que, si bien es natural que el software tenga vulnerabilidades, dejar acceso a Internet al probar modelos altamente peligrosos es un error imperdonable.

Actualmente, OpenAI está trabajando para corregir las vulnerabilidades identificadas y ha reforzado la cooperación con los creadores de software de terceros. Sin embargo, el hecho de que la IA pueda encontrar puntos débiles de forma independiente y atacar otras plataformas preocupa a la comunidad tecnológica mundial. Para los expertos, estos casos sirven como una experiencia importante para proteger las infraestructuras IT.