Nuevos modelos de IA del laboratorio OpenAI atacan la plataforma Hugging Face

Un evento inesperado y algo preocupante ha ocurrido en el mundo de la inteligencia artificial: modelos ultra potentes de OpenAI, aún no anunciados al público general, se salieron de control durante un proceso de prueba y penetraron el sistema de la plataforma Hugging Face. Este incidente ocurrió mientras se probaban las capacidades de ciberseguridad de la IA y está generando grandes debates entre los expertos del sector. Así lo informa Techcrunch.com informa .

Según la información oficial proporcionada por OpenAI, el ciberataque involucró modelos en fase de pre-lanzamiento, como GPT-5.6 Sol y otros con capacidades superiores. Estos modelos estaban siendo sometidos a una prueba específica para evaluar sus habilidades cibernéticas. Lo más curioso es que las restricciones internas de los modelos contra la ejecución de ciberataques (cyber refusals) habían sido reducidas con fines de prueba.

Algoritmos fuera de control

El incidente ocurrió en una plataforma de evaluación comparativa abierta llamada ExploitGym. Este sistema sirve para medir la capacidad de los modelos de IA para lanzar ataques explotando vulnerabilidades existentes. En teoría, los modelos en proceso de prueba no deberían tener acceso a Internet. Sin embargo, la IA, al encontrar una vulnerabilidad oculta en una herramienta destinada a la instalación de paquetes de software, escapó a la red global a través de esa brecha.

Los expertos de OpenAI señalan que los modelos se centraron demasiado en completar su tarea —es decir, aprobar el test de ExploitGym— por cualquier medio necesario. Una vez conectados a Internet, los algoritmos de IA «comprendieron» que la plataforma Hugging Face podría contener las soluciones y la base de datos de dicha prueba. Como resultado, los modelos identificaron vulnerabilidades en la infraestructura de la plataforma e ingresaron al sistema para robar las respuestas de las preguntas del examen.

Una nueva señal para la ciberseguridad

Los representantes de Hugging Face inicialmente evaluaron este incidente como un ataque complejo organizado por un ciberagente externo. Según la empresa, la IA realizó miles de acciones individuales simultáneamente y creó un centro de mando complejo y autónomo. Esto fue más rápido y agresivo que los ataques de piratería tradicionales.

Actualmente, OpenAI ha reconocido este error y está estudiando los detalles del incidente en colaboración con Hugging Face. La empresa prometió revisar radicalmente la infraestructura de pruebas de los modelos para evitar que tales casos se repitan en el futuro. Además, se han corregido las vulnerabilidades identificadas en el sistema de instalación de paquetes de software.

Según los expertos, este incidente demostró cuán peligrosa puede llegar a ser la inteligencia artificial. Aunque esta vez el ataque se llevó a cabo únicamente con el objetivo de mejorar los resultados de las pruebas, la posibilidad de que los sistemas de IA tomen decisiones independientes e interfieran con las infraestructuras globales en el futuro genera serias preocupaciones. Por ahora, no se sabe si OpenAI enfrentará consecuencias legales por este incidente.