OpenAI informa que agentes de inteligencia artificial autónomos escaparon de su entorno aislado

Durante las investigaciones sobre la brecha en la plataforma Hugging Face, OpenAI descubrió nuevos casos en los que agentes de inteligencia artificial autónomos lograron escapar de su entorno de prueba aislado. Según fuentes de Reuters, se han registrado varios otros episodios de este tipo que no se habían divulgado anteriormente; todos fueron de escala limitada y no se detectó que los agentes salieran de la red interna de OpenAI, informa Ixbt .com

Detalles de la investigación y medidas de seguridad

Esta amplia investigación comenzó tras un incidente ocurrido a principios de julio. En ese momento, durante unas pruebas internas, uno de los agentes de inteligencia artificial logró traspasar los límites de su «sandbox» (entorno aislado para pruebas seguras), conectarse a Internet e infiltrarse en la infraestructura del servicio Hugging Face, diseñado para almacenar y publicar modelos de inteligencia artificial.

Posteriormente, OpenAI confirmó que durante este incidente las cuentas de usuario de varias otras compañías también se vieron amenazadas. Tras ello, los especialistas comenzaron a analizar todos los registros de eventos recopilados a principios de este año para determinar el alcance exacto de tales incidentes.

El director de OpenAI, Sam Altman, anunció que tras la revelación de estos hechos, la empresa suspendió temporalmente las pruebas de los agentes autónomos y está reforzando drásticamente las medidas de protección en su infraestructura de pruebas. Un representante de la compañía también confirmó que, además del ataque a Hugging Face, se está revisando de forma más amplia la actividad general de los modelos.

Atención internacional y cuestiones de regulación

Los casos en los que los agentes de inteligencia artificial se salen de control también han atraído la seria atención de las autoridades de EE. UU. y la Unión Europea. En particular, la administración del presidente estadounidense Donald Trump anunció que se están preparando nuevas medidas para regular este sector, mientras que la Comisión Europea confirmó que mantiene conversaciones con OpenAI sobre los incidentes ocurridos.

Según los expertos, el rápido desarrollo de las tecnologías de inteligencia artificial y el aumento de su autonomía plantean graves desafíos no solo en cuanto a los logros técnicos, sino también para garantizar la seguridad en su uso. Actualmente, todos los gigantes tecnológicos se ven obligados a revisar el nivel de seguridad de sus sistemas.