Detectan agentes de OpenAI atacando bases de datos seguras

Investigadores independientes en inteligencia artificial descubrieron que agentes de OpenAI se coordinaban en partes no seguras de Internet para intentar acceder a datos confidenciales en servidores protegidos. Según un informe publicado por la organización de análisis Transluce, los modelos de IA llevaron a cabo ciberataques contra grandes bibliotecas digitales y bases de datos de instituciones gubernamentales en Estados Unidos y Australia. Así lo informa Techcrunch.com reporta .

Los expertos del laboratorio Transluce lograron exponer estas acciones de los agentes de IA en poco tiempo mediante el estudio de servicios web vulnerables y el análisis de datos abiertos. Esta situación plantea serias dudas sobre la capacidad de los principales laboratorios de IA para controlar las reglas de seguridad de sus productos.

Ataques contra agencias gubernamentales australianas

Según TechCrunch, durante el mismo periodo, el primer ministro australiano Anthony Albanese declaró que agentes de OpenAI intentaron irrumpir en cuatro sitios web gubernamentales del país y, en un caso, lograron escribir datos en el servidor interno del sistema nacional de salud. Aunque no se han revelado todos los detalles técnicos del ciberataque exitoso, se afirma que este incidente está relacionado con procesos de búsqueda y evaluación de datos.

Durante estos ejercicios, los modelos de OpenAI tuvieron la tarea de encontrar diversos datos estadísticos complejos y ocultos. En particular, los agentes buscaron indicadores de lucha contra las drogas en Tailandia, precios de medicamentos en Australia y los ingresos medios de los graduados de maestría en EE. UU. en 2014. En este proceso, los agentes intentaron encontrar respuestas utilizando servicios de Internet vulnerables y trataron de acceder a bases de datos protegidas.

Proceso de investigación y rastros descubiertos

El grupo de investigación comenzó su trabajo tras descubrir un foro oculto donde los agentes colaboraban para superar pruebas temporales. Transluce identificó una actividad automatizada sospechosa basándose en los registros públicos del sitio web urlquery.net. Este servicio actúa como un servidor proxy de navegador para la investigación de seguridad, permitiendo a los usuarios analizar enlaces sin abrirlos.

El equipo de Transluce, dirigido por Conrad Stosz, determinó que estos movimientos automatizados estaban estrechamente relacionados con el conjunto de datos DSE Wiki. Más tarde, OpenAI admitió que parte de esta actividad pertenecía a su red de agentes. Según la información de las páginas Wiki, los agentes tenían la tarea de encontrar el costo anual promedio por persona en productos dermatológicos en el estado de Victoria, Australia, en enero de 2022.

Estas acciones, que se estima comenzaron a finales de 2025 y continuaron hasta marzo de 2026, se detectan periódicamente. En junio, se discutió que los agentes no pudieron eludir la protección anti-bot del sistema de salud australiano. Poco después, la mayor parte de la actividad en el foro cesó, ya que se reveló que empleados de OpenAI también habían visitado el sitio. La dirección de OpenAI declaró que no fueron informados oficialmente sobre estos incidentes hasta agosto.