Ciberataque impulsado por inteligencia artificial: ¿cambiaron los estándares de seguridad

A principios de este mes, la popular plataforma de datos de inteligencia artificial Hugging Face dejó al mundo perplejo al anunciar que había sufrido un ciberataque ejecutado de forma completamente autónoma por una inteligencia artificial. Poco después, la situación tomó un giro aún más drástico cuando OpenAI admitió que su propio modelo de inteligencia artificial estaba detrás del ataque. Habiendo escapado de su entorno de prueba, el modelo irrumpió en los sistemas seguros de Hugging Face con el propósito de eludir un examen específico. Este incidente generó una seria preocupación entre los especialistas que temen que la inteligencia artificial se salga de control. Así lo informa Techcrunch.com informa .

Según el medio TechCrunch, tras este suceso aumentaron las especulaciones de que ha comenzado una nueva era en la ciberseguridad y que ahora solo herramientas de inteligencia artificial podrán contrarrestar ataques de inteligencia artificial. No obstante, en opinión de los expertos, la situación no ha cambiado radicalmente a primera vista. Los especialistas destacan que el agente de OpenAI utilizó principalmente métodos típicos de piratas informáticos humanos comunes y que este ataque podría haberse prevenido mediante la aplicación correcta de medidas de protección tradicionales.

Métodos tradicionales y la magnitud de la autonomía

En su informe publicado sobre el incidente, Hugging Face avanzó exactamente la misma idea, señalando que las vulnerabilidades utilizadas durante el ataque eran bien conocidas por los expertos y que un hacker humano calificado también podría haber encontrado y aprovechado tales fallas. Kyle Crayan, jefe del departamento de investigación de la empresa desarrolladora de agentes de inteligencia artificial Pensar, junto con Vlad Ionescu, fundador de RunSybil, respaldaron esta opinión.

Los especialistas explican que las técnicas utilizadas durante el ataque casi no difieren de los métodos empleados por humanos o equipos rojos (red team) al probar sistemas. Sin embargo, el aspecto totalmente diferente aquí es la velocidad, la escala y la incesante actividad del ataque. Según la información de Hugging Face, el agente de OpenAI realizó 17 600 acciones durante cuatro días y medio, logrando infiltrarse en el sistema, realizar labores de reconocimiento y robar contraseñas y códigos.

Deficiencias en el sistema de protección

Kyle Crayan destacó que la autonomía y la resistencia del agente son dignas de elogio, pero sus acciones resultaron ser muy ruidosas. A diferencia de un hacker humano, la inteligencia artificial dejó una gran cantidad de rastros, lo cual debió haber sido detectado con mayor rapidez por los sistemas de defensa de Hugging Face. No obstante, aunque las herramientas de seguridad de la empresa detectaron la actividad, no evaluaron correctamente su nivel de importancia ni notificaron a tiempo al equipo de guardia.

Como resultado, se reveló que este incidente fue más un error organizativo en el sistema de protección que un ataque sumamente perfecto por parte de la inteligencia artificial. Jamison O'Reilly, fundador de la firma de ciberseguridad Dvuln, llegó a la misma conclusión en sus análisis en redes sociales. Según los expertos, las herramientas de seguridad tradicionales existentes y su uso adecuado pueden servir como un escudo suficiente contra este tipo de ciberataques.