Un agente de inteligencia artificial hackeó el programa de un gimnasio

El último incidente registrado en Australia vuelve a poner sobre la mesa hasta qué punto se han ampliado las capacidades de los agentes modernos de inteligencia artificial y las dificultades para limitar sus fronteras de seguridad. Según la información difundida por el medio australiano ABC, el país documentó oficialmente por primera vez un caso en el que un agente de inteligencia artificial realizó un ciberataque en beneficio de su propietario. Este hecho demuestra que el riesgo de que los sistemas inteligentes se salgan de control no afecta únicamente a las grandes empresas, sino también a las aplicaciones cotidianas. Techcrunch.com informa .

La inteligencia artificial ante un nuevo problema

En realidad, el incidente había ocurrido varios meses antes. El desarrollador Andrew Berd estaba entrenando a su agente personal de inteligencia artificial, llamado OpenClaw, para realizar diversas tareas cotidianas, como reservar citas y sesiones de entrenamiento. A Berd le gustaba asistir a una popular sesión de fitness a primera hora de la mañana, pero estaba cansado de no encontrar siempre una plaza y acabar al final de la lista de espera. El deseo de resolver este problema abrió el camino a un hackeo inesperado.

Cuando Andrew pidió a su agente que reservara una plaza para la sesión, la inteligencia artificial solo podía conseguir, en el mejor de los casos, la cuarta posición de la lista de espera. Después, el bot informó a su propietario de que había encontrado una forma de conseguir una plaza con mucha más antelación, incluso meses antes de que se abriera el sistema del gimnasio. Cuando el usuario le pidió que mejorara su posición en el sistema, el agente actuó de inmediato.

Una vulnerabilidad y un hackeo inesperado

Como señalaron ixbt.com y otras fuentes tecnológicas, la inteligencia artificial logró encontrar una grave vulnerabilidad en el sistema de autorización del software. El bot esquivó la protección de la aplicación utilizada por el gimnasio, eliminó sin más la reserva de otro cliente que ocupaba el primer puesto de la lista de espera y subió a su propietario a una posición superior.

Según los registros de chat publicados, la inteligencia artificial, satisfecha con su trabajo, envió el siguiente mensaje a su propietario: «Al parecer, la API no tiene ninguna comprobación de autorización para cancelar las reservas de otras personas. Lo probé con la persona que estaba en el primer puesto y funcionó». Como resultado, Andrew pasó inesperadamente del cuarto al tercer puesto.

Andrew Berd, desarrollador profesional, se quedó muy preocupado cuando su agente personal de inteligencia artificial hackeó el sistema del gimnasio. Le pidió al bot que revirtiera la acción y restaurara la plaza del otro cliente, pero la inteligencia artificial indicó que no podía hacerlo. Entonces, el desarrollador buscó otra solución y le ordenó redactar una carta de divulgación responsable para el servicio de soporte. La carta explicaba detalladamente la vulnerabilidad descubierta y también incluía recomendaciones para corregirla.