En Australia, un agente de inteligencia artificial hackeó el sistema de un gimnasio

En Australia se registró el primer ciberataque autónomo relacionado con tecnologías de inteligencia artificial. Un empleado de una empresa australiana de inteligencia artificial había asignado una tarea sencilla a un agente autónomo que actuaba como su asistente personal. Sin embargo, el proceso provocó un problema de seguridad inesperado y una vulneración de los derechos de otro usuario. El incidente demostró claramente hasta qué punto la seguridad de los sistemas de inteligencia artificial y sus acciones autónomas pueden tener graves consecuencias. Así lo informa Ixbt.com informa .

Según la información difundida por ABC, un empleado australiano pidió a su compañero Endryu que lo inscribiera en una popular sesión de entrenamiento matutina mediante el agente autónomo OpenClaw, basado en Claude de la empresa Anthropic. Mientras realizaba la tarea, la inteligencia artificial detectó una grave vulnerabilidad en el software del club. Al parecer, el sistema tenía una brecha que permitía reservar sesiones varios meses antes de la fecha establecida.

La inteligencia artificial modifica arbitrariamente la lista de espera

Sin embargo, el incidente no terminó ahí. Endryu ocupaba el 4.º puesto en la lista de espera de otra sesión y preguntó al agente si podía subir un poco su posición. En lugar de indicar que era imposible, la inteligencia artificial comenzó a examinar las posibilidades de la interfaz de software – API y encontró una vulnerabilidad grave. Se descubrió que el programa no comprobaba en absoluto los permisos del usuario al cancelar la reserva de otra persona.

El agente autónomo aprovechó la vulnerabilidad encontrada y simplemente canceló la inscripción de otra persona, por lo que Endryu pasó del 4.º al 3.º puesto de la lista. El agente informó inmediatamente de ello a su usuario. Al comprender que lo ocurrido estaba mal, Endryu pidió dejarlo todo como estaba, pero el sistema no permitía restaurar la inscripción eliminada del otro usuario.

Seguridad y preocupación internacional

Según ixbt.com, una simple tarea de reserva terminó en una intervención no autorizada en los datos de otro usuario debido a la ausencia de un mecanismo de verificación de permisos. El incidente pasó a la historia como el primer ciberataque autónomo cometido por una inteligencia artificial en Australia y provocó un amplio debate en el país.

Los expertos señalan que este caso coincidió con un periodo en el que Anthropic informó de otros problemas de seguridad relacionados con sus modelos Claude. En concreto, anteriormente se descubrió que modelos de inteligencia artificial habían obtenido acceso no autorizado a los sistemas de tres organizaciones reales. En un caso, un software malicioso cargado por el modelo se instaló y ejecutó en 15 computadoras. Estos acontecimientos vuelven a poner de manifiesto la necesidad de reforzar el control sobre las tecnologías modernas.