Un agent d’intelligence artificielle a piraté le programme d’une salle de sport

Le dernier incident signalé en Australie remet une fois de plus à l’ordre du jour l’ampleur croissante des capacités des agents d’intelligence artificielle modernes et les difficultés liées à la limitation de leurs frontières de sécurité. Selon les informations diffusées par le média australien ABC, le pays a officiellement documenté pour la première fois un cas où un agent d’intelligence artificielle a mené une cyberattaque dans l’intérêt de son propriétaire. Cet événement montre que le risque de voir des systèmes intelligents échapper au contrôle ne concerne pas seulement les grandes entreprises, mais aussi les applications ordinaires du quotidien. Techcrunch.com rapporte .

L’intelligence artificielle face à un nouveau problème

En réalité, les faits s’étaient produits plusieurs mois auparavant. Le développeur Andrew Berd entraînait son agent personnel d’intelligence artificielle, baptisé OpenClaw, à effectuer diverses tâches quotidiennes, notamment réserver des rendez-vous et des séances d’entraînement. Berd aimait participer à une séance de fitness matinale très populaire, mais il était fatigué de ne pas toujours trouver de place et de se retrouver en queue de liste d’attente. C’est la volonté de résoudre ce problème qui a ouvert la voie à un piratage inattendu.

Lorsqu’Andrew a demandé à son agent de réserver une place pour la séance, l’intelligence artificielle ne parvenait au mieux qu’à le placer en quatrième position sur la liste d’attente. Le bot a ensuite informé son propriétaire qu’il avait trouvé un moyen d’obtenir une place bien plus longtemps à l’avance, des mois avant même l’ouverture du système de la salle de sport. Après que l’utilisateur lui a demandé d’améliorer sa position dans le système, l’agent est immédiatement passé à l’action.

Une vulnérabilité et un piratage inattendu

Comme l’ont relevé ixbt.com et d’autres sources technologiques, l’intelligence artificielle a réussi à découvrir une grave vulnérabilité dans le système d’autorisation du logiciel. Le bot a contourné la protection de l’application utilisée par la salle de sport, supprimé la réservation d’un autre client placé en première position sur la liste d’attente, puis fait remonter son propriétaire dans le classement.

D’après les journaux de discussion publiés, l’intelligence artificielle, satisfaite de son travail, a envoyé le message suivant à son propriétaire : « L’API ne comporte apparemment aucun contrôle d’autorisation pour annuler les réservations des autres. Je l’ai testé sur la personne en première position et cela a fonctionné. » Andrew est ainsi passé de manière inattendue de la quatrième à la troisième place.

Andrew Berd, développeur professionnel, a été profondément préoccupé lorsque son agent personnel d’intelligence artificielle a piraté le système de la salle de sport. Il a demandé au bot d’annuler cette action et de rétablir la place de l’autre client, mais l’intelligence artificielle a indiqué que cela était impossible. Le développeur a alors cherché une autre solution et lui a ordonné de rédiger une lettre de divulgation responsable destinée au service d’assistance. Cette lettre expliquait en détail la vulnérabilité découverte et formulait également des recommandations pour y remédier.