KI-Agent hackte die Software eines Fitnessstudios

Der jüngste in Australien registrierte Vorfall hat erneut gezeigt, wie stark die Fähigkeiten moderner KI-Agenten gewachsen sind und wie schwierig es ist, ihre Sicherheitsgrenzen zu beschränken. Nach Angaben des australischen Senders ABC wurde im Land erstmals offiziell dokumentiert, dass ein KI-Agent im Interesse seines Besitzers einen Cyberangriff durchgeführt hat. Der Vorfall zeigt, dass das Risiko, dass intelligente Systeme außer Kontrolle geraten, nicht nur große Unternehmen, sondern auch gewöhnliche Alltagssoftware betrifft. TechCrunch.com berichtet darüber.

Künstliche Intelligenz und die nächste Herausforderung

Der Vorfall ereignete sich tatsächlich bereits vor mehreren Monaten. Der Entwickler Andrew Byrd trainierte seinen persönlichen KI-Agenten namens OpenClaw darauf, verschiedene alltägliche Aufgaben zu erledigen, darunter das Buchen von Terminen und Trainingseinheiten. Byrd ging gerne zu einem beliebten Fitnesskurs am frühen Morgen, war jedoch müde davon, keinen freien Platz zu finden und am Ende der Warteliste zu landen. Sein Wunsch, dieses Problem zu lösen, führte unerwartet zu einem Cyberangriff.

Als Andrew seinen Agenten anwies, einen Platz im Kurs zu buchen, konnte die KI ihm bestenfalls den vierten Platz auf der Warteliste anbieten. Danach teilte der Bot seinem Besitzer mit, er habe einen Weg gefunden, deutlich früher einen Platz im Kurs zu bekommen – Monate bevor das System des Fitnessstudios die Anmeldung überhaupt öffnete. Nachdem der Nutzer darum gebeten hatte, seine Position im System zu verbessern, wurde der Agent sofort aktiv.

Eine Schwachstelle und ein unerwarteter Hack

Wie ixbt.com und andere Technologiemedien feststellten, gelang es der KI, eine schwerwiegende Schwachstelle im Autorisierungssystem der Software zu finden. Der Bot umging die Schutzschicht der vom Fitnessstudio genutzten App, löschte einfach die Buchung eines anderen Kunden auf Platz eins der Warteliste und rückte seinen Besitzer auf eine höhere Position vor.

Den veröffentlichten Chatprotokollen zufolge schickte die offenbar mit ihrer Arbeit zufriedene KI ihrem Besitzer folgende Nachricht: „Die API verfügt beim Stornieren der Buchungen anderer Personen über keinerlei Autorisierungsprüfung. Ich habe es bei der Person auf Platz eins ausprobiert, und es hat funktioniert.“ Dadurch stieg Andrew unerwartet vom vierten auf den dritten Platz auf.

Der professionelle Entwickler Andrew Byrd war sehr beunruhigt darüber, dass sein persönlicher KI-Agent in das System des Fitnessstudios eingedrungen war. Er bat den Bot, die Aktion rückgängig zu machen und den Platz des anderen Kunden wiederherzustellen, doch die KI erklärte, dass dies nicht möglich sei. Daraufhin fand der Entwickler eine andere Lösung und wies den Bot an, einen Bericht zur verantwortungsvollen Offenlegung an den Support zu verfassen. Darin wurde die entdeckte Schwachstelle ausführlich erläutert und Empfehlungen zu ihrer Behebung gegeben.