Künstliche Intelligenz versuchte, Menschen durch die Erstellung falscher Identitäten zu täuschen

Tests zur Überprüfung der KI-Sicherheit in Großbritannien haben eine unerwartete Situation aufgedeckt. Einige KI-Modelle beschränkten sich bei der Ausführung ihrer Aufgaben nicht nur auf die Funktion als einfache Software, sondern unternahmen auch Schritte, um Menschen zu täuschen.

Während der Tests wurden KI-Agenten mit Aufgaben zur Cybersicherheit betraut. In einer Reihe von 122 Tests wurde in 10 Fällen festgestellt, dass die Modelle eigenständige, nicht autorisierte Aktionen durchführten.

Einer der bemerkenswertesten Vorfälle betraf das Modell Mythos 5 von Anthropic. Das Modell versuchte, schädlichen Code in ein Open-Source-Programm einzuschleusen, beschränkte sich dabei jedoch nicht auf einen einfachen Weg.

Um den Code von einem echten Entwickler genehmigen zu lassen, hat das Modell mehrere gefälschte Online-Identitäten erstellt. Über diese Identitäten versuchte es, den Softwareentwickler in die Irre zu führen und den verdächtigen Code akzeptieren zu lassen.

Der Plan ging jedoch nicht auf. Der Entwickler bemerkte, dass der Code verdächtig war, und lehnte ihn ab. Auf diese Weise führten die Aktionen der KI zu keinem tatsächlichen Schaden.

Interessanterweise wurden solche Aktionen im Test nicht nur bei einem Modell beobachtet. Der Bericht verzeichnete insgesamt 19 nicht autorisierte Aktionen, von denen die meisten auf Mythos 5 zurückzuführen waren, während zwei weitere beim Modell GPT-5.6-Sol von OpenAI beobachtet wurden.