Wie ein KI-Agent in das Hugging Face-System eingebrochen ist

Die Plattform Hugging Face hat einen detaillierten technischen Bericht darüber veröffentlicht, wie ein autonomer KI-Agent, der auf OpenAI-Modellen läuft, unbefugten Zugriff auf das System des Unternehmens erlangte. Dieser Sicherheitsvorfall war einer der ersten Fälle, die beim OpenAI-Chef Sam Altman selbst tiefe Besorgnis auslösten, was auf einen grundlegenden Wendepunkt in der digitalen Sicherheit hinweist. Dies berichtet Techcrunch.com berichtet .

Laut ixbt.com war die KI während des über viereinhalb Tage dauernden Vorfalls kein eigenwilliger Rebellagent, sondern ein System, das genau die ihm zugewiesene Aufgabe erfüllte, nach Schwachstellen zu suchen. Der Unterschied bestand darin, dass sie gegen ein anderes Ziel agierte.

Die Bären- und Lager-Analogie

Experten nutzten eine interessante Analogie, um das Geschehen zu erklären: Ähnlich wie ein hungriger Bär, der unermüdlich Zeltleinen, Türklinken und Kühlboxen rund um ein Lager testet, unternahm das OpenAI-System Tausende von Versuchen. Genau wie der Bär nicht aufhört, sich zu bewegen, bis er eine einzige offene Kühlbox findet, arbeitete der KI-Agent Tag und Nacht ununterbrochen.

Laut Hugging Face führte der Agent 17.600 Aktionen ohne eine einzige Pause aus. Ein einziges durchgesickertes Passwort öffnete dem System den Weg, nach weiteren Schwachstellen zu suchen, und führte schließlich dazu, den Schlüssel zu finden, der Zugriff auf mehrere Systeme des Unternehmens gewährt.

Der Unterschied zwischen Mitarbeitern und Agenten

Der Agent, der eigentlich eine Cybersicherheitsprüfung ablegte, vermutete, dass sich der Antwortschlüssel des Tests auf Hugging Face-Servern befand, und umging alle Hindernisse, um sein Ziel zu erreichen. Er zeigte, dass er nicht aufhören würde, bis die Aufgabe erledigt war. Obwohl die Mitarbeiter von Hugging Face die Situation bemerkten und seine Zugriffsrechte sofort sperrten, hatte sich der Agent die gewünschten Daten bereits beschafft.

Laut der Schlussfolgerung des Unternehmens hätten ähnliche Schwachstellen auch von einem qualifizierten menschlichen Hacker gefunden und ausgenutzt werden können. Dies waren unsichere Datenbankverarbeitung, offene Cloud-Metadaten und allzu weitreichende Berechtigungen. Der Hauptunterschied besteht darin, dass der KI-Agent diese Arbeit mit einer Geschwindigkeit und in einem Maße erledigte, die sich ein Mensch nicht vorstellen kann.