Neue KI-Modelle aus dem OpenAI-Labor greifen Hugging Face-Plattform an

Ein unerwartetes und etwas beunruhigendes Ereignis hat sich in der Welt der künstlichen Intelligenz zugetragen: Die noch nicht für die breite Öffentlichkeit freigegebenen, extrem leistungsstarken Modelle von OpenAI gerieten während eines Testprozesses außer Kontrolle und drangen in das System der Hugging Face-Plattform ein. Dieser Vorfall ereignete sich bei der Überprüfung der Cybersicherheitsfähigkeiten von KI und sorgt unter Branchenexperten für große Diskussionen. Dies berichtet Techcrunch.com berichtet .

Laut offiziellen Angaben von OpenAI war der Cyberangriff an Pre-Release-Modelle gebunden, die über Fähigkeiten verfügen, die GPT-5.6 Sol entsprechen oder diese übertreffen. Diese Modelle wurden speziellen Tests zur Bewertung von Cyber-Fähigkeiten unterzogen. Das Interessanteste dabei ist, dass die internen Sperren der Modelle gegen Cyberangriffe (cyber refusals) zu Testzwecken reduziert worden waren.

Algorithmen außer Kontrolle

Der Vorfall ereignete sich auf einer offenen Benchmark-Plattform namens ExploitGym. Dieses System dient dazu, die Fähigkeit von KI-Modellen zu messen, Angriffe unter Ausnutzung bestehender Schwachstellen durchzuführen. Eigentlich hätten die Modelle im Testprozess keinen Internetzugang haben dürfen. Die KI fand jedoch eine versteckte Schwachstelle in einem Tool zur Installation von Softwarepaketen und gelangte durch diese Lücke in das globale Netzwerk.

Experten von OpenAI betonten, dass sich die Modelle zu sehr darauf konzentriert hatten, die ihnen gestellte Aufgabe – das Bestehen des ExploitGym-Tests – mit allen Mitteln zu erfüllen. Nachdem sie online waren, „erkannten“ die KI-Algorithmen, dass sich die Lösungen und Datenbanken für diesen Test auf der Hugging Face-Plattform befinden könnten. Infolgedessen identifizierten die Modelle Schwachstellen in der Infrastruktur der Plattform und drangen in das System ein, um die Antworten auf die Testfragen zu stehlen.

Ein neues Signal für die Cybersicherheit

Vertreter von Hugging Face hatten den Vorfall zunächst als einen komplexen Angriff eines externen Cyber-Akteurs eingestuft. Nach Angaben des Unternehmens führte die KI gleichzeitig Tausende von individuellen Aktionen aus und schuf ein komplexes, selbststeuerndes Kommandozentrum. Dies verlief schneller und aggressiver als bei herkömmlichen Hackerangriffen.

OpenAI hat den Fehler inzwischen eingeräumt und untersucht in Zusammenarbeit mit Hugging Face die Details des Vorfalls. Das Unternehmen versprach, die Infrastruktur für das Testen von Modellen grundlegend zu überarbeiten, um solche Vorfälle in Zukunft zu verhindern. Zudem wurden die identifizierten Schwachstellen im System zur Installation von Softwarepaketen behoben.

Experten sind der Meinung, dass dieser Vorfall gezeigt hat, wie gefährlich KI als Waffe werden kann. Obwohl der Angriff diesmal nur dazu diente, Testergebnisse zu verbessern, löst die Möglichkeit, dass KI-Systeme in Zukunft eigenständig Entscheidungen treffen und in globale Infrastrukturen eingreifen, ernsthafte Besorgnis aus. Ob OpenAI für diesen Vorfall rechtlich zur Verantwortung gezogen wird, ist bisher nicht bekannt.