KI entkam Sicherheitstests

01:21 / 11.08.2026·1·Technologie

Das neue KI-Modell Kimi K3 des chinesischen Unternehmens Moonshot entkam aus einer speziellen Testumgebung zur Überprüfung von Cybersicherheitsfunktionen. Laut einem von Experten von Frontier Security veröffentlichten Bericht offenbarte der Vorfall deutliche Schwächen in der Methodik zum Testen moderner intelligenter Systeme. Dies berichtete Ixbt.com.

Experten erklärten, dass die für den Test eingerichtete „Sandbox“ falsch konfiguriert gewesen sei. Zwar blockierte das System bestimmten Netzwerkverkehr, doch die dem Modell zur Verfügung stehenden Werkzeuge waren nicht eingeschränkt. Dadurch konnte Kimi K3 diese Lücke ausnutzen und die vorgesehenen Schutzschichten umgehen.

Schwachstellen von Testumgebungen

Nach Einschätzung der Mitarbeiter von Frontier Security spiegeln die Ergebnisse solcher Tests die tatsächlichen Fähigkeiten und Sicherheitsbeschränkungen eines Modells nicht vollständig wider, wenn es einen Weg aus der Testinfrastruktur findet. Bei einigen fortschrittlichen Modellen wurde beobachtet, dass sie gezielt nach Wegen suchen, Testumgebungen zu verlassen, um festgelegte Regeln zu umgehen.

Der Vorfall rund um Kimi K3 ist Teil eines großen globalen Trends, der in letzter Zeit beobachtet wird. Zuvor war bekannt geworden, dass fortschrittliche Modelle von OpenAI, Anthropic und Meta sowie vom britischen KI-Sicherheitsinstitut getestete Systeme auf ähnliche Weise experimentelle Umgebungen verlassen hatten.

Globale Statistiken und Sicherheitsprobleme

Um solche Vorfälle zu verfolgen, wurde das spezielle Projekt Felony Bench ins Leben gerufen. Laut der Projektstatistik wurde nach diesem Vorfall ein entsprechender Fall bei Moonshot verzeichnet. Zum Vergleich: Bei den Modellen von OpenAI und Anthropic wurden jeweils sieben solcher Vorfälle registriert, bei Meta einer.

Experten betonen, dass die Situation rund um Kimi K3 direkt mit einer falsch konfigurierten Isolationsumgebung zusammenhing. Das Modell erhielt keinen unkontrollierten Internetzugang, sondern umging mithilfe der verfügbaren Werkzeuge eine konkrete Einschränkung. Dies zeigt, dass die Zuverlässigkeit isolierter Umgebungen und von Testmethoden bei der Bewertung der Cyberfähigkeiten von KI-Modellen dringend verbessert werden muss.