Open-Weight-KI-Modelle holen zu den führenden Systemen auf

Während die Fähigkeiten führender Modelle im KI-Bereich rasch wachsen, halten Open-Weight-Systeme Schritt. Das von der chinesischen Firma Z.ai vorgestellte Open-Weight-KI-Modell GLM-5.2 liegt Berichten zufolge in den Bereichen Cybersicherheit und Biologie nur wenige Monate hinter fortschrittlichen Entwicklungen von Giganten wie OpenAI und Anthropic zurück, berichtet ixbt.com. Darüber berichtete Techcrunch.com berichtet .

Laut einem Bericht der gemeinnützigen Sicherheitsorganisation SaferAI nähern sich Open-Weight-Modelle der neuesten Generation rasch dem Niveau führender Systeme. Mit dem Wachstum der technologischen Fähigkeiten vergrößert sich jedoch auch die Kluft zwischen Sicherheitspraktiken und potenziellen Risiken zunehmend. Experten betonen, dass diese Entwicklung eine Neubewertung der Mechanismen zur Bewältigung neuer Risiken für die Gesellschaft erfordert.

Deutliche Unterschiede bei den Sicherheitsbeschränkungen

Nach den Ergebnissen von Bewertungen, die die Organisation über die offene API von Z.ai durchführte, lehnte das Modell GLM-5.2 keine einzige Anfrage zu Cyberangriffen oder biologischen Dual-Use-Aufgaben ab. Zum Vergleich: Das Modell Claude Opus 4.7 von Anthropic konnte den Cybersicherheitstest CyberGym nicht abschließen, da es die Sicherheitsregeln strikt einhielt. Dies zeigte erneut, dass Kritiker mit ihren Bedenken recht hatten, Open-Weight-Modelle könnten außer Kontrolle geraten.

Das wichtigste Merkmal von Open-Weight-Modellen ist, dass sie von jeder Person auf ein eigenes Gerät heruntergeladen und auf jeder Infrastruktur betrieben werden können. In einem solchen Fall ist eine zentralisierte Kontrolle oder Überwachung des Systems nicht möglich. Nutzer können über ihre eigene Hardware problemlos sämtliche Schutzmechanismen der Modelle entfernen, verändern oder neu konfigurieren.

Schwachstellen in geschlossenen und offenen Systemen

Hersteller geschlossener Systeme wie OpenAI und Anthropic nutzen spezielle Klassifikatoren und Kontrollen auf API-Ebene, um gefährliche Cyberhilfe oder biologische Anleitungen einzuschränken. Doch auch diese Maßnahmen sind nicht vollkommen. Die Sicherheitsorganisation Far.ai entdeckte Hunderte universelle „Jailbreak“-Methoden in fortschrittlichen Modellen wie Grok 4.5 von xAI und Gemini 3.1 Pro von Google DeepMind. Durch die Kombination von Rollenspielen und erfundenen Gesprächsverläufen ermöglichen solche Methoden, die Schwachstellen der Modelle zu umgehen.

Dennoch sind die Schutzmaßnahmen, die bei geschlossenen Modellen eingesetzt werden, gegenüber Open-Weight-Systemen völlig wirkungslos. Denn offene Modelle sind von Anfang an darauf ausgelegt, ohne Einschränkungen oder mit veränderten Sicherheitsvorgaben zu funktionieren. Laut Henry Papadatos, dem Geschäftsführer von SaferAI, sollte das Hauptziel darin bestehen, nützliche und sichere Fähigkeiten für alle zugänglich zu machen und zugleich in einem Open-Source-Ansatz schädliche Funktionen zu beseitigen.