Anthropic schaltet leistungsstärkste KI-Modelle wegen Sicherheitswarnungen ab

Die US-Regierung hat Anthropic am Freitag angewiesen, den Zugriff auf seine zwei leistungsstärksten KI-Modelle, Claude Fable 5 und Claude Mythos 5, aus Gründen der nationalen Sicherheit sofort einzustellen. Anthropic gab auf seiner X-Seite bekannt, dass es der Anordnung Folge geleistet habe, die Entscheidung der Regierung jedoch für falsch halte. Die Anweisung verlangt, diese Modelle nicht nur für ausländische Staatsbürger, sondern für alle Nutzer weltweit zu sperren. Dies berichtet Techcrunch.com berichtet.

Das Mythos-Modell ist die fortschrittlichste Entwicklung von Anthropic und verfügt über außergewöhnliche Fähigkeiten bei der Identifizierung von Software-Schwachstellen. Aus diesem Grund hat das Unternehmen es nicht öffentlich gemacht, sondern nur 50 ausgewählten Organisationen wie Amazon, Apple, Google, Microsoft und CrowdStrike zur Cybersicherheit zur Verfügung gestellt. Fable 5 war eine öffentliche Version auf Basis von Mythos, jedoch mit Einschränkungen in sensiblen Bereichen wie Cybersicherheit und Biologie.

Die Entscheidung der Regierung soll auf die Entdeckung einer Jailbreak-Möglichkeit im Sicherheitssystem des Fable 5-Modells zurückzuführen sein. Anthropic betont, dass solche Möglichkeiten auch bei anderen öffentlichen Modellen wie GPT-5.5 von OpenAI existieren und dies für Cybersicherheitsexperten üblich sei. Das Unternehmen behauptet, dass seine Sicherheitssysteme über unabhängige Klassifikatoren funktionieren und keine real gefährlichen Inhalte generiert wurden.

Vertreter von Anthropic machten aus ihrer Unzufriedenheit über das Vorgehen der Regierung keinen Hehl. Sie sind der Meinung, dass die Anwendung solch strenger Standards auf die gesamte Branche den Start aller neuen KI-Modelle stoppen könnte. Für das Unternehmen, das in diesem Jahr einen IPO plant, ist dies ein unerwarteter Rückschlag.

Beobachter merken an, dass Anthropic's Strategie, seine Modelle als extrem gefährlich zu vermarkten, letztlich nach hinten losgegangen ist. OpenAI-Chef Sam Altman bezeichnete diesen Ansatz von Anthropic zuvor als „angstbasiertes Marketing“. Nun hat genau diese Vorsicht zu einer strengen staatlichen Aufsicht und Einschränkungen der Geschäftstätigkeit geführt.