US-Regierung und Anthropic einigen sich nicht: Claude Fable 5 Modell bleibt unter Beschränkungen

Die Verhandlungen zwischen der US-Administration und Anthropic, einem der führenden Unternehmen im Bereich der AI, sind ergebnislos verlaufen. Bei einem Treffen in Washington konnten sich die Parteien nicht über das neue Claude Fable 5 Modell einigen. Infolgedessen bleiben die aufgrund von Cybersicherheitsbedenken verhängten Exportbeschränkungen für dieses Modell in Kraft. Dies berichtet Ixbt.com Nachrichten berichtet.

An den Verhandlungen nahmen Vertreter des US-Handelsministeriums, das Büro des Nationalen Cybersicherheitsdirektors sowie das AI Safety Institute teil. Seitens Anthropic nahmen Mitgründer Tom Braun und der leitende Sicherheitsforscher Nicholas Carlini teil, konnten die Regierungsbeamten jedoch nicht davon überzeugen, dass das Modell vollständig sicher sei. Dass Handelsminister Howard Lutnick sich remote an der Kommunikation beteiligte, unterstreicht die Ernsthaftigkeit der Angelegenheit.

Sicherheitslücken und Cyberrisiken

Der Hauptstreitpunkt ist die Möglichkeit eines "Jailbreaks" des Claude Fable 5 Modells, also das Umgehen installierter Sicherheitsbarrieren durch spezielle Prompts. Nach Analysen der US-Regierung besteht das Risiko eines unbefugten Zugriffs auf die verborgenen und erweiterten Funktionen des Mythos-Systems, auf dem dieses Modell basiert. Dies könnte für Cyberangriffe oder die Generierung gefährlicher Informationen genutzt werden.

Die Ergebnisse eines Audits der US National Security Agency (NSA) zeigten, dass die Schutzmechanismen des Modells tatsächlich schwach sind. Vertreter von Anthropic betonen hingegen, dass diese Bedenken übertrieben seien und das reale Schutzniveau des Modells wesentlich höher liege. Eine Gruppe unabhängiger Experten unterstützte die Position des Unternehmens in einem offenen Brief an die Regierung, was jedoch keinen Einfluss auf die Entscheidung hatte.

Ein neuer Präzedenzfall für die Industrie

Es wird erwartet, dass die Situation rund um Claude Fable 5 ein wichtiger Wendepunkt für die AI-Industrie sein wird. Große Labore werden nun gezwungen sein, vor der Markteinführung ihrer Produkte enger mit staatlichen Regulierungsbehörden zusammenzuarbeiten. Dies könnte das Gleichgewicht zwischen technologischer Freiheit und staatlicher Kontrolle grundlegend verändern.

Vorerst wurde die öffentliche Einführung und der Export des Claude Fable 5 Modells auf unbestimmte Zeit verschoben. Für Anthropic ist dies nicht nur ein technologischer, sondern auch ein finanzieller Schlag, da Investoren diese neuen Beschränkungen vor dem Hintergrund der anhaltenden Diskussionen des Unternehmens mit dem Pentagon über Militärprojekte mit Besorgnis betrachten. Das Modell kann erst dann wieder für Verbraucher freigegeben werden, wenn alle Sicherheitsmängel behoben sind.