Cybersicherheitsexperten lehnen US-Verbot von Anthropic-Modellen ab

Führende globale Cybersicherheitsexperten und Branchenveteranen haben einen offenen Brief an die US-Regierung gerichtet und fordern die Aufhebung der Exportbeschränkungen für die leistungsstärksten AI-Modelle von Anthropic — Fable und Mythos. Experten glauben, dass ein solches Verbot Cyber-Verteidiger wichtiger Werkzeuge berauben und der nationalen Sicherheit mehr schaden als nützen könnte. Dies berichtet Techcrunch.com Nachrichten berichtet.

Im offenen Brief wird betont, dass diese Einschränkungen die Fähigkeit zur Identifizierung und Behebung von Softwareschwachstellen eingeschränkt haben. Spezialisten warnen: "Während unsere Gegner sich rasant entwickeln, ist es gefährlich, den Verteidigern ohne Grund die besten Möglichkeiten zu nehmen." Dieser Appell erfolgte, nachdem die US-Regierung aus Gründen der nationalen Sicherheit den Export von Anthropic-Modellen beschränkt hatte.

Verteidiger werden entwaffnet

Bisher haben 76 renommierte Experten den Brief unterzeichnet. Darunter befinden sich bekannte Persönlichkeiten wie Alex Stamos, ehemaliger Sicherheitschef von Facebook, Jon Callas, ehemaliger Manager für Sicherheitsarchitektur bei Apple, und Casey Ellis, Gründer der Bugcrowd-Plattform. Sie befürchten, dass die Entscheidung der Regierung Cyberkriminellen einen Vorteil verschafft.

Laut Anthropic war das im April vorgestellte Mythos-Modell so leistungsfähig beim Finden von Mängeln in Sicherheitssystemen, dass das Unternehmen den Zugang streng begrenzen musste. Zunächst erhielten nur etwa 50 Unternehmen Zugang, was später auf 150 Organisationen in 15 Ländern ausgeweitet wurde. Nach der Regierungsanordnung stoppte Anthropic jedoch den weltweiten Zugang zu diesen Modellen.

Zweifelhafte Gründe für das Verbot

Das kürzlich veröffentlichte Fable-Modell ist eine öffentliche Version von Mythos mit strengen Beschränkungen, um eine Nutzung in den Bereichen Biologie, Chemie und Cybersicherheit zu verhindern. Experten argumentieren jedoch, dass diese Beschränkungen zu extrem seien und selbst einfache Sicherheitsanfragen blockieren. Die Exportkontrollentscheidung des Weißen Hauses könnte auf einem Bericht basieren, wonach das Schutzsystem des Fable-Modells umgangen (Jailbreaking) werden könnte.

Laut Katie Moussouris, Gründerin von Luta Security, zeigte ein vertraulicher Bericht von Amazon-Forschern eine Methode auf, das Modell zu "knacken". Moussouris betont jedoch, dass dies kein echter Einbruch war. Die Forscher baten das Modell lediglich, bestimmte Fehler in Open-Source-Code zu korrigieren, was ihrer Meinung nach keine ausreichende Grundlage für eine Cyberattacke darstellt.

Diese Situation hat die Debatte über die Regulierung von AI-Technologien und ihre Rolle im Sicherheitsbereich erneut entfacht. Sollte die US-Regierung ihre Entscheidung nicht überdenken, könnten heimische Cybersicherheitsunternehmen ihre Wettbewerbsfähigkeit auf dem internationalen Markt verlieren und globale Netzwerke gefährdet bleiben.