Cybersicherheitsexperten unzufrieden mit dem Fable-Modell von Anthropic

Am Dienstag stellte Anthropic Fable vor, eine öffentliche und eingeschränkte Version seines umstrittenen Cybersicherheitsmodells Mythos. Die strengen Einschränkungen des neuen Modells stoßen jedoch bei Cybersicherheitsforschern und Branchenexperten auf scharfe Kritik, berichtet Techcrunch.com. berichtet .

Die IBM X-Force-Forscherin Valentina „Chompie“ Palmiotti stellte fest, dass Fable jede Anfrage ablehnt, die auch nur indirekt mit Cybersicherheit zu tun hat, einschließlich harmloser Aufgaben wie dem Lesen einfacher Blogbeiträge. Wenn Sicherheitsmaßnahmen ausgelöst werden, beendet das Modell den Chat mit dem Hinweis, dass die Nachricht aufgrund von Cybersicherheits- oder Biologiethemen blockiert wurde.

Anthropic hat diese Beschränkungen eingeführt, um das Risiko der Erstellung von Malware oder der Entwicklung biologischer Waffen zu verringern. Als das Unternehmen im April das Mythos-Modell veröffentlichte, gewährte es nur wenigen Organisationen im Rahmen von Project Glasswing Zugriff. Letzte Woche wurde der Zugang auf Hunderte von Organisationen in 15 Ländern ausgeweitet.

Experten sind der Meinung, dass das Einschränkungssystem des Fable-Modells auf Schlüsselwörtern basiert und Anfragen zum Schreiben von sicherem Code oft falsch interpretiert. Der Cybersicherheitsexperte Matt Suiche erklärte beispielsweise, dass das System bewährte Methoden der Softwareentwicklung mit Cyberangriffen verwechselt und den Benutzer automatisch auf das Modell Claude Opus 4.8 umleitet.

Anthropic hat bisher nicht offiziell auf diese Kritik reagiert. Experten hoffen, dass diese „Barrieren“ im Laufe der Zeit in Zusammenarbeit mit Cybersicherheitsunternehmen gelockert werden, da sich das Modell noch in einem frühen Stadium befindet.