Les experts en cybersécurité mécontents du modèle Fable d'Anthropic

Mardi, Anthropic a présenté Fable, une version publique et limitée de son modèle de cybersécurité controversé, Mythos. Cependant, les restrictions strictes du nouveau modèle suscitent de vives critiques de la part des chercheurs en cybersécurité et des professionnels du secteur, rapporte Techcrunch.com. rapporte .

La chercheuse d'IBM X-Force, Valentina « Chompie » Palmiotti, a souligné que Fable rejette toute demande liée même indirectement à la cybersécurité, y compris des tâches inoffensives comme la lecture de simples articles de blog. Lorsque les mesures de sécurité sont déclenchées, le modèle met fin au chat en indiquant que le message a été bloqué en raison de son lien avec des sujets de cybersécurité ou de biologie.

Anthropic a mis en place ces restrictions pour réduire le risque de création de logiciels malveillants ou de développement d'armes biologiques. Lorsque l'entreprise a lancé le modèle Mythos en avril, elle n'avait accordé l'accès qu'à quelques organisations dans le cadre du projet Glasswing. La semaine dernière, l'accès au modèle a été étendu à des centaines d'organisations dans 15 pays.

Les experts estiment que le système de restriction du modèle Fable est basé sur des mots-clés et interprète souvent mal les demandes d'écriture de code sécurisé. Par exemple, l'expert en cybersécurité Matt Suiche a déclaré que le système confond les meilleures pratiques d'ingénierie logicielle avec des cyberattaques, redirigeant automatiquement l'utilisateur vers le modèle Claude Opus 4.8.

Anthropic n'a pas encore officiellement réagi à ces critiques. Les experts espèrent que, le modèle étant encore à un stade précoce, ces « obstacles » seront assouplis au fil du temps en collaboration avec les entreprises de cybersécurité.