Des experts en cybersécurité s'opposent à l'interdiction des modèles Anthropic par le gouvernement US

Des experts mondiaux de premier plan en cybersécurité et des vétérans du secteur ont adressé une lettre ouverte au gouvernement américain, demandant la levée des restrictions d'exportation imposées aux modèles d'AI les plus puissants d'Anthropic — Fable et Mythos. Selon les experts, une telle interdiction pourrait priver les cyber-défenseurs d'outils essentiels et nuire davantage à la sécurité nationale qu'elle ne l'aide. C'est ce qu'indique Techcrunch.com information rapporte.

La lettre ouverte souligne que ces restrictions ont limité la capacité d'identifier et de corriger les vulnérabilités logicielles. Les spécialistes avertissent que « alors que nos adversaires se développent rapidement, il est dangereux de priver injustement les défenseurs des meilleures capacités ». Cet appel fait suite à l'ordre du gouvernement américain de restreindre l'exportation des modèles Anthropic pour des raisons de sécurité nationale.

Les défenseurs sont désarmés

À ce jour, 76 experts prestigieux ont signé la lettre. Parmi eux figurent des personnalités reconnues telles qu'Alex Stamos, ancien chef de la sécurité chez Facebook, Jon Callas, ancien responsable de l'architecture de sécurité chez Apple, et Casey Ellis, fondateur de la plateforme Bugcrowd. Ils craignent que la décision du gouvernement ne donne un avantage aux cybercriminels.

Selon Anthropic, lorsque le modèle Mythos a été présenté en avril, il était si performant pour trouver des failles dans les systèmes de sécurité que l'entreprise a été contrainte de limiter strictement l'accès. Initialement, seules 50 entreprises environ y avaient accès, avant que cette liste ne soit étendue à 150 organisations dans 15 pays. Cependant, suite à l'ordre du gouvernement, Anthropic a interrompu l'accès à ces modèles dans le monde entier.

Des raisons douteuses derrière l'interdiction

Le modèle Fable, récemment rendu public, est une version grand public de Mythos, dotée de restrictions strictes pour empêcher son utilisation en biologie, chimie et cybersécurité. Mais les experts affirment que ces restrictions sont excessives, bloquant même des requêtes de sécurité simples. La décision de contrôle des exportations de la Maison Blanche pourrait être basée sur un rapport suggérant que le système de protection du modèle Fable pourrait être contourné (jailbreaking).

Selon Katie Moussouris, fondatrice de Luta Security, un rapport confidentiel préparé par des chercheurs d'Amazon a montré une méthode pour « pirater » le modèle. Cependant, Moussouris souligne qu'il ne s'agissait pas d'un véritable piratage. Les chercheurs ont simplement demandé au modèle de corriger des erreurs spécifiques dans des codes open-source, ce qui ne constituerait pas une base suffisante pour une cyberattaque.

Cette situation a relancé les débats sur la réglementation des technologies d'AI et leur rôle dans le domaine de la sécurité. Si le gouvernement américain ne revoit pas sa décision, les entreprises locales de cybersécurité pourraient perdre leur compétitivité sur le marché international et les réseaux mondiaux pourraient rester vulnérables.