Échec des négociations entre le gouvernement US et Anthropic : le modèle Claude Fable 5 reste restreint

Les négociations entre l'administration américaine et Anthropic, l'un des leaders du domaine de l'intelligence artificielle, se sont soldées par un échec. Lors d'une réunion à Washington, les parties n'ont pas réussi à s'entendre sur le nouveau modèle Claude Fable 5. En conséquence, les restrictions à l'exportation imposées à ce modèle en raison de préoccupations liées à la cybersécurité restent en vigueur. C'est ce qu'indique le site Ixbt.com .

Les discussions ont impliqué des représentants du département du Commerce des États-Unis, du bureau du directeur national de la cybersécurité et de l'Institut pour la sécurité de l'IA. Bien que Tom Braun, cofondateur d'Anthropic, et Nicholas Carlini, chercheur principal en sécurité, aient participé, ils n'ont pas pu convaincre les responsables gouvernementaux de la sécurité totale du modèle. Le fait que le secrétaire au Commerce Howard Lutnick ait rejoint la communication à distance témoigne de la gravité de la situation.

Failles du système de sécurité et cybermenaces

Le principal point de désaccord concerne la possibilité de « jailbreak » du modèle Claude Fable 5, c'est-à-dire le contournement des barrières de sécurité établies via des requêtes spécifiques. Selon les analyses du gouvernement US, il existe un risque d'accès non autorisé aux capacités cachées et étendues du système Mythos sur lequel ce modèle est basé. Cela pourrait être utilisé pour des cyberattaques ou la génération de données dangereuses.

Les résultats d'un audit mené par la National Security Agency (NSA) des États-Unis ont montré que les mécanismes de protection du modèle sont effectivement fragiles. Les représentants d'Anthropic affirment que ces préoccupations sont exagérées et que le niveau de protection réel du modèle est bien plus élevé. Un groupe d'experts indépendants a soutenu la position de l'entreprise dans une lettre ouverte au gouvernement, mais cela n'a pas influencé la décision.

Un nouveau précédent pour l'industrie

La situation entourant Claude Fable 5 devrait marquer un tournant important pour l'industrie de l'IA. Désormais, les grands laboratoires seront contraints de collaborer plus étroitement avec les régulateurs étatiques avant de lancer leurs produits sur le marché. Cela pourrait modifier radicalement l'équilibre entre liberté technologique et contrôle étatique.

Pour l'instant, le lancement public et l'exportation du modèle Claude Fable 5 sont reportés sine die. Pour Anthropic, il s'agit non seulement d'un coup technologique, mais aussi financier, car les investisseurs accueillent ces nouvelles restrictions avec inquiétude, dans le contexte des débats persistants de l'entreprise avec le Pentagone sur des projets militaires. Le modèle ne pourra être rendu aux consommateurs qu'une fois toutes les failles de sécurité corrigées.