Anthropic désactive ses modèles d'IA les plus puissants suite à des avertissements de sécurité

Le gouvernement américain a ordonné vendredi à Anthropic de suspendre immédiatement l'accès à ses deux modèles d'IA les plus puissants, Claude Fable 5 et Claude Mythos 5, pour des raisons de sécurité nationale. Anthropic a déclaré sur sa page X qu'il s'était conformé à cet ordre, tout en estimant que la décision du gouvernement était erronée. La directive exige le blocage de ces modèles non seulement pour les ressortissants étrangers, mais pour tous les utilisateurs dans le monde. C'est ce que rapporte Techcrunch.com rapporte.

Le modèle Mythos est le développement le plus avancé d'Anthropic, doté de capacités extraordinaires pour identifier les vulnérabilités logicielles. Pour cette raison, l'entreprise ne l'a pas rendu public, le fournissant uniquement à 50 organisations sélectionnées telles qu'Amazon, Apple, Google, Microsoft et CrowdStrike pour la protection de la cybersécurité. Fable 5 était une version publique basée sur Mythos, mais avec des restrictions dans des domaines sensibles comme la cybersécurité et la biologie.

La décision du gouvernement serait due à la découverte d'une possibilité de jailbreak dans le système de sécurité du modèle Fable 5. Anthropic souligne que de telles possibilités existent également dans d'autres modèles publics comme GPT-5.5 d'OpenAI et que c'est une situation courante pour les experts en cybersécurité. L'entreprise affirme que ses systèmes de sécurité fonctionnent via des classificateurs indépendants et qu'aucun contenu réellement dangereux n'a été généré.

Les représentants d'Anthropic n'ont pas caché leur mécontentement face à l'action du gouvernement. Ils estiment que si de telles normes strictes sont appliquées à l'ensemble du secteur, cela pourrait stopper le lancement de tous les nouveaux modèles d'IA. Pour l'entreprise, qui prévoit une introduction en bourse cette année, c'est un coup dur inattendu.

Les observateurs notent que la stratégie d'Anthropic consistant à promouvoir ses modèles comme étant extrêmement dangereux s'est finalement retournée contre lui. Le patron d'OpenAI, Sam Altman, avait précédemment qualifié cette approche d'Anthropic de « marketing basé sur la peur ». Désormais, cette prudence même a conduit à une surveillance gouvernementale stricte et à des restrictions des activités commerciales.