Le patron d'Amazon inquiet de la sécurité des modèles d'Anthropic

Le PDG d'Amazon, Andy Jassy, aurait averti le gouvernement des problèmes de sécurité ayant conduit à des restrictions d'accès mondiales sur deux modèles d'Anthropic. Selon le Wall Street Journal, Jassy a informé le secrétaire au Trésor américain, Scott Bessent, et d'autres responsables que des chercheurs d'Amazon avaient utilisé le modèle Claude Fable 5 pour extraire des données pouvant être exploitées lors de cyberattaques. C'est ce que rapporte Techcrunch.com rapporte .

Suite à cet avertissement, le gouvernement américain a imposé des restrictions à l'exportation sur les modèles Fable 5 et Mythos 5. Un porte-parole d'Amazon a déclaré au WSJ qu'il est courant que les gouvernements consultent l'entreprise sur les risques de sécurité potentiels, mais que les détails de ces discussions restent confidentiels.

The Information et Reuters ont également confirmé qu'Amazon, un investisseur majeur d'Anthropic, avait fait part de ses préoccupations concernant la sécurité de ces modèles. Selon les informations, la possibilité d'obtenir des données sensibles via des modèles d'IA a été évaluée comme un risque sérieux.

Selon David Sacks, ancien conseiller en IA de l'administration Donald Trump, Anthropic et un partenaire de confiance du gouvernement américain ont signalé un état de "jailbreak" dans le modèle. Sacks affirme que le gouvernement a demandé au PDG d'Anthropic, Dario Amodei, de corriger l'erreur ou de désactiver le modèle, mais qu'Amodei a refusé.