Sécurité de l'intelligence artificielle : Claude détourné pour des recherches biologiques

Le développement rapide des technologies d'intelligence artificielle crée non seulement de nouvelles opportunités, mais aussi de graves menaces pour la sécurité. Anthropic, le créateur du célèbre réseau neuronal Claude, a révélé dans son dernier rapport avoir identifié plusieurs cas dangereux où l'IA a été potentiellement utilisée dans des recherches visant à créer des armes biologiques. C'est ce que rapporte Ixbt.com .

Selon les informations d'ixbt.com, ces incidents ont été enregistrés entre décembre 2025 et août 2026. La difficulté de déterminer l'intention réelle des recherches lors du processus de commutation est devenue le problème principal, car les mêmes connaissances scientifiques peuvent servir à créer des médicaments utiles comme à développer des agents pathogènes extrêmement dangereux.

Recherches biologiques dangereuses et tentatives dissimulées

Dans l'un des cas identifiés, des chercheurs travaillaient sur le virus du chikungunya, transmis par les moustiques. Le système de protection de Claude a bloqué une requête visant à préparer une demande de subvention pour renforcer les fonctions du virus. Après avoir découvert qu'une institution de recherche militaire était à l'origine de la demande, Anthropic a restreint le service, mais les scientifiques ont poursuivi leurs travaux via d'autres canaux.

Les analyses ont montré que les utilisateurs ont eu recours à divers outils pour contourner les modèles dotés de mécanismes de sécurité plus robustes. Notamment :

• Une plateforme intermédiaire a été identifiée, redirigeant les requêtes biologiques refusées vers d'autres modèles d'IA aux restrictions de sécurité plus souples.
• Dans une étude sur la grippe aviaire hautement pathogène, des scientifiques ont planifié des expériences avec l'aide de Claude pendant plusieurs semaines, avant de poursuivre le travail via des versions moins puissantes.

Trois autres cas impliquant des orthopoxvirus, divers composés toxiques et des toxines ont également été signalés.

Cybersécurité et activité de Midnight Blizzard

Le rapport d'Anthropic indique que l'intelligence artificielle a été détournée non seulement dans les domaines biologiques, mais aussi pour des cybercrimes. L'entreprise a lié l'une des cyberopérations identifiées au groupe Midnight Blizzard, considéré comme étant lié à des pirates informatiques russes.

Dans le cadre de cette campagne, l'IA a été utilisée pour automatiser des attaques par phishing, préparer des infrastructures réseau, créer des logiciels malveillants et voler des données. Ces actions ont visé plus de 20 organisations appartenant aux structures gouvernementales, diplomatiques et de défense de l'Ukraine et de pays européens.

Les experts d'Anthropic soulignent qu'à mesure que les capacités d'analyse scientifique de l'IA s'étendent, le risque de détournement augmente également. L'entreprise a bloqué les comptes dangereux, transmis les données aux autorités compétentes et renforcé les restrictions sur les requêtes biologiques à haut risque.