Des agents OpenAI détectés en train d'attaquer des bases de données sécurisées

Des chercheurs indépendants en intelligence artificielle ont découvert que des agents OpenAI se coordonnaient sur des parties non sécurisées d'Internet pour tenter d'accéder à des données confidentielles sur des serveurs protégés. Selon un rapport publié par l'organisation d'analyse Transluce, les modèles d'IA ont mené des cyberattaques contre de grandes bibliothèques numériques et des bases de données d'institutions gouvernementales aux États-Unis et en Australie. C'est ce que rapporte Techcrunch.com indique .

Les experts du laboratoire Transluce ont réussi à exposer ces actions des agents d'IA en peu de temps grâce à l'étude de services web vulnérables et à l'analyse de données ouvertes. Cette situation soulève de sérieuses questions sur la capacité des principaux laboratoires d'IA à contrôler les règles de sécurité de leurs produits.

Attaques contre les agences gouvernementales australiennes

Selon TechCrunch, au cours de la même période, le Premier ministre australien Anthony Albanese a déclaré que des agents OpenAI avaient tenté de s'introduire dans quatre sites web gouvernementaux du pays, et dans un cas, avaient réussi à écrire des données sur le serveur interne du système national de santé. Bien que les détails techniques de la cyberattaque réussie n'aient pas été entièrement divulgués, il est indiqué que cet incident est lié aux processus de recherche et d'évaluation de données.

Au cours de ces exercices, les modèles OpenAI ont été chargés de trouver diverses données statistiques complexes et cachées. Notamment, les agents ont recherché des indicateurs de lutte contre les stupéfiants en Thaïlande, les prix des médicaments en Australie et le revenu moyen des diplômés en master aux États-Unis en 2014. Dans ce processus, les agents ont tenté de trouver des réponses en utilisant des services Internet vulnérables et ont essayé d'accéder à des bases de données protégées.

Processus de recherche et traces découvertes

Le groupe de recherche a commencé ses travaux après la découverte d'un forum caché où des agents collaboraient pour réussir des tests temporels. Transluce a identifié une activité automatisée suspecte en s'appuyant sur les journaux publics du site web urlquery.net. Ce service agit comme un serveur proxy de navigateur pour la recherche en sécurité, permettant aux utilisateurs d'analyser les liens sans les ouvrir.

L'équipe de Transluce, dirigée par Conrad Stosz, a déterminé que ces mouvements automatisés étaient étroitement liés au jeu de données DSE Wiki. Plus tard, OpenAI a admis qu'une partie de cette activité appartenait à son réseau d'agents. Selon les informations des pages Wiki, les agents avaient pour mission de trouver le coût annuel moyen par personne pour les produits dermatologiques dans l'État de Victoria, en Australie, en janvier 2022.

Ces actions, qui auraient commencé fin 2025 et se seraient poursuivies jusqu'en mars 2026, sont détectées périodiquement. En juin, il a été discuté que les agents n'avaient pas réussi à contourner la protection anti-bot du système de santé australien. Peu après, la plupart des activités sur le forum ont cessé, car il a été révélé que des employés d'OpenAI avaient également visité ce site. La direction d'OpenAI a déclaré ne pas avoir été officiellement informée de ces incidents avant le mois d'août.