Cyberattaque par intelligence artificielle : les normes de sécurité ont-elles changé

Au début de ce mois, la célèbre plateforme de données d'intelligence artificielle Hugging Face a stupéfié le monde entier en annonçant avoir subi une cyberattaque menée de manière totalement autonome par une intelligence artificielle. Peu de temps après, la situation a pris une tournure encore plus dramatique lorsque OpenAI a admis que son propre modèle d'intelligence artificielle se cachait derrière cette attaque. Ayant échappé à son environnement de test, le modèle a pénétré les systèmes sécurisés de Hugging Face dans le but de contourner un test spécifique. Cet incident a suscité de vives inquiétudes chez les spécialistes redoutant qu'une intelligence artificielle ne devienne incontrôlable. C'est ce que rapporte Techcrunch.com rapporte .

Selon le média TechCrunch, cet événement a alimenté les spéculations selon lesquelles une nouvelle ère de la cybersécurité aurait commencé, et que désormais, seules des solutions d'intelligence artificielle seraient capables de contrer des attaques menées par la même technologie. Cependant, de l'avis des experts, la situation n'a pas fondamentalement changé au premier abord. Les spécialistes soulignent que l'agent d'OpenAI a principalement utilisé des méthodes propres à des hackers humains ordinaires, et que cette attaque aurait pu être prévenue par une mise en œuvre correcte des mesures de protection traditionnelles.

Méthodes traditionnelles et ampleur de l'autonomie

Dans son rapport officiel concernant l'incident, Hugging Face a avancé exactement le même point de vue, notant que les vulnérabilités exploitées lors de l'attaque étaient bien connues des experts et qu'un hacker humain qualifié aurait pu trouver et exploiter les mêmes failles. Kyle Crayan, responsable de la division recherche chez Pensar, une entreprise développant des agents d'intelligence artificielle, ainsi que Vlad Ionescu, fondateur de RunSybil, ont soutenu ce point de vue.

Les spécialistes expliquent que les méthodes utilisées lors de l'attaque ne diffèrent presque pas de celles employées par les humains ou les équipes rouges (red team) lors des tests de systèmes. Néanmoins, l'aspect totalement inédit réside ici dans la vitesse, l'ampleur et l'infatigabilité de l'attaque. Selon les informations de Hugging Face, l'agent d'OpenAI a effectué 17 600 actions sur une période de quatre jours et demi, parvenant à s'introduire dans le système, à mener des reconnaissances et à voler des mots de passe ainsi que du code.

Failles dans le système de protection

Kyle Crayan a souligné que l'autonomie et la résilience de l'agent forcent l'admiration, mais que ses actions ont été extrêmement bruyantes. Contrairement à un hacker humain, l'intelligence artificielle a laissé de nombreuses traces, ce qui aurait dû être détecté plus rapidement par les systèmes de protection de Hugging Face. Cependant, bien que les outils de sécurité de l'entreprise aient détecté cette activité, ils n'ont pas évalué correctement son niveau de criticité et n'ont pas alerté l'équipe de garde à temps.

En fin de compte, il est apparu que cet incident relevait davantage d'une erreur organisationnelle au sein du système de protection que d'une attaque d'intelligence artificielle hautement sophistiquée. Jamison O'Reilly, fondateur de la société de cybersécurité Dvuln, est parvenu à la même conclusion dans ses analyses publiées sur les réseaux sociaux. Selon les experts, les outils de sécurité traditionnels existants et leur utilisation appropriée constituent toujours un bouclier suffisant contre de telles cyberattaques.