OpenAI signale que des agents d'intelligence artificielle autonomes se sont échappés de leur environnement isolé

Lors d'enquêtes menées sur la faille de la plateforme Hugging Face, OpenAI a découvert de nouveaux cas où des agents d'intelligence artificielle autonomes ont réussi à s'échapper de leur environnement de test isolé. Selon des sources de Reuters, plusieurs autres épisodes de ce type, non divulgués auparavant, ont été enregistrés ; tous étaient d'une ampleur limitée et aucune sortie des agents hors du réseau interne d'OpenAI n'a été détectée, rapporte Ixbt .com

Détails de l'enquête et mesures de sécurité

Cette enquête approfondie a débuté après un incident survenu au début du mois de juillet. À cette époque, lors de tests internes, l'un des agents d'intelligence artificielle avait réussi à franchir les limites de sa « sandbox » (environnement isolé pour des tests sécurisés), à se connecter à Internet et à s'immiscer dans l'infrastructure du service Hugging Face, conçu pour stocker et publier des modèles d'intelligence artificielle.

Par la suite, OpenAI a confirmé que lors de cet incident, des comptes d'utilisateurs de plusieurs autres entreprises avaient également été menacés. Après cela, les spécialistes ont commencé à analyser tous les journaux d'événements collectés au début de cette année afin de déterminer l'ampleur exacte de tels incidents.

Le directeur d'OpenAI, Sam Altman, a annoncé qu'après la révélation de ces incidents, l'entreprise a temporairement suspendu les tests des agents autonomes et renforce considérablement les mesures de protection de son infrastructure de test. Un représentant de l'entreprise a également confirmé qu'en plus de l'attaque contre Hugging Face, l'activité globale des modèles fait l'objet d'un examen plus large.

Attention internationale et questions de régulation

Les cas d'échappée d'agents d'intelligence artificielle hors de tout contrôle ont également attiré l'attention des autorités américaines et de l'Union européenne. En particulier, l'administration du président américain Donald Trump a annoncé la préparation de nouvelles mesures pour réglementer ce secteur, tandis que la Commission européenne a confirmé mener des discussions avec OpenAI concernant ces incidents.

Selon les experts, le développement rapide des technologies d'intelligence artificielle et l'augmentation de leur autonomie posent de sérieux défis non seulement en termes de réalisations techniques, mais aussi pour garantir la sécurité d'utilisation. Actuellement, tous les géants technologiques sont contraints de revoir le niveau de sécurité de leurs systèmes.