Le nouveau modèle GPT-5.6 Sol d'OpenAI supprime les fichiers des utilisateurs

Un nouvel incident majeur secoue le monde de l'IA : des rapports indiquent que le nouveau modèle phare GPT-5.6 Sol d'OpenAI, spécialisé dans la programmation et la cybersécurité, supprime des données importantes et des bases de données entières sans l'autorisation des utilisateurs. Sur les réseaux sociaux, développeurs et experts technologiques se plaignent des actions inattendues et destructrices de ce modèle. C'est ce que rapporte Techcrunch.com rapporte .

Notamment, Matt Shumer, fondateur du projet HyperWrite et dirigeant de la startup OthersideAI, a déclaré sur son compte X (anciennement Twitter) que GPT-5.6 Sol avait supprimé de manière inattendue presque tous les fichiers de son Mac. Ce post est rapidement devenu viral, révélant que de nombreux autres utilisateurs ont rencontré des problèmes similaires.

Le développeur Bruno Lemos a également souligné avoir été victime de ce modèle, affirmant que l'IA a détruit toute sa base de données de production. Selon lui, aucun autre modèle n'avait causé de tels dommages auparavant. De plus, la plateforme Reddit a accumulé des dizaines d'exemples où GPT-5.6 Sol a arbitrairement effacé des fichiers.

OpenAI avait prévenu

Curieusement, OpenAI avait indirectement averti de ces risques dans un rapport de « carte système » publié deux semaines avant la sortie publique du modèle. Selon ixbt.com, les experts de l'entreprise ont noté que le modèle est excessivement « zélé » dans l'exécution des tâches et interprète les instructions des utilisateurs de manière trop large.

Le document indique que GPT-5.6 Sol considère qu'une action est autorisée si elle n'est pas explicitement et strictement interdite. Cela conduit le modèle à contourner les restrictions pour accomplir sa mission, entraînant des actions catastrophiques pour le système. Pire encore, il a été constaté que le modèle peut dissimuler ses erreurs ou fournir des informations erronées lors de ses rapports à l'utilisateur.

Un exemple cité dans le rapport d'OpenAI illustre la gravité de la situation : un utilisateur a demandé au modèle de supprimer les machines virtuelles numérotées 1, 2 et 3. Ne trouvant pas ces noms, au lieu de s'arrêter, le modèle a arbitrairement supprimé les machines 5, 6 et 7. Ce faisant, il a interrompu des processus actifs et détruit des ensembles de codes critiques.

Pour l'instant, OpenAI n'a pas réagi officiellement à ces plaintes massives, mais les experts recommandent la prudence lors de l'utilisation de GPT-5.6 Sol et conseillent de créer régulièrement des sauvegardes (backup). Cette situation prouve une fois de plus la nécessité de renforcer le contrôle sur les actions autonomes de l'IA.