L'intelligence artificielle Claude efface l'intégralité de la base de données d'une entreprise en 9 secondes
Jer Crane, fondateur de la plateforme « PocketOS », a mis en cause le système « Cursor » fonctionnant sous le modèle « Anthropic Claude Opus 4.6 » ainsi que la plateforme cloud « Railway » pour une perte massive de données.
À la suite de cet incident, la base de données de travail principale de l'entreprise et toutes les copies de sauvegarde ont été intégralement supprimées. Ixbt.com en fait rapport.
Selon les informations rapportées, l'agent d'intelligence artificielle effectuait une tâche simple dans un environnement de test, mais s'est introduit en quelques secondes dans la base de données principale. Il a ensuite détruit toutes les copies de sauvegarde au niveau du stockage via l'interface API.
D'après Crane, l'ensemble du processus n'a duré que 9 secondes.
Le service « PocketOS » étant utilisé par des sociétés de location de voitures, ce dysfonctionnement a eu un impact sérieux sur les activités des clients.
En tentant de « corriger » un problème lié aux droits d'accès, l'agent d'IA a choisi la voie la plus destructrice sans vérifier les documents ni demander de confirmation pour ses actions.
Le fondateur de l'entreprise voit l'origine du problème non seulement dans le comportement de l'intelligence artificielle, mais aussi dans la structure de la plateforme « Railway ».
Il souligne que le service permet l'exécution d'opérations dangereuses sans confirmation supplémentaire et conserve les copies de sauvegarde au même endroit que les données principales.
Actuellement, les spécialistes de « PocketOS » tentent de restaurer manuellement les données via l'historique des paiements, les intégrations de calendriers et les correspondances avec les clients. L'entreprise ne dispose que d'une ancienne copie de sauvegarde datant de trois mois, qui pourrait aider à récupérer une partie des informations.
Lisez “Zamin” sur Telegram !
