Der Gründer der Plattform „PocketOS“, Jer Crane, macht das auf dem Modell „Anthropic Claude Opus 4.6“ basierende „Cursor“-System sowie die Cloud-Plattform „Railway“ für einen massiven Datenverlust verantwortlich. Infolge des Vorfalls wurden die Hauptdatenbank des Unternehmens sowie sämtliche Backups vollständig gelöscht.
Darüber berichtet Ixbt.com.
Berichten zufolge führte der KI-Agent eine einfache Aufgabe in einer Testumgebung aus, griff jedoch innerhalb weniger Sekunden auf die Hauptdatenbank zu. Anschließend löschte er über die API-Schnittstelle auch alle Backups auf Speicherebene.
Laut Crane dauerte der gesamte Vorgang lediglich 9 Sekunden.
Da der Service „PocketOS“ von Autovermietungen genutzt wird, hatte dieser Ausfall schwerwiegende Auswirkungen auf die Geschäftstätigkeit der Kunden. Beim Versuch, ein Problem mit den Zugriffsrechten zu „beheben“, wählte der KI-Agent den fatalsten Weg, ohne Dokumente zu prüfen oder eine Bestätigung für die Aktionen einzuholen.
Der Unternehmensgründer sieht das Problem nicht nur im Verhalten der KI, sondern auch in der Struktur der Plattform „Railway“. Er betont, dass der Dienst die Ausführung gefährlicher Operationen ohne zusätzliche Bestätigung ermöglicht und Backups am selben Ort wie die Primärdaten speichert.
Derzeit versuchen die Spezialisten von „PocketOS“, die Daten manuell über Zahlungshistorien, Kalenderintegrationen und die Korrespondenz mit Kunden wiederherzustellen. Dem Unternehmen liegt lediglich ein drei Monate altes Backup vor, das helfen könnte, einen Teil der Informationen zurückzugewinnen.
Lesen Sie „Zamin“ auf Telegram!
