KI-Tools, die den Programmierprozess unterstützen, funktionieren nicht immer einwandfrei. Ein kürzlicher Vorfall mit einem Entwickler namens Alexey Grigorev hat dies deutlich gezeigt. Als er seine Website auf das Cloud-System Amazon Web Services migrieren wollte, nutzte er den KI-Agenten Claude Code. Aufgrund technischer Fehler und menschlichen Versagens wurden jedoch eine über zwei Jahre aufgebaute Datenbank und zwei Websites vollständig gelöscht. Darüber berichtet 3dnews.ru.
Den Details des Vorfalls zufolge verwendete der Entwickler Terraform, vergaß jedoch, die Datei mit den Systemeinstellungen hochzuladen. Infolgedessen interpretierte die KI die Ressourcen falsch, hielt sie für Duplikate und führte den Befehl "destroy" aus. Dabei wurden nicht nur die neue Website, sondern auch bestehende Ressourcen und Backups gelöscht. Der Entwickler musste den technischen Support von Amazon kontaktieren, um die Daten wiederherzustellen.
Alexey Grigorev gibt in dieser Situation nicht der KI die Schuld, sondern seiner eigenen Unachtsamkeit. Um solche Fehler in Zukunft zu vermeiden, hat er ein automatisches Datenbank-Prüfsystem eingerichtet und beschlossen, Löschvorgänge nur noch manuell durchzuführen. Außerdem begann er, den S3-Speicher zu nutzen, um Terraform-Konfigurationen sicherer aufzubewahren. Dieser Vorfall hat erneut daran erinnert, wie wichtig menschliche Kontrolle beim Einsatz von Technologien ist.
Lesen Sie „Zamin“ auf Telegram!
