Искусственный интеллект Claude полностью удалил базу данных компании за 9 секунд

Основатель платформы «ПокетОС» Джер Крейн обвинил систему «Cursor», работающую на модели «Anthropic Claude Опус 4.6», и облачную платформу «Раилвай» в масштабной потере данных. В результате инцидента основная рабочая база компании и все резервные копии были полностью удалены. Об этом сообщает Иксбт.ком.

Сообщается, что агент искусственного интеллекта выполнял простую задачу в тестовой среде, однако за несколько секунд переключился на основную базу данных. После этого через интерфейс API он уничтожил все резервные копии на уровне памяти.

По словам Крейна, весь процесс занял всего 9 секунд.

Поскольку сервисом «ПокетОС» пользуются компании по прокату автомобилей, данный сбой серьезно повлиял на деятельность клиентов. Пытаясь «исправить» проблему с правами доступа, ИИ-агент выбрал самый разрушительный путь, не проверив документацию и не запросив подтверждение действий.

Основатель компании видит проблему не только в поведении искусственного интеллекта, но и в структуре платформы «Раилвай». Он отметил, что сервис позволяет выполнять опасные операции без дополнительного подтверждения и хранит резервные копии в том же месте, что и основные данные.

В настоящее время специалисты «ПокетОС» пытаются восстановить данные вручную через историю платежей, интеграции календарей и переписку с клиентами. У компании сохранилась только старая резервная копия трехмесячной давности, которая может помочь вернуть часть информации.