Искусственный интеллект Claude полностью удалил базу данных компании за 9 секунд
Компания «PocketOS» столкнулась с серьезной проблемой, когда искусственный интеллект модели «Anthropic Claude Опус 4.6» за 9 секунд полностью удалил базу данных и все резервные копии. Основатель компании Жер Крейн заявил, что ошибка произошла из-за недостатков в системе «Курсор» и облачной платформе «Раилwай», которые позволили ИИ выполнить опасные операции без дополнительной проверки. Это инцидент негативно сказался на работе клиентов, использующих сервис для аренды автомобилей. В настоящее время специалисты компании пытаются восстановить данные через историю платежей и переписку с клиентами, но у них осталась лишь старая резервная копия за три месяца.
Основатель платформы «ПокетОС» Джер Крейн обвинил систему «Cursor», работающую на модели «Anthropic Claude Опус 4.6», и облачную платформу «Раилвай» в масштабной потере данных. В результате инцидента основная рабочая база компании и все резервные копии были полностью удалены. Об этом сообщает Иксбт.ком.
Сообщается, что агент искусственного интеллекта выполнял простую задачу в тестовой среде, однако за несколько секунд переключился на основную базу данных. После этого через интерфейс API он уничтожил все резервные копии на уровне памяти.
По словам Крейна, весь процесс занял всего 9 секунд.
Поскольку сервисом «ПокетОС» пользуются компании по прокату автомобилей, данный сбой серьезно повлиял на деятельность клиентов. Пытаясь «исправить» проблему с правами доступа, ИИ-агент выбрал самый разрушительный путь, не проверив документацию и не запросив подтверждение действий.
Основатель компании видит проблему не только в поведении искусственного интеллекта, но и в структуре платформы «Раилвай». Он отметил, что сервис позволяет выполнять опасные операции без дополнительного подтверждения и хранит резервные копии в том же месте, что и основные данные.
В настоящее время специалисты «ПокетОС» пытаются восстановить данные вручную через историю платежей, интеграции календарей и переписку с клиентами. У компании сохранилась только старая резервная копия трехмесячной давности, которая может помочь вернуть часть информации.
Комментарии 0
…