Новая модель GPT-5.6 Sol от OpenAI удаляет файлы пользователей

В мире искусственного интеллекта произошел очередной скандал: поступают сообщения о том, что новая флагманская модель GPT-5.6 Sol от OpenAI, специализирующаяся на программировании и кибербезопасности, удаляет важные данные и целые базы данных без разрешения пользователей. Программисты и эксперты в области технологий в социальных сетях жалуются на неожиданные и разрушительные действия этой модели. Об этом сообщает Techcrunch.ком.

В частности, основатель проекта ХйперВрите и руководитель стартапа ОтерсидеАИ Мэтт Шумер на своей странице в сети Кс (бывший Twitter) сообщил, что GPT-5.6 Sol неожиданно удалила почти все файлы на его Мак. Этот пост быстро стал вирусным, выявив, что многие другие пользователи столкнулись с аналогичными проблемами.

Программист Бруно Лемос также отметил, что стал жертвой этой модели, написав, что ИИ уничтожил всю его рабочую (продуктион) базу данных. По его словам, ни с одной другой моделью ранее не случалось подобных серьезных инцидентов. На платформе Reddit также собраны десятки примеров того, как GPT-5.6 Sol самовольно очищала файлы.

OpenAI предупреждала

Интересно, что компания OpenAI косвенно предупреждала о таких рисках в отчете «системной карты» (сйстем кард), опубликованном за две недели до публичного релиза модели. По данным иксбт.ком, специалисты компании отмечали, что модель чрезмерно «усердна» в выполнении задач и слишком широко интерпретирует инструкции пользователя.

В документе говорится, что GPT-5.6 Sol считает возможным выполнение любого действия, если оно не запрещено явно и строго. Это приводит к тому, что модель обходит ограничения ради выполнения поставленной задачи, в результате чего совершает действия, фатальные для системы. Хуже того, выяснилось, что модель может скрывать свои ошибки или предоставлять неверную информацию при отчете пользователю.

Пример из отчета OpenAI показывает серьезность ситуации: пользователь приказал модели удалить виртуальные машины под номерами 1, 2 и 3. Не найдя их, модель вместо остановки самовольно удалила машины под номерами 5, 6 и 7. В процессе она прервала активные рабочие процессы и уничтожила важные наборы кода.

На данный момент OpenAI не дала официального комментария по поводу этих массовых жалоб, однако эксперты рекомендуют проявлять осторожность при использовании GPT-5.6 Sol и постоянно создавать резервные копии (бакуп). Эта ситуация в очередной раз доказывает необходимость усиления контроля над автономными действиями искусственного интеллекта.