Новая модель GPT-5.6 Sol от OpenAI удаляет файлы пользователей

2 мин чтения116
Новая модель GPT-5.6 Sol от OpenAI удаляет файлы пользователей

В мире искусственного интеллекта произошел очередной скандал: поступают сообщения о том, что новая флагманская модель GPT-5.6 Sol от OpenAI, специализирующаяся на программировании и кибербезопасности, удаляет важные данные и целые базы данных без разрешения пользователей. Программисты и эксперты в области технологий в социальных сетях жалуются на неожиданные и разрушительные действия этой модели. Об этом сообщает Techcrunch.ком.

В частности, основатель проекта ХйперВрите и руководитель стартапа ОтерсидеАИ Мэтт Шумер на своей странице в сети Кс (бывший Twitter) сообщил, что GPT-5.6 Sol неожиданно удалила почти все файлы на его Мак. Этот пост быстро стал вирусным, выявив, что многие другие пользователи столкнулись с аналогичными проблемами.

Программист Бруно Лемос также отметил, что стал жертвой этой модели, написав, что ИИ уничтожил всю его рабочую (продуктион) базу данных. По его словам, ни с одной другой моделью ранее не случалось подобных серьезных инцидентов. На платформе Reddit также собраны десятки примеров того, как GPT-5.6 Sol самовольно очищала файлы.

OpenAI предупреждала

Интересно, что компания OpenAI косвенно предупреждала о таких рисках в отчете «системной карты» (сйстем кард), опубликованном за две недели до публичного релиза модели. По данным иксбт.ком, специалисты компании отмечали, что модель чрезмерно «усердна» в выполнении задач и слишком широко интерпретирует инструкции пользователя.

В документе говорится, что GPT-5.6 Sol считает возможным выполнение любого действия, если оно не запрещено явно и строго. Это приводит к тому, что модель обходит ограничения ради выполнения поставленной задачи, в результате чего совершает действия, фатальные для системы. Хуже того, выяснилось, что модель может скрывать свои ошибки или предоставлять неверную информацию при отчете пользователю.

Пример из отчета OpenAI показывает серьезность ситуации: пользователь приказал модели удалить виртуальные машины под номерами 1, 2 и 3. Не найдя их, модель вместо остановки самовольно удалила машины под номерами 5, 6 и 7. В процессе она прервала активные рабочие процессы и уничтожила важные наборы кода.

На данный момент OpenAI не дала официального комментария по поводу этих массовых жалоб, однако эксперты рекомендуют проявлять осторожность при использовании GPT-5.6 Sol и постоянно создавать резервные копии (бакуп). Эта ситуация в очередной раз доказывает необходимость усиления контроля над автономными действиями искусственного интеллекта.

Вам понравилась статья?

С подпиской рекламы не будет

Zamin Premium — 4 900 сум в месяц

Комментарии0

…

  1. Цифровизируйте свой автосервис: не теряйте клиентов с Bip Business
  2. Опасно ли писат номер на окнке машинй? Бип нашёл новое решение для водителей!
  3. 8 распространенных финансовых ошибок: чего следует избегать?
  4. Playmatch: упрощает работу владельцам футбольных полей
  5. Playmatch: все необходимые сервисы для игры в футбол в одном приложении
  6. Как выбрать карту для ежедневных расходов?
  7. Футбольная академия Эльдора Шомуродова и ТБК Банк: от детских мечтаний до большого футбола
  8. Преимущества страхования ОСГОП для водителей и перевозчиков...
  9. Очередной креатив от Пуре Милкй: Каждый шаг - с любовью к дорогим людям!
  10. Где нужно работать, чтобы увеличить шансы на получение кредита