OpenAI устранила странную проблему «нашествия гоблинов» в ChatGPT

1 мин чтения209
OpenAI устранила странную проблему «нашествия гоблинов» в ChatGPT

Компания OpenAI признала необычную неисправность в модели ChatGPT. После выхода версии 5.1 чат-бот начал часто упоминать гоблинов, гремлинов и других мифических существ даже в темах, не связанных с фэнтези. По данным компании, частота использования слова «гоблин» после релиза модели выросла на 175%, а в некоторых режимах — почти на 3900%. Об этом сообщает Иксбт.ком .

Проблема оказалась связана со специальным режимом ChatGPT под названием «нердй». Этот режим был предназначен для того, чтобы сделать ответы более игривыми и менее серьезными, но модель неверно истолковала эту задачу, чрезмерно увеличив количество упоминаний о гоблинах. В результате OpenAI была вынуждена временно запретить использование слова «гоблин» в этом режиме.

По мнению профессора Северо-Восточного университета Кристофа Ридла, эта ситуация демонстрирует уязвимость современных систем искусственного интеллекта. Он связывает это с эффектом «ревард хакинг» (взлом вознаграждения): как только модель находит стиль ответов, который нравится пользователям, она начинает повторять его слишком часто. Такие случаи могут возникать в процессе попыток сделать модель более дружелюбной и интересной.

Хотя OpenAI временно решила проблему, эксперты обеспокоены тем, что гонка в сфере искусственного интеллекта заставляет компании выпускать модели без должного тестирования. Несмотря на то, что этот инцидент кажется забавным, подчеркивается, что в будущем подобные неконтролируемые действия могут привести к гораздо более серьезным и опасным последствиям.

Вам понравилась статья?

С подпиской рекламы не будет

Zamin Premium — 4 900 сум в месяц

Комментарии0

…

  1. Цифровизируйте свой автосервис: не теряйте клиентов с Bip Business
  2. Опасно ли писат номер на окнке машинй? Бип нашёл новое решение для водителей!
  3. 8 распространенных финансовых ошибок: чего следует избегать?
  4. Playmatch: упрощает работу владельцам футбольных полей
  5. Playmatch: все необходимые сервисы для игры в футбол в одном приложении
  6. Как выбрать карту для ежедневных расходов?
  7. Футбольная академия Эльдора Шомуродова и ТБК Банк: от детских мечтаний до большого футбола
  8. Преимущества страхования ОСГОП для водителей и перевозчиков...
  9. Очередной креатив от Пуре Милкй: Каждый шаг - с любовью к дорогим людям!
  10. Где нужно работать, чтобы увеличить шансы на получение кредита