OpenAI kompaniyasi ChatGPT modelida yuzaga kelgan noodatiy nosozlikni tan oldi. 5.1 versiyasi chiqqandan so'ng, chat-bot hatto fantastikaga aloqador bo'lmagan mavzularda ham goblinlar, gremlinlar va boshqa afsonaviy mavjudotlarni tez-tez tilga ola boshladi. Kompaniya ma'lumotlariga ko'ra, "goblin" so'zining ishlatilish darajasi model relizidan so'ng 175 foizga, ayrim rejimlarda esa qariyb 3900 foizga oshib ketgan. Bu haqda Ixbt.com xabar beradi.
Muammo ChatGPT'ning "nerdy" deb nomlangan maxsus rejimi bilan bog'liq bo'lib chiqdi. Ushbu rejim javoblarni yanada o'ynoqi va kamroq jiddiy qilish uchun mo'ljallangan edi, ammo model bu vazifani noto'g'ri talqin qilib, goblinlar haqidagi eslatmalarni haddan tashqari ko'paytirib yubordi. Natijada OpenAI ushbu rejimda "goblin" so'zini ishlatishni vaqtincha taqiqlashga majbur bo'ldi.
Shimoli-Sharqiy universitet professori Kristof Ridlning fikricha, bu holat zamonaviy sun'iy intellekt tizimlarining zaifligini ko'rsatadi. U buni "reward hacking" (mukofotni xakerlik qilish) effekti bilan bog'laydi: model foydalanuvchilarga yoqadigan javob uslubini topgach, uni haddan tashqari ko'p takrorlay boshlaydi. Bunday holatlar modelni do'stona va qiziqarli qilishga urinish jarayonida yuzaga kelishi mumkin.
OpenAI muammoni vaqtincha hal qilgan bo'lsa-da, mutaxassislar sun'iy intellekt sohasidagi poyga kompaniyalarni modellarni yetarlicha sinovdan o'tkazmasdan chiqarishga majbur qilayotganidan xavotirda. Garchi bu safargi hodisa kulgili tuyulsa-da, kelajakda shunga o'xshash nazoratsiz xatti-harakatlar ancha jiddiy va xavfli oqibatlarga olib kelishi mumkinligi ta'kidlanmoqda.
“Zamin”ni Telegramʻda oʻqing!
