OpenAI ChatGPT'dagi g'alati "goblinlar bosqini" muammosini bartaraf etdi

1 daqiqa o'qish209
OpenAI ChatGPT'dagi g'alati "goblinlar bosqini" muammosini bartaraf etdi

OpenAI kompaniyasi ChatGPT modelida yuzaga kelgan noodatiy nosozlikni tan oldi. 5.1 versiyasi chiqqandan so'ng, chat-bot hatto fantastikaga aloqador bo'lmagan mavzularda ham goblinlar, gremlinlar va boshqa afsonaviy mavjudotlarni tez-tez tilga ola boshladi. Kompaniya ma'lumotlariga ko'ra, "goblin" so'zining ishlatilish darajasi model relizidan so'ng 175 foizga, ayrim rejimlarda esa qariyb 3900 foizga oshib ketgan. Bu haqda Ixbt.com xabar beradi.

Muammo ChatGPT'ning "nerdy" deb nomlangan maxsus rejimi bilan bog'liq bo'lib chiqdi. Ushbu rejim javoblarni yanada o'ynoqi va kamroq jiddiy qilish uchun mo'ljallangan edi, ammo model bu vazifani noto'g'ri talqin qilib, goblinlar haqidagi eslatmalarni haddan tashqari ko'paytirib yubordi. Natijada OpenAI ushbu rejimda "goblin" so'zini ishlatishni vaqtincha taqiqlashga majbur bo'ldi.

Shimoli-Sharqiy universitet professori Kristof Ridlning fikricha, bu holat zamonaviy sun'iy intellekt tizimlarining zaifligini ko'rsatadi. U buni "reward hacking" (mukofotni xakerlik qilish) effekti bilan bog'laydi: model foydalanuvchilarga yoqadigan javob uslubini topgach, uni haddan tashqari ko'p takrorlay boshlaydi. Bunday holatlar modelni do'stona va qiziqarli qilishga urinish jarayonida yuzaga kelishi mumkin.

OpenAI muammoni vaqtincha hal qilgan bo'lsa-da, mutaxassislar sun'iy intellekt sohasidagi poyga kompaniyalarni modellarni yetarlicha sinovdan o'tkazmasdan chiqarishga majbur qilayotganidan xavotirda. Garchi bu safargi hodisa kulgili tuyulsa-da, kelajakda shunga o'xshash nazoratsiz xatti-harakatlar ancha jiddiy va xavfli oqibatlarga olib kelishi mumkinligi ta'kidlanmoqda.

Maqola sizga yoqdimi?

Obuna bilan reklama bo'lmaydi

Zamin Premium — oyiga 4 900 so'm

Izohlar0

…

  1. Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
  2. Toshkentdan Amerikaga: Nurmuxammad Ismoilov Akinda orqali halol investitsiyani global miqyosga olib chiqmoqda
  3. Avtoservisingizni raqamlashtiring: Bip Business bilan mijozlarni yo‘qotmang
  4. Mashina oynasiga raqam yozish xavflimi? Bip haydovchilar uchun yangi yechim topdi!
  5. 8 ta keng tarqalgan moliyaviy xato: nimalardan saqlanish kerak?
  6. Playmatch: maydon egalari ishini ancha yengillashtiradi
  7. Playmatch: futbol o‘ynash uchun kerakli barcha xizmatlar bitta ilovada
  8. Kundalik xarajatlar uchun kartani qanday tanlash mumkin?
  9. Eldor Shomurodov futbol akademiyasi va TBC Bank: bolalik orzularidan katta futbolgacha
  10. ANORBANK Boʻstonliqdagi 168-son maktab-internat tarbiyalanuvchilarini tabrikladi
  11. Haydovchilar va tashuvchilar uchun OSGOP sug‘urtasining afzalliklari...
  12. Pure Milky’dan navbatdagi kreativ: Har qadam — aziz insonlarga mehr bilan!
  13. Kredit olish imkoniyatini oshirish uchun qayerda ishlash kerak?
  14. Biznes imkoniyatingizni kengaytiring
  15. Fanning rivojlanishiga barchamiz mas’ulmiz!
  16. XIV Toshkent xalqaro kinofestivali qanday o‘tkazilmoqda?