Sun’iy intellektning katta muammosi: "gallyutsinatsiyalar" nega kuchayib bormoqda?

Zamonaviy texnologiyalar va innovatsiyalar olamida sun’iy intellekt tizimlari jadallik bilan rivojlanmoqda va hayotimizning turli sohalariga kirib bormoqda. Bugungi kunda deyarli barcha sohalarda – biznes, ta’lim, tibbiyot va kundalik hayotimizda sun’iy intellektdan foydalanish ko‘payib borayotganligi kuzatilmoqda. Ammo so‘nggi tadqiqotlar va mutaxassislarning xulosalari shundan dalolat bermoqdaki, sun’iy intellekt qanchalik murakkablashib borgani sayin, uning muammolari va xatolari ham shu darajada oshib bormoqda.

Xususan, bu borada OpenAI kompaniyasining oxirgi modellari – ayniqsa, o3 va o4-mini nomli eng kuchli algoritmlari atrofida ko‘plab savollar va tanqidiy fikrlar paydo bo‘ldi. Mashhur The New York Times nashrining yozishicha, OpenAI kompaniyasining so‘nggi va eng kuchli sanalgan o3 modeli o‘zidan oldingi avlodlarga nisbatan ancha ko‘proq xatoga yo‘l qo‘ymoqda. Bu esa sun’iy intellektning "fikrlash" va xulosa chiqarish jarayonlarida jiddiy muammolar mavjudligidan darak beradi.

Shu kabi xatolar faqat OpenAI mahsulotlariga xos bo‘lmay, balki Google kabi yirik texnologik kompaniyalarning hamda Xitoyning DeepSeek startapining sun’iy intellekt modellarida ham tez-tez kuzatilayotganligi aniqlandi. Garchi ularning hisoblash va matematik qobiliyatlari sezilarli darajada kuchaygan bo‘lsa-da, ular tomonidan berilgan javoblardagi xatolar soni kamayish o‘rniga, aksincha, oshib bormoqda.

Sun’iy intellekt sohasidagi eng jiddiy va ko‘p kuzatilayotgan xatolardan biri bu – «gallyutsinatsiyalar» muammosidir. «Gallyutsinatsiya» so‘zi bu yerda SI modellari tomonidan manbasiz va asossiz tarzda to‘qib chiqarilgan, uydirma ma’lumotlarni ifoda etadi. Ya’ni, sun’iy intellekt mavjud bo‘lmagan holatlarni yoki noto‘g‘ri ma’lumotlarni xuddi haqiqat kabi taqdim etadi.

Vectara kompaniyasi direktori Amr Avadallaning ta’kidlashicha, bu kabi gallyutsinatsiyalar qanchalik urinishlarga qaramay, sun’iy intellektning tarkibiy muammosi sifatida doim mavjud bo‘lib qoladi. Bu esa, sun’iy intellekt tizimlari bilan ishlashda ehtiyotkorlik talab qilinishini yana bir bor tasdiqlaydi.

Gallyutsinatsiyalar muammosiga yaqqol misol sifatida, Cursor texnik qo‘llab-quvvatlash xizmatidagi SI botining qilgan xatosi keltirildi. Mazkur bot asbobning faqat bitta kompyuterda ishlatilishi mumkinligi haqida noto‘g‘ri ma’lumot bergan va shu bilan katta tushunmovchiliklarga olib kelgan. Bu, o‘z navbatida, foydalanuvchilar orasida shov-shuv va salbiy reaksiyalar keltirib chiqargan. Keyinchalik tekshiruvlar natijasida ma’lum bo‘ldiki, kompaniya bunday cheklovlarni o‘rnatmagan va bu ma’lumotlarning barchasi bot tomonidan o‘ylab topilgan.

Bunday noqulay holatlar faqat birgina misol bo‘lib, sun’iy intellektning gallyutsinatsiyalarga qanchalik moyilligini yaqqol ko‘rsatib beradi. Mustaqil va ichki test natijalariga ko‘ra, sun’iy intellektning yangi o3 va o4-mini modellari umumiy savollarga javob berishda tegishlicha 51 va 79 foiz holatlarda gallyutsinatsiyalarga yo‘l qo‘ygan. Bu ko‘rsatkich eskiroq sanalgan o1 modelidagi 44 foizdan ancha yuqori.

Testlarning yanada tafsilotli natijalari shuni ko‘rsatdiki, mashhur shaxslar bilan bog‘liq savollarga javob berish jarayonida ham o3 modeli javoblarning uchdan bir qismini xatoli tarzda taqdim qilgan. Bunday holat eski o1 modelidan ikki baravar yuqoridir. Ayniqsa, yangi o4-mini modelida vaziyat yanada yomonlashib, javoblardagi xatolar 48 foizga yetgan.

Ekspertlarning ta’kidlashicha, gallyutsinatsiyalar Google va DeepSeek startaplari tomonidan ishlab chiqilgan sun’iy intellekt modellarida ham muntazam kuzatiladi. Garchi bu kompaniyalar tomonidan xatolarni kamaytirish borasida ko‘plab sa’y-harakatlar olib borilgan bo‘lsa ham, o‘tgan bir yil davomida bu gallyutsinatsiyalar atigi 1-2 foizga kamaygan.

OpenAI kompaniyasi va boshqa ishlab chiquvchilar bu muammoning sabablarini chuqur o‘rganish uchun qo‘shimcha ilmiy tadqiqotlar olib borish zarurligini tan olmoqdalar. Sun’iy intellekt vositalariga bo‘lgan talabning keskin ortishi fonida bu muammolarni hal qilish nafaqat ilmiy ahamiyatga, balki amaliy va iqtisodiy jihatdan ham katta muhimlik kasb etmoqda.

Umuman olganda, sun’iy intellektning imkoniyatlari kengayishi bilan bir qatorda, uning mas’uliyati ham oshib bormoqda. Bu sohadagi ishlab chiquvchilar, tadqiqotchilar va kompaniyalar yangi va mukammalroq algoritmlar yaratishga intilayotgan bir vaqtda, jamoatchilik uchun sun’iy intellektning aniqligi va ishonchliligi masalasi asosiy ahamiyatga ega bo‘lib qolmoqda.

Bu kabi muammolarni hal qilish kelgusida sun’iy intellektning insonlar hayotidagi o‘rnini yanada mustahkamlash va texnologik taraqqiyotda navbatdagi qadamlarni qo‘yish uchun muhim ahamiyatga ega bo‘ladi. Shu sababli bu mavzudagi yangiliklar Zamin.uz tomonidan muntazam ravishda yoritib boriladi va o‘quvchilarga so‘nggi o‘zgarishlar tezkorlik bilan yetkaziladi. “Zamin”ni Telegramʻda oʻqing!