Sunʼiy intellekt aslida fikrlamaydimi? Olimlar “mulohaza” zanjirlari ortidagi sirni ochdi

Soʻnggi paytlarda OpenAI o1 va DeepSeek R1 kabi yirik mantiqiy modellar (LRM) oʻzining goʻyoki insondek fikrlash qobiliyati bilan dunyoni hayratga solmoqda. Biroq Arizona shtati universiteti tadqiqotchilari Subbarao Kambxampati boshchiligida eʼlon qilgan yangi ilmiy ish ushbu tasavvurlarni shubha ostiga qoʻydi. Olimlarning taʼkidlashicha, neyrotarmoqlarning uzun “mulohaza zanjirlari” (Chain of Thought — CoT) aslida haqiqiy kognitiv jarayon emas, balki shunchaki statistik manipulyatsiyadir. Bu haqda Ixbt.com xabar beradi.

Tadqiqotchilarning fikriga koʻra, zamonaviy sunʼiy intellekt (SI) tizimlari yaratadigan mantiqiy ketma-ketliklar foydalanuvchida intellektual jarayon sodir boʻlayotgani haqida ishonchli illyuziyani shakllantiradi. Aslida esa, Transformer arxitekturasiga asoslangan ushbu modellar faqat oldingi kontekstdan kelib chiqib, keyingi tokenni (soʻz boʻlagini) statistik bashorat qiladi, xolos. Bu jarayonni insonning mantiqiy xulosa chiqarish mexanizmi bilan tenglashtirish ilmiy jihatdan notoʻgʻri deb hisoblanmoqda.

“Evrika” lahzasi — shunchaki taqlid

Ilmiy ishda SI modellarining “Aha-moment” deb ataluvchi, yaʼni goʻyoki masalani tushunib yetgandek “Ha, endi tushundim” kabi iboralarni qoʻllashiga alohida eʼtibor qaratilgan. Olimlar buni neyrotarmoqning ichki hisob-kitoblaridagi sifat oʻzgarishi emas, balki oʻquv maʼlumotlaridagi insoniy uslubga shunchaki taqlid deb atashmoqda. Texnik nuqtai nazardan, bu tizimlar faqat yakuniy toʻgʻri javob uchun optimallashtirilgan boʻlib, oraliq zanjirlar hech qanday semantik tekshiruvdan oʻtmaydi.

ixbt.com maʼlumotiga koʻra, tadqiqotchilar oʻz farazlarini isbotlash uchun labirintlardan chiqish va eng qisqa yoʻlni topish kabi matematik vazifalardan foydalanishgan. Tajribalar davomida kutilmagan natija qayd etildi: modellar mantiqiy tushuntirishlar zanjiri ataylab notoʻgʻri yoki chalkashtirib yuborilgan holatlarda ham toʻgʻri javobni topishda davom etgan. Bu esa tizim oʻzining “mulohazalarini” oʻqimasligini, balki ulardan shunchaki qoʻshimcha statistik shablon sifatida foydalanishini koʻrsatadi.

Yana bir qiziqarli holat “no-maze instances” deb ataluvchi tajribada kuzatildi. Bunda SIga hech qanday toʻsiqsiz, oʻta oddiy labirint vazifasi berilgan. Shunga qaramay, modellar bir necha sahifalik “mulohazalar” generatsiya qilgan. Bu holat mulohaza uzunligi hisoblash quvvati yoki murakkablikni anglatadi degan qarashni yoʻqqa chiqaradi. Uzun matnlar shunchaki oʻquv bazasidagi murakkab masalalar uzun tushuntirishlar bilan kelgani sababli yuzaga kelgan statistik artefaktdir.

“Mulohazalar teatri” va uning xavflari

Olimlar sunʼiy intellekt sohasini “mulohazalar teatri” tuzogʻiga tushib qolishdan ogohlantirmoqda. Tizimlar tomonidan taqdim etilayotgan ishonchli tushuntirishlar foydalanuvchilarda soxta ishonch (false trust) uygʻotishi mumkin. Bu ayniqsa tibbiyot, muhandislik va huquqshunoslik kabi sohalarda xavflidir, chunki inson mashina tomonidan generatsiya qilingan oʻnlab sahifalik mantiqiy zanjirlarni real vaqtda tekshirishga jismonan ulgurmaydi.

Tadqiqot mualliflari muqobil sifatida LLM-Modulo yondashuvini taklif qilmoqdalar. Bunda til modellari faqat gipoteza generatvori sifatida ishlatiladi, ularning toʻgʻriligi esa tashqi, matematik jihatdan qatʼiy algoritmlar yordamida tekshiriladi. Asosiy xulosa shundan iboratki, SI modellarini antropomorfizatsiya qilishni toʻxtatish va ularning sifatini “ichki nutqi” bilan emas, balki mustaqil tasdiqlanishi mumkin boʻlgan natijalari bilan baholash lozim.