Сунъий интеллектнинг катта муаммоси: "галлюцинациялар" нега кучайиб бормоқда?

Замонавий технологиялар ва инновациялар оламида сунъий интеллект тизимлари жадаллик билан ривожланмоқда ва ҳаётимизнинг турли соҳаларига кириб бормоқда. Бугунги кунда деярли барча соҳаларда – бизнес, таълим, тиббиёт ва кундалик ҳаётимизда сунъий интеллектдан фойдаланиш кўпайиб бораётганлиги кузатилмоқда. Аммо сўнгги тадқиқотлар ва мутахассисларнинг хулосалари шундан далолат бермоқдаки, сунъий интеллект қанчалик мураккаблашиб боргани сайин, унинг муаммолари ва хатолари ҳам шу даражада ошиб бормоқда.

Хусусан, бу борада OpenAI компаниясининг охирги моделлари – айниқса, о3 ва о4-мини номли энг кучли алгоритмлари атрофида кўплаб саволлар ва танқидий фикрлар пайдо бўлди. Машҳур The New York Times нашрининг ёзишича, OpenAI компаниясининг сўнгги ва энг кучли саналган о3 модели ўзидан олдинги авлодларга нисбатан анча кўпроқ хатога йўл қўймоқда. Бу эса сунъий интеллектнинг "фикрлаш" ва хулоса чиқариш жараёнларида жиддий муаммолар мавжудлигидан дарак беради.

Шу каби хатолар фақат OpenAI маҳсулотларига хос бўлмай, балки Google каби йирик технологик компанияларнинг ҳамда Хитойнинг DeepSeek стартапининг сунъий интеллект моделларида ҳам тез-тез кузатилаётганлиги аниқланди. Гарчи уларнинг ҳисоблаш ва математик қобилиятлари сезиларли даражада кучайган бўлса-да, улар томонидан берилган жавоблардаги хатолар сони камайиш ўрнига, аксинча, ошиб бормоқда.

Сунъий интеллект соҳасидаги энг жиддий ва кўп кузатилаётган хатолардан бири бу – «галлюцинациялар» муаммосидир. «Галлюцинация» сўзи бу ерда СИ моделлари томонидан манбасиз ва асоссиз тарзда тўқиб чиқарилган, уйдирма маълумотларни ифода этади. Яъни, сунъий интеллект мавжуд бўлмаган ҳолатларни ёки нотўғри маълумотларни худди ҳақиқат каби тақдим этади.

Vectara компанияси директори Амр Авадалланинг таъкидлашича, бу каби галлюцинациялар қанчалик уринишларга қарамай, сунъий интеллектнинг таркибий муаммоси сифатида доим мавжуд бўлиб қолади. Бу эса, сунъий интеллект тизимлари билан ишлашда эҳтиёткорлик талаб қилинишини яна бир бор тасдиқлайди.

Галлюцинациялар муаммосига яққол мисол сифатида, Cursor техник қўллаб-қувватлаш хизматидаги СИ ботининг қилган хатоси келтирилди. Мазкур бот асбобнинг фақат битта компьютерда ишлатилиши мумкинлиги ҳақида нотўғри маълумот берган ва шу билан катта тушунмовчиликларга олиб келган. Бу, ўз навбатида, фойдаланувчилар орасида шов-шув ва салбий реакциялар келтириб чиқарган. Кейинчалик текширувлар натижасида маълум бўлдики, компания бундай чекловларни ўрнатмаган ва бу маълумотларнинг барчаси бот томонидан ўйлаб топилган.

Бундай ноқулай ҳолатлар фақат биргина мисол бўлиб, сунъий интеллектнинг галлюцинацияларга қанчалик мойиллигини яққол кўрсатиб беради. Мустақил ва ички тест натижаларига кўра, сунъий интеллектнинг янги о3 ва о4-мини моделлари умумий саволларга жавоб беришда тегишлича 51 ва 79 фоиз ҳолатларда галлюцинацияларга йўл қўйган. Бу кўрсаткич эскироқ саналган о1 моделидаги 44 фоиздан анча юқори.

Тестларнинг янада тафсилотли натижалари шуни кўрсатдики, машҳур шахслар билан боғлиқ саволларга жавоб бериш жараёнида ҳам о3 модели жавобларнинг учдан бир қисмини хатоли тарзда тақдим қилган. Бундай ҳолат эски о1 моделидан икки баравар юқоридир. Айниқса, янги о4-мини моделида вазият янада ёмонлашиб, жавоблардаги хатолар 48 фоизга етган.

Экспертларнинг таъкидлашича, галлюцинациялар Google ва DeepSeek стартаплари томонидан ишлаб чиқилган сунъий интеллект моделларида ҳам мунтазам кузатилади. Гарчи бу компаниялар томонидан хатоларни камайтириш борасида кўплаб саъй-ҳаракатлар олиб борилган бўлса ҳам, ўтган бир йил давомида бу галлюцинациялар атиги 1-2 фоизга камайган.

OpenAI компанияси ва бошқа ишлаб чиқувчилар бу муаммонинг сабабларини чуқур ўрганиш учун қўшимча илмий тадқиқотлар олиб бориш зарурлигини тан олмоқдалар. Сунъий интеллект воситаларига бўлган талабнинг кескин ортиши фонида бу муаммоларни ҳал қилиш нафақат илмий аҳамиятга, балки амалий ва иқтисодий жиҳатдан ҳам катта муҳимлик касб этмоқда.

Умуман олганда, сунъий интеллектнинг имкониятлари кенгайиши билан бир қаторда, унинг масъулияти ҳам ошиб бормоқда. Бу соҳадаги ишлаб чиқувчилар, тадқиқотчилар ва компаниялар янги ва мукаммалроқ алгоритмлар яратишга интилаётган бир вақтда, жамоатчилик учун сунъий интеллектнинг аниқлиги ва ишончлилиги масаласи асосий аҳамиятга эга бўлиб қолмоқда.

Бу каби муаммоларни ҳал қилиш келгусида сунъий интеллектнинг инсонлар ҳаётидаги ўрнини янада мустаҳкамлаш ва технологик тараққиётда навбатдаги қадамларни қўйиш учун муҳим аҳамиятга эга бўлади. Шу сабабли бу мавзудаги янгиликлар Zamin.uz томонидан мунтазам равишда ёритиб борилади ва ўқувчиларга сўнгги ўзгаришлар тезкорлик билан етказилади. «Замин»ни Telegram’да ўқинг!