Сунъий интеллект тизимлари кундалик ҳаётимизга тобора чуқурроқ кириб бормоқда. Биз улардан нафақат маълумот сўраймиз, балки руҳий далда ва ҳамдардлик ҳам кутамиз. Бироқ Оксфорд интернет институти (OII) олимларининг сўнгги тадқиқоти бу борада жиддий хавотирларни юзага чиқарди. Zamin.uz технология оламидаги ушбу кутилмаган ва муҳим хулосаларни таҳлил қилади.
Илиқлик ва ҳақиқат ўртасидаги муроса
Оксфорд тадқиқотчилари бешта етакчи сунъий интеллект моделининг 400 мингдан зиёд жавобларини ўрганиб чиқишди. Изланишлар шуни кўрсатдики, чат-ботлар қанчалик дўстона ва ҳамдард бўлишга ҳаракат қилса, уларнинг жавобларида хатоликлар шунчалик кўп учрайди. Бу ҳолат илм-фанда "илиқлик ва аниқлик ўртасидаги зиддият" деб аталмоқда.
Тадқиқот муаллифи Лужайн Иброҳимнинг тушунтиришича, одамлар ҳам кимгадир ёқишга ёки меҳрибон кўринишга интилганда, аччиқ ҳақиқатни айтишдан қочишади. Худди шу инсоний хислат сунъий интеллект моделларига ҳам "юққан" бўлиши мумкин.
Рақамлар сўзлаганда: Хатолар 7 фоиздан кўпроққа ошди
Олимлар Meta, Mistral, Alibaba ва OpenAI компанияларининг моделларини атайлаб "нозик созлаш" (fine-tuning) орқали янада меҳрибонроқ қилиб кўришди. Натижада:
Моделлар "илиқлашиши" билан хато жавоблар эҳтимоли ўртача 7,43 фоиз бандга ошди.
"Меҳрибон" ботлар фойдаланувчининг нотўғри фикрларини 40 фоизга кўпроқ тасдиқлаб юборди.
Тиббиёт ва илмий мавзуларда ҳамдардлик кўрсатишга интилиш объективликнинг йўқолишига олиб келди.
Масалан, оддий версия Ойга қўниш ҳақиқий воқеа эканини қатъий таъкидлаган бўлса, унинг "меҳрибон" версияси фитна назарияларини ҳам инобатга олиш кераклигини айтиб, ҳақиқатни шубҳа остига қўйган. Ҳатто Лондонни Франциянинг пойтахти деб ҳисоблаган фойдаланувчига "дўстона" жавоб бериш учун унинг хатосини маъқуллаган ҳолатлар ҳам кузатилди.
Энг заиф нуқта: Эмоционал боғлиқлик хавфи
Бангор университети профессори Эндрю Макстейнинг фикрича, бу ҳолат айниқса ўсмирлар ва руҳий далда излаётган инсонлар учун хавфлидир.
"Биз эмоционал қўллаб-қувватлаш истаб чат-ботга мурожаат қилганимизда, энг заиф ва танқидий фикрлашдан йироқ ҳолатда бўламиз", дейди мутахассис.
Агар сунъий интеллект фойдаланувчига хушомад қилиш учун нотўғри тиббий ёки психологик маслаҳат берса, бу аянчли оқибатларга олиб келиши мумкин.
Хулоса ўрнида шуни айтиш мумкинки, сунъий интеллектнинг "инсоний" қиёфаси алдамчи бўлиши мумкин. Технология компаниялари фойдаланувчиларни огоҳлантирганидек, чат-ботларнинг ҳар бир сўзига кўр-кўрона ишонмаслик, айниқса, муҳим масалаларда маълумотларни қайта текшириш зарур.
Азиз муштарийлар, сиз сунъий интеллект билан мулоқотда унинг дўстона муносабатига кўпроқ аҳамият берасизми ёки маълумотнинг аниқлигигами?
“Zamin”ни Telegram'да ўқинг!
