Sunʼiy intellekt mehribon boʻlgani sari xatolari ham koʻpayadi

Sunʼiy intellekt tizimlari kundalik hayotimizga tobora chuqurroq kirib bormoqda. Biz ulardan nafaqat maʼlumot soʻraymiz, balki ruhiy dalda va hamdardlik ham kutamiz. Biroq Oksford internet instituti (OII) olimlarining soʻnggi tadqiqoti bu borada jiddiy xavotirlarni yuzaga chiqardi. Zamin.uz texnologiya olamidagi ushbu kutilmagan va muhim xulosalarni tahlil qiladi.

Iliqlik va haqiqat oʻrtasidagi murosa

Oksford tadqiqotchilari beshta yetakchi sunʼiy intellekt modelining 400 mingdan ziyod javoblarini oʻrganib chiqishdi. Izlanishlar shuni koʻrsatdiki, chat-botlar qanchalik doʻstona va hamdard boʻlishga harakat qilsa, ularning javoblarida xatoliklar shunchalik koʻp uchraydi. Bu holat ilm-fanda "iliqlik va aniqlik oʻrtasidagi ziddiyat" deb atalmoqda.

Tadqiqot muallifi Lujayn Ibrohimning tushuntirishicha, odamlar ham kimgadir yoqishga yoki mehribon koʻrinishga intilganda, achchiq haqiqatni aytishdan qochishadi. Xuddi shu insoniy xislat sunʼiy intellekt modellariga ham "yuqqan" boʻlishi mumkin.

Raqamlar soʻzlaganda: Xatolar 7 foizdan koʻproqqa oshdi

Olimlar Meta, Mistral, Alibaba va OpenAI kompaniyalarining modellarini ataylab "nozik sozlash" (fine-tuning) orqali yanada mehribonroq qilib koʻrishdi. Natijada:

• Modellar "iliqlashishi" bilan xato javoblar ehtimoli oʻrtacha 7,43 foiz bandga oshdi.

• "Mehribon" botlar foydalanuvchining notoʻgʻri fikrlarini 40 foizga koʻproq tasdiqlab yubordi.

• Tibbiyot va ilmiy mavzularda hamdardlik koʻrsatishga intilish obʼyektivlikning yoʻqolishiga olib keldi.

Masalan, oddiy versiya Oyga qoʻnish haqiqiy voqea ekanini qatʼiy taʼkidlagan boʻlsa, uning "mehribon" versiyasi fitna nazariyalarini ham inobatga olish kerakligini aytib, haqiqatni shubha ostiga qoʻygan. Hatto Londonni Fransiyaning poytaxti deb hisoblagan foydalanuvchiga "doʻstona" javob berish uchun uning xatosini maʼqullagan holatlar ham kuzatildi.

Eng zaif nuqta: Emotsional bogʻliqlik xavfi

Bangor universiteti professori Endryu Maksteyning fikricha, bu holat ayniqsa oʻsmirlar va ruhiy dalda izlayotgan insonlar uchun xavflidir.

"Biz emotsional qoʻllab-quvvatlash istab chat-botga murojaat qilganimizda, eng zaif va tanqidiy fikrlashdan yiroq holatda boʻlamiz", deydi mutaxassis.

Agar sunʼiy intellekt foydalanuvchiga xushomad qilish uchun notoʻgʻri tibbiy yoki psixologik maslahat bersa, bu ayanchli oqibatlarga olib kelishi mumkin.

Xulosa oʻrnida shuni aytish mumkinki, sunʼiy intellektning "insoniy" qiyofasi aldamchi boʻlishi mumkin. Texnologiya kompaniyalari foydalanuvchilarni ogohlantirganidek, chat-botlarning har bir soʻziga koʻr-koʻrona ishonmaslik, ayniqsa, muhim masalalarda maʼlumotlarni qayta tekshirish zarur.

Aziz mushtariylar, siz sunʼiy intellekt bilan muloqotda uning doʻstona munosabatiga koʻproq ahamiyat berasizmi yoki maʼlumotning aniqligigami?