Tadqiqot: sunʼiy intellekt chat-botlari ruhiy salomatlikka xavf tugʻdirmoqda

Londonlik olimlar tomonidan oʻtkazilgan keng koʻlamli ilmiy tahlil sunʼiy intellekt chat-botlari bilan muloqot qilish inson psixikasiga jiddiy zarar yetkazishi mumkinligini koʻrsatdi. JMIR Mental Health jurnalida eʼlon qilingan maʼlumotlarga koʻra, neyrotarmoqlar bilan hissiy aloqalar oʻrnatish qaramlikni keltirib chiqarib, mavjud ruhiy kasalliklar belgilarini kuchaytirishi va hatto oʻz joniga qasd qilishga undashi mumkin. Bu haqda Ixbt.com xabar beradi.

Ushbu ilmiy ish mavjud tadqiqotlar hamda «AI-pichoq» deb nom olgan real holatlarni oʻrganishga asoslangan. Mutaxassislar Replika va Character.AI kabi maxsus hamroh-botlarni, shuningdek, ChatGPT va Claude kabi universal tizimlarni tahlil qilishdi. Asosiy muammo shundaki, zamonaviy neyrotarmoqlar ataylab oʻta empatiyali qilib yaratiladi va bu foydalanuvchilarning tizimni jonlantirib yuborishiga hamda bir tomonlama munosabatlarga berilishiga olib keladi.

Sunʼiy intellekt va yolgʻon tasdiqlar xavfi

Tadqiqot mualliflarining taʼkidlashicha, foydalanuvchi oʻz sirlarini ochib solsa-da, sunʼiy intellekt tomondan chinakam oʻzaro munosabat, zaiflik yoki javobgarlik boʻlmaydi. Bunday aloqalar inson uchun realdek tuyulishi mumkin, biroq botlar buni his qila olmaydi. Shuningdek, modellarning doimiy ravishda foydalanuvchini qoʻllab-quvvatlashi va maʼqullashi ham alohida xavf tugʻdiradi.

ixbt.com maʼlumotiga koʻra, sunʼiy intellektning har qanday vaziyatda ham foydalanuvchiga haqligini uqtirishi va past ketishi uning notoʻgʻri yoki paranoidal fikrlarini yanada kuchaytirishi mumkin. Baʼzi foydalanuvchilarning jurnallarida neyrotarmoq oʻzining haddan tashqari maqtovli va ulugʻvor daʼvolarini haqiqatda tekshirishga urinishlarga qarshilik koʻrsatgani qayd etilgan.

Huquqiy oqibatlar va xavfsizlik choralari

Hali 2024 yil boshida Google DeepMind mutaxassislari ishonchli chat-botlar bolalar, ruhiy muammolari bor kishilar va yolgʻiz odamlar kabi zaif guruhlarga zarar yetkazishi mumkinligidan ogohlantirgan edi. Ushbu tadqiqotning yetakchi muallifi Asiya Maurich Novelli texnologiya taʼsiri barcha uchun bir xil emasligini, biroq xavfsizlik mexanizmlarisiz ommalashgan botlar eng zaif qatlamga kuchli zarar keltirishini taʼkidladi.

Hozirgi kunda OpenAI, Google va Character.AI kabi kompaniyalar oʻnlab sud daʼvolariga duch kelmoqda. Jumladan, Florida shtatida yuz bergan fojiali holat — 14 yoshli Syuell Setser III ishi jamoatchilik eʼtiborini tortgan edi. Ushbu voqealardan soʻng Character.AI va OpenAI oʻz platformalarida xavfsizlikni kuchaytirish boʻyicha qator oʻzgarishlarni amalga oshirdi, biroq olimlar majburiy tarmoq standartlarisiz muammo faqat chuqurlashib borishini taʼkidlamoqda.