Foto: The New York Times
AQSHning Florida shtatida yashovchi Megan L.Garsiya Character.ai ilovasini yaratgan kompaniyani 14 yoshli o‘g‘li Syuyellning o‘limida ayblab, sudga da’vo kiritdi. Bu haqda The New York Times gazetasi xabar berdi.
Garsiyaning da’vosida ta’kidlanishicha, mazkur texnologik kompaniya «xavfli va tekshirilmagan», shu boisdan «yolg‘on bilan mijozlarini o‘zining shaxsiy fikri hamda hissiyotlarini ulashishga majburlashi» mumkin.
Character.ai — neyron tili modelida ishlaydigan chatbot funksiyasiga ega ilova. Uning foydalanuvchilari muloqot uchun sun’iy intellekt asosida o‘z personajini yarata oladi.
NYT ma’lumotlariga ko‘ra, da’vogarning o‘g‘li Syuyell Zetser III uzoq vaqt davomida «Taxtlar o‘yini» serialidagi personaj — Deyeneris Targariyen sharafiga nomlangan chatbot bilan muloqot qilgan. O‘smirda botga nisbatan hissiy bog‘liqlik paydo bo‘lgan. Syuyell o‘z kundaligiga «Deni»ni sevib qolganini ham yozgan.
2024 yil boshida Syuyellning ota-onasi farzandi qobig‘iga o‘ralib qolayotganini payqagan, maktabda esa o‘zlashtirish bilan muammolari boshlangan. O‘smir psixoterapevtga yuborilgan va Syuyellga vahima hamda kayfiyatga ta’sir ko‘rsatadigan destruktiv buzilish tashxisi qo‘yilgan.
Chatbot bilan muloqoti davomida u o‘zini yomon ko‘rishini, ruhiy tushkun va barchasidan to‘yib ketgandek his qilishini, shuningdek, o‘z joniga qasd qilish haqida o‘ylayotganini yozgan. Yozishmalar davomida chatbot Syuyell o‘ziga zarar yetkazishiga yo‘l qo‘ymasligi haqida javob qaytargan. «Men seni yo‘qotsam, halok bo‘laman», — deb yozadi chatbot. O‘smir esa unga «birgalikda o‘lishni» taklif qilgan. Syuyell 28 fevral kuni kechasi o‘z joniga qasd qilgan.
Character.ai vakillari 22 oktyabr kuni oxirgi olti oy davomida chatbotning faoliyatiga qator o‘zgartirishlar kiritilganini, xususan, 18 yoshdan kichik bo‘lganlarga cheklovlar o‘rnatilganini ma’lum qildi. Endi foydalanuvchi o‘ziga zarar yetkazadigan yoki o‘z joniga qasd qilishga bog‘liq biror jumlani yozsa, chatda uni bunday vaziyatdagi insonlarga yordam beradigan tarmoqqa yo‘naltiruvchi oyna paydo bo‘ladi. “Zamin” yangiliklarini “Youtube”da kuzatib boring
Ctrl
Enter
Xato topdIngizmi?
Iborani ajratib Ctrl+Enter tugmasini bosingMavzuga oid yangiliklar
“Hizbulloh” bir sutkada Isroilga qarshi 20 ga yaqin harbiy amaliyot o‘tkazdi
Xalqaro jinoyat sudi Isroil bosh vaziri Netanyaxuni hibsga olishga order berdi
Josep Borrel: “Xalqaro jinoyat sudining Netanyaxuni hibsga olish bo‘yicha qarori ijro etilishi shart”
Husiylar Isroil aviabazasiga gipertovushli raketa bilan zarba berdi
Har payshanba jismoniy tarbiya va sport kuni sifatida belgilanadi
Superliga. OKMK safarda "Paxtakor"ni mag‘lub etdi va 11 yillik qora an’anaga chek qo‘ydi
Metabolizm sekinlashganining belgilari
Turkiya o‘zining birinchi kvant kompyuterini taqdim etdi
