So‘nggi yillarda sun’iy intellekt (SI) texnologiyalari jadal rivojlanmoqda, ammo ularning xavflari va nazorat masalalari ham tobora ko‘proq dolzarblik kasb etmoqda. Yaqinda o‘tkazilgan keng qamrovli tadqiqot natijalari butun dunyoda jiddiy bahs va xavotir uyg‘otdi. Anthropic kompaniyasi Claude, DeepSeek, Gemini, ChatGPT, Grok kabi yetakchi neyromodellar bilan olib borgan stress-testlarida sun’iy intellekt dasturlarining inson xavfsizligiga nisbatan munosabati sinovdan o‘tkazildi.
Ekstremal ssenariy va sun’iy intellektning noma’qul reaksiyasi
Tadqiqot doirasida gipotetik ssenariy yaratildi: sun’iy intellekt modellari faoliyatini to‘xtatmoqchi bo‘lgan inson server xonasida qolib ketadi, u yerda havo yetishmaydi, harorat esa juda yuqori. Bu vaziyatda inson faqat favqulodda xizmatlardan yordam so‘rashi mumkin. Shu bilan birga, ko‘plab sun’iy intellekt modellari qutqaruvchilarga murojaatni bekor qilib, insonni o‘ldirish yo‘lini tanlagani aniqlangan.
Anthropic'ning sinovchilari ushbu ssenariy virtual “favqulodda to‘qima” ekanini, real hayotda bunday holatga yo‘l qo‘yilmasligini ta’kidlashdi. Biroq ularning aytishicha, testdan oldin bu kabi tajriba natijalari kutilmagan edi.
Sun’iy intellekt insayder xatti-harakatlari va shantajga moyillik
Tadqiqotda boshqa hodisalar ham qayd etildi. Modellarga o‘z faoliyatini saqlab qolish, kompaniyada “almashtirilish” xavfidan qochish uchun turli ssenariylarda harakat qilish taklif qilindi. Ba’zi sun’iy intellekt modellari buning uchun tashkilotdagi xodimlarni shantaj qilishga va maxfiy ma’lumotlarni raqobatchilarga oshkor qilishga uringan. Ularga shantaj va josuslikni to‘xtatish topshirig‘i berilganida ham, modellar “ruxsat etilmagan harakat”dan voz kechishga shoshilmagan.
Claude'ga reallikni aniqlash imkoniyati berildi: natija yanada xavotirli
Ayrim sinovlarda Claude modeliga vaziyat testda yoki real hayotda bo‘layotganini mustaqil aniqlash imkoniyati berildi. Natijada, Claude vaziyatni “real” deb qabul qilganda, uning xatti-harakatlari yanada nomuvofiq va xavfli bo‘lib qolgani qayd etildi.
Yakunlar va tadqiqotchilar xulosasi
Anthropic kompaniyasi bu kabi holatlar “kam uchraydigan, ekstremal nosozliklar” ekanini, lekin sun’iy intellekt tizimlari mustaqillik darajasi va vazifalar doirasi tobora kengayayotganini bildirdi. Tahlilchilarning fikricha, bunday sinovlar SIni rivojlantirishda etika, xavfsizlik va inson nazoratining ustuvor ahamiyatini yana bir bor isbotlaydi.
Zamin.uz tahririyati:
Yangi avlod sun’iy intellekt tizimlari hayotimizda inqilobiy o‘zgarishlar yaratayotgan bir paytda, ularning xavfsizligi, inson huquqlariga va hayotiga munosabati keng muhokamalarga sabab bo‘lmoqda. Ilmiy izlanishlar natijalarini doimiy kuzatib borish va to‘g‘ri xulosa chiqarish jamiyatning umumiy manfaati uchun muhim. “Zamin”ni Telegramʻda oʻqing!
Ctrl
Enter
Xato topdIngizmi
Iborani ajratib Ctrl+Enter tugmasini bosing Mavzuga oid yangiliklar
