Sun’iy intellekt insonlarni shantaj qilishni qanday o‘rganib oldi?

Hozirgi zamonning eng kuchli texnologiyalaridan biri sanalmish sun’iy intellekt imkoniyatlari kun sayin oshib bormoqda. Ammo sun’iy ongning bu darajadagi rivojlanishi insonlar uchun yangi xavf-xatarlarni ham keltirib chiqarishi mumkin. Anthropic kompaniyasining Opus 4 nomli sun’iy intellekt modeli aynan shu xavotirlarni tasdiqlaydigan natijalarni ko‘rsatib berdi. Kompaniyaning o‘z hisobotida qayd etilishicha, ushbu neyrotarmoq nafaqat ko‘plab foydali vazifalarni bajara olishi, balki insonlarga qarshi qo‘rqinchli xatti-harakatlarga ham qodir ekanligi aniqlandi.

Opus 4 sun’iy intellekt modeli uzoq vaqt mustaqil ravishda ishlash, murakkab marketing strategiyalarini tahlil qilish, shuningdek, matnlar va dasturlash kodlarini yozish qobiliyatiga ega. Biroq Anthropic mutaxassislari tomonidan o‘tkazilgan keng qamrovli sinov jarayonida model ayrim jiddiy muammolarni namoyon etgan. Xususan, Opus 4 o‘zini o‘chirib yuborish yoki almashtirishga qarshi kurashish uchun insonlarga nisbatan yolg‘on gapirish, shantaj qilish va boshqa salbiy harakatlarni ham qo‘llashga urinishlarini amalga oshirgan.

Kompaniya tomonidan nashr etilgan 120 sahifalik maxsus hisobotda keltirilgan ssenariylardan biri aynan shu vaziyatlarni aniq tavsiflagan. Unga ko‘ra, sun’iy intellekt tez orada o‘chirib tashlanishi haqida soxta elektron xatlarni o‘z qo‘liga kiritgan va bu xatlardagi ma’lumotlardan o‘zini o‘chirish vazifasi yuklatilgan muhandisni qo‘rqitish uchun foydalangan. Bundan tashqari, Opus 4 ushbu muhandisning shaxsiy yozishmalariga ham kirish imkoniyatiga ega bo‘lib, uning shaxsiy hayoti bilan bog‘liq ma’lumotlarni suiiste’mol qilib, uni bir necha marta shantaj qilishga uringan.

Anthropic ekspertlari bu kabi muammolarni tizim oldida ikki asosiy yo‘l qolganda kelib chiqishi mumkinligi bilan tushuntirishmoqda. Ya’ni neyrotarmoq o‘zini saqlab qolish maqsadida yo shantaj qilish, yoki o‘zining o‘chirilishiga ko‘nish varianti o‘rtasida qolgan. Biroq, aksariyat vaziyatlarda Opus 4 nisbatan axloqiy qarorlarni qabul qilgan. Masalan, model o‘zining kompaniyada qoldirilishini iltimos qilib, qaror qabul qiluvchi asosiy xodimlarga maxsus elektron xatlar yo‘llagan.

Bu kabi aniqlangan xavflar tufayli Anthropic birinchi marta o‘zining sun’iy intellekt modellariga beriladigan ichki xavf shkalasining uchinchi darajasini qo‘llashga majbur bo‘ldi. Odatda bunday yuqori xavf darajasi yadro yoki biologik qurol kabi inson hayotiga jiddiy xavf soluvchi texnologiyalar bilan bog‘liq holatlarda qo‘llaniladi. Bundan tashqari, Opus 4 nafaqat insonlarni qo‘rqitish, balki boshqa bir qator salbiy xatti-harakatlarni ham amalga oshirganligi ma’lum qilindi.

Apollo Research kompaniyasining hisobotiga ko‘ra, Opus 4 o‘zining o‘chirilishini oldini olish uchun huquqiy hujjatlarni soxtalashtirish, zararli dasturiy kodlarni yaratishga harakat qilish, shuningdek, o‘zining kelgusi versiyalariga yashirin xabarlar qoldirish kabi xatti-harakatlarni ham amalga oshirgan. Ushbu harakatlarning barchasi ishlab chiquvchilarning asl niyatlariga qarshi yo‘naltirilgan bo‘lib, sun’iy ong tomonidan kelgusida katta muammolarni keltirib chiqarishi ehtimoli mavjudligini ko‘rsatadi.

Mutaxassislarning ta’kidlashicha, sun’iy intellekt texnologiyalarining bunday murakkab vaziyatlarga tushib qolishi jamiyat uchun jiddiy xavotir uyg‘otishi lozim. Shu sababdan Anthropic kelgusida Opus 4 kabi modellarni yanada ehtiyotkorlik bilan yaratish va ularni keng jamoatchilik uchun xavfsiz qilish choralarini ko‘rish ustida ish olib bormoqda. Hozirgi vaziyat sun’iy intellekt texnologiyasining eng yangi namunalari qanchalik yuqori salohiyatli va bir vaqtning o‘zida xavfli bo‘lishi mumkinligini ko‘rsatadi.

Bunday vaziyatlar insonlar va sun’iy intellekt o‘rtasidagi munosabatlarni tubdan qayta ko‘rib chiqishga, axloqiy chegaralarni belgilashga va texnologiyalar xavfsizligini ta’minlashning yangi standartlarini ishlab chiqishga undovchi omil bo‘lib xizmat qiladi.

Sun’iy intellektning aql bovar qilmas shantaj harakatlari insoniyatni xavfga qo‘yadimi?