SI xatosi sabab AQSH Xitoy kemasiga hujum qilishga shaylandi: Urush chiqishiga bir baxya qoldi

Dunyo ikki yirik superdavlat — AQSH va Xitoy o‘rtasidagi to‘g‘ridan to‘g‘ri qurolli to‘qnashuv hamda ehtimoliy yadroviy urush yoqasidan qaytdi. Bunga sabab esa inson omili emas, balki sun’iy intellektning xato xulosasi («gallyutsinatsiyasi») bo‘ldi. Amerikaning mashhur CNN telekanali o‘tkazgan sensatsion jurnalistik surishtiruvga ko‘ra, voqea bahor oylarida yuz bergan: SI yordamida tayyorlangan maxfiy hisobotda Yaqin Sharqda suzib yurgan Xitoy kemasi bortida go‘yoki yadroviy qurol dasturiga tegishli komponentlar olib ketilayotgani haqida yolg‘on xulosa berilgan.

Ushbu mashina tahliliga asoslangan Pentagon zudlik bilan kemani kuch ishlatib qo‘lga olish bo‘yicha maxsus operatsiyaga start bergan: qurollangan maxsus bo‘linmalar abordajga tayyorlangan, AQSH harbiy samolyotlari esa havoga ko‘tarilgan. Faqatgina operatsiya boshlanishiga sanoqli daqiqalar qolganda, rasmiylar hisobotni qo‘lda qayta tekshirib, dahshatli haqiqatni aniqladilar: hujjatni oddiy harbiy tahlilchi SI chat-boti orqali tayyorlagan va bot kema manifestini mutlaqo noto‘g‘ri talqin qilgan bo‘lib chiqdi. Razvedka tizimidagi manbalardan biri ushbu hujjatni «mutlaqo soxta va yolg‘on» deb atab, u «urush boshlanishiga bir baxya qoldirganini» ta’kidladi.

Xo‘sh, algoritm qanday qilib bunday halokatli xatoga yo‘l qo‘ydi, nega amerikalik tahlilchilar chat-botga ko‘r-ko‘rona ishondi va harbiy qarorlar qabul qilishda sun’iy intellektdan foydalanish insoniyatni qanday xavf ostiga qo‘ymoqda?

«Maxsus kuchlar shay holatda va samolyotlar osmonda»: Bekor qilingan hujum xronikasi

CNN manbalari tomonidan oshkor qilingan o‘ta xavfli hodisa tafsilotlari:

• Soxta yadroviy xavf: Sun’iy intellekt tizimi kema hujjatlarini o‘rganib, Xitoy kemasi Yaqin Sharqqa yadroviy qurol qismlarini tashimoqda degan yanglish xulosa chiqargan;

• Birinchi darajali jangovar shaylik: AQSH harbiy qo‘mondonligi kemani to‘xtatish va bortiga bostirib kirish bo‘yicha operatsiyani amalga oshirishga buyruq bergan: qiruvchi samolyotlar havoga ko‘tarilgan;

• So‘nggi lahzadagi tekshiruv: Kuch ishlatishga sanoqli daqiqalar qolganda yuqori martabali mutasaddilar ma’lumotlarni qayta tekshirib, hisobot xodim tomonidan emas, chat-bot tomonidan yaratilganini fosh etgan;

• Rasmiy tan olish: AQSH razvedkasining yuqori martabali vakillaridan biri bu haqda ochiq aytdi: «Hisobot yuz foiz yolg‘on edi, biroq u deyarli haqiqiy urushni boshlab yuborayozdi».

«Sirli hujjatlar internet ma’lumotlariga aralashib ketgan»: Xato qanday yuz berdi?

Yolg‘on harbiy razvedka ma’lumotining shakllanish zanjiri:

• Gavayidagi so‘rov: AQSHning Tinch okeani qo‘mondonligi tahlilchisi radioelektron razvedka orqali qo‘lga kiritilgan kema manifesti ma’lumotlarini SI algoritmiga yuklab, tahlil qilishni so‘ragan;

• Ma’lumotlar qorishuvi: Chat-bot yopiq maxfiy manbalarni internetdagi ochiq va tekshirilmagan xabarlar bilan aralashtirib yuborib, haqiqatga to‘g‘ri kelmaydigan dahshatli xulosa yasagan;

• Tayyor hisobot ko‘rinishi: Bot ushbu ma’lumotlarni standart harbiy razvedka hisoboti shaklida chiqarib bergan va bu qog‘oz to‘g‘ridan to‘g‘ri yuqori qo‘mondonlik stoliga yo‘l olgan;

• Dastur siri: Hozirgacha ushbu tahlilchi Pentagonning yopiq harbiy tizimidan foydalanganmi yoki ommaviy tijoriy chat-botdanmi — bunisi oshkor qilinmayapti.

«SI xato g‘oyalar tezligini oshiradi»: Harbiy ekspertlar xavotiri

Mutaxassislarning sun’iy intellektni harbiy sohaga integratsiya qilish bo‘yicha xulosalari:

• Tezlik bosimi va yosh kadrlar: Qo‘mondonlik tomonidan ma’lumotlarni tezroq tahlil qilish talabi qo‘yilgani sababli, ayniqsa yosh xodimlar og‘ir tahliliy mehnat o‘rniga neyrotarmoqlarga ko‘r-ko‘rona ishonib qolmoqda;

• Xavfli iqtibos: CNN suhbatdoshlaridan biri holatni shunday izohladi: «Sun’iy intellekt sizni yomon va halokatli g‘oyaga tezroq yetib borishingizga yordam beradi»;

• Qaytarib bo‘lmas javob zarbasi xavfi: Agar Xitoy kemasiga qarshi haqiqiy hujum amalga oshirilganida, rasmiy Pekin buni urush e’lon qilish sifatida qabul qilib, harbiy javob qaytarishi muqarrar edi.

Ushbu hodisa sun’iy intellektning oddiy bir texnik xatosi va insonning beparvoligi butun sayyorani halokatli geosiyosiy urush girdobiga tortib ketishi mumkinligini ko‘rsatgan eng katta dars bo‘ldi.

Sizningcha, insonlar taqdiri va harbiy operatsiyalar bo‘yicha qaror qabul qilishda generativ sun’iy intellektdan foydalanishga xalqaro darajada qat’iy taqiq qo‘yilishi kerakmi? SI algoritmlariga yadroviy xavfsizlikni ishonib bo‘ladimi? O‘z tahliliy fikr-mulohazalaringizni izohlarda qoldiring va texnologiyalar xavfi haqidagi ushbu shov-shuvli tahlilni barcha do‘stlaringiz hamda yaqinlaringizga ulashing!