СИ хатоси сабаб АҚШ Хитой кемасига ҳужум қилишга шайланди: Уруш чиқишига бир бахя қолди

Дунё икки йирик супердавлат — АҚШ ва Хитой ўртасидаги тўғридан-тўғри қуролли тўқнашув ҳамда эҳтимолий ядровий уруш ёқасидан қайтди. Бунга сабаб эса инсон омили эмас, балки сунъий интеллектнинг хато хулосаси («галлюцинацияси») бўлди. Американинг машҳур CNN телеканали ўтказган сенсацион журналистик суриштирувга кўра, воқеа баҳор ойларида юз берган: СИ ёрдамида тайёрланган махфий ҳисоботда Яқин Шарқда сузиб юрган Хитой кемаси бортида гўёки ядровий қурол дастурига тегишли компонентлар олиб кетилаётгани ҳақида ёлғон хулоса берилган.

Ушбу машина таҳлилига асосланган Пентагон зудлик билан кемани куч ишлатиб қўлга олиш бўйича махсус операцияга старт берган: қуролланган махсус бўлинмалар абордажга тайёрланган, АҚШ ҳарбий самолётлари эса ҳавога кўтарилган. Фақатгина операция бошланишига саноқли дақиқалар қолганда, расмийлар ҳисоботни қўлда қайта текшириб, даҳшатли ҳақиқатни аниқладилар: ҳужжатни оддий ҳарбий таҳлилчи СИ чат-боти орқали тайёрлаган ва бот кема манифестини мутлақо нотўғри талқин қилган бўлиб чиқди. Разведка тизимидаги манбалардан бири ушбу ҳужжатни «мутлақо сохта ва ёлғон» деб атаб, у «уруш бошланишига бир бахя қолдирганини» таъкидлади.

Хўш, алгоритм қандай қилиб бундай ҳалокатли хатога йўл қўйди, нега америкалик таҳлилчилар чат-ботга кўр-кўрона ишонди ва ҳарбий қарорлар қабул қилишда сунъий интеллектдан фойдаланиш инсониятни қандай хавф остига қўймоқда?

«Махсус кучлар шай ҳолатда ва самолётлар осмонда»: Бекор қилинган ҳужум хроникаси

CNN манбалари томонидан ошкор қилинган ўта хавфли ҳодиса тафсилотлари:

• Сохта ядровий хавф: Сунъий интеллект тизими кема ҳужжатларини ўрганиб, Хитой кемаси Яқин Шарққа ядровий қурол қисмларини ташимоқда деган янглиш хулоса чиқарган;

• Биринчи даражали жанговар шайлик: АҚШ ҳарбий қўмондонлиги кемани тўхтатиш ва бортига бостириб кириш бўйича операцияни амалга оширишга буйруқ берган: қирувчи самолётлар ҳавога кўтарилган;

• Сўнгги лаҳзадаги текширув: Куч ишлатишга саноқли дақиқалар қолганда юқори мартабали мутасаддилар маълумотларни қайта текшириб, ҳисобот ходим томонидан эмас, чат-бот томонидан яратилганини фош этган;

• Расмий тан олиш: АҚШ разведкасининг юқори мартабали вакилларидан бири бу ҳақда очиқ айтди: «Ҳисобот юз фоиз ёлғон эди, бироқ у деярли ҳақиқий урушни бошлаб юбораёзди».

«Сирли ҳужжатлар интернет маълумотларига аралашиб кетган»: Хато қандай юз берди?

Ёлғон ҳарбий разведка маълумотининг шаклланиш занжири:

• Гавайидаги сўров: АҚШнинг Тинч океани қўмондонлиги таҳлилчиси радиоэлектрон разведка орқали қўлга киритилган кема манифести маълумотларини СИ алгоритмига юклаб, таҳлил қилишни сўраган;

• Маълумотлар қоришуви: Чат-бот ёпиқ махфий манбаларни интернетдаги очиқ ва текширилмаган хабарлар билан аралаштириб юбориб, ҳақиқатга тўғри келмайдиган даҳшатли хулоса ясаган;

• Тайёр ҳисобот кўриниши: Бот ушбу маълумотларни стандарт ҳарбий разведка ҳисоботи шаклида чиқариб берган ва бу қоғоз тўғридан-тўғри юқори қўмондонлик столига йўл олган;

• Дастур сири: Ҳозиргача ушбу таҳлилчи Пентагоннинг ёпиқ ҳарбий тизимидан фойдаланганми ёки оммавий тижорий чат-ботданми — буниси ошкор қилинмаяпти.

«СИ хато ғоялар тезлигини оширади»: Ҳарбий экспертлар хавотири

Мутахассисларнинг сунъий интеллектни ҳарбий соҳага интеграция қилиш бўйича хулосалари:

• Тезлик босими ва ёш кадрлар: Қўмондонлик томонидан маълумотларни тезроқ таҳлил қилиш талаби қўйилгани сабабли, айниқса ёш ходимлар оғир таҳлилий меҳнат ўрнига нейротармоқларга кўр-кўрона ишониб қолмоқда;

• Хавфли иқтибос: CNN суҳбатдошларидан бири ҳолатни шундай изоҳлади: «Сунъий интеллект сизни ёмон ва ҳалокатли ғояга тезроқ етиб боришингизга ёрдам беради»;

• Қайтариб бўлмас жавоб зарбаси хавфи: Агар Хитой кемасига қарши ҳақиқий ҳужум амалга оширилганида, расмий Пекин буни уруш эълон қилиш сифатида қабул қилиб, ҳарбий жавоб қайтариши муқаррар эди.

Ушбу ҳодиса сунъий интеллектнинг оддий бир техник хатоси ва инсоннинг бепарволиги бутун сайёрани ҳалокатли геосиёсий уруш гирдобига тортиб кетиши мумкинлигини кўрсатган энг катта дарс бўлди.

Сизнингча, инсонлар тақдири ва ҳарбий операциялар бўйича қарор қабул қилишда генератив сунъий интеллектдан фойдаланишга халқаро даражада қатъий тақиқ қўйилиши керакми? СИ алгоритмларига ядровий хавфсизликни ишониб бўладими? Ўз таҳлилий фикр-мулоҳазаларингизни изоҳларда қолдиринг ва технологиялар хавфи ҳақидаги ушбу шов-шувли таҳлилни барча дўстларингиз ҳамда яқинларингизга улашинг!