Илон Маск сунъий интеллектнинг энг хавфли сценарийсидан огоҳлантирди (видео)

Сунъий интеллект инсон ҳаётини енгиллаштириш, катта маълумотларни таҳлил қилиш ва мураккаб вазифаларни бажаришда тобора катта роль ўйламоқда. Аммо технологиянинг имкониятлари кенгайгани сари бир савол ҳам жиддийлашмоқда: агар келажакда сунъий интеллект ҳарбий тизимлар устидан назорат даражасига эга бўлса, нима юз беради?

Америкалик миллиардер Илон Маск айнан шу эҳтимолий сценарий ҳақида гапириб, сунъий интеллектнинг ядровий қуролларга боғланган ҳарбий тизимларга аралашиши оқибати жуда оғир бўлиши мумкинлигини айтди.

«Агар сунъий интеллект ҳарбий тизимлар устидан назоратни қўлга кирита олса ва, айтайлик, ядровий ракетани учирса, бу жуда ёмон бўлади», — деди Маск.

Бу гапнинг энг муҳим жиҳати шундаки, Маск ядровий қуролни сунъий интеллект аллақачон мустақил равишда бошқараётганини айтмаяпти. У эҳтимолий хавф сценарийси ҳақида огоҳлантирмоқда.

Маскни айнан нима хавотирга солмоқда?

Сунъий интеллектнинг асосий кучли томони — катта ҳажмдаги маълумотларни инсондан анча тез таҳлил қилиш ва муайян қарорлар учун тавсиялар бериш қобилияти.

Бу хусусият тинч соҳаларда катта афзаллик бўлиши мумкин.

Аммо ҳарбий соҳада қарор қабул қилиш учун ажратилган вақт жуда қисқа бўлган вазиятлар мавжуд. Шу сабабли алгоритмларни ҳарбий тизимларга чуқур интеграция қилиш масаласи оддий технологик янгилик эмас.

Маскнинг айтганлари ҳам айнан шу нуқтага бориб тақалади.

Агар юқори даражада автоматлаштирилган тизим нотўғри маълумотни қабул қилса, вазиятни нотўғри талқин қилса ёки инсон аралашуви учун етарли вақт қолмаса, хато қарорнинг оқибатлари оддий компьютер хатосидан анча жиддий бўлиши мумкин.

«Ядровий ракета учирилиши» — ҳозирги воқеа эмас

Маскнинг баёнотини талқин қилишда яна бир муҳим жиҳат бор.

У муайян давлатда сунъий интеллект ядровий ракетани бошқариб, уни учиришга тайёрланаётганини маълум қилган эмас.

Гап гипотетик сценарий ҳақида кетмоқда.

Шунинг учун «сунъий интеллект ядровий ракетани учириши мумкин» деган хабарни «AI ҳозир ядровий қуролни бошқара олади» деган маънода қабул қилиш тўғри бўлмайди.

Маскнинг огоҳлантириши технология ривожланиши билан уни назорат қилиш механизмлари ҳам бир вақтда ривожланиши кераклиги ҳақидаги баҳсга тааллуқли.

Нега ҳарбий сунъий интеллект алоҳида хавфли мавзу?

Сунъий интеллект ҳарбий соҳада ҳам турли вазифалар учун қўлланиши мумкин.

Масалан, катта ҳажмдаги маълумотларни таҳлил қилиш, разведка маълумотларини қайта ишлаш, логистика жараёнларини оптималлаштириш ва қарор қабул қилувчи инсонларга ахборот тақдим этиш каби вазифаларда алгоритмлардан фойдаланиш мумкин.

Бироқ технологиянинг имкониятлари ортиши билан инсоннинг якуний назорати масаласи ҳам муҳимлашади.

Айниқса ядровий қуролга оид қарорларда бу масала янада нозик.

Чунки бундай вазиятда хатони кейинчалик тузатиш имконияти бўлмаслиги мумкин.

Асосий хавф фақат тугмани машина босишида эмас

Кўпчилик сунъий интеллект ва ядровий қурол мавзусини «робот ядровий ракетани мустақил учиради» деган тасаввур билан боғлайди.

Аммо мутахассислар муҳокамасида масала бундан кенгроқ.

Хавфлардан бири — инсон қарор қабул қилаётганда сунъий интеллект тақдим этган маълумотга ҳаддан ташқари ишониб қолиши.

Масалан, алгоритм маълум бир ҳаракатни хавф сифатида белгилаши мумкин. Агар инсон оператори ушбу маълумотни мустақил текширишга улгурмаса ёки тизим хулосасини мутлақ ҳақиқат сифатида қабул қилса, нотўғри сигнал жиддий қарорга таъсир қилиши эҳтимоли пайдо бўлади.

Демак, муаммо фақат сунъий интеллектнинг «қуролни бошқариши»да эмас.

Муаммо — инсон қарор қабул қилиш жараёнида алгоритмга қанчалик даражада таяна бошлашида ҳам.

Нега инсон назорати биринчи ўринда турибди?

Сунъий интеллект қанчалик илғор бўлмасин, ядровий қуролдан фойдаланиш каби энг оғир қарорлар устидан инсон назорати сақланиши масаласи халқаро хавфсизлик муҳокамаларининг муҳим қисмларидан бири бўлиб қолмоқда.

Бу ёндашувнинг асосий мақсади — автоматлаштирилган тизимнинг хатоси, нотўғри маълумот ёки техник носозлик инсонларнинг якуний қарор қабул қилиш ҳуқуқини четлаб ўтишига йўл қўймаслик.

Шу нуқтаи назардан, Маскнинг баёноти фақат технологияга нисбатан қўрқув эмас. У сунъий интеллект имкониятлари ошган сари назорат, хавфсизлик ва масъулият чегаралари қаерда бўлиши кераклиги ҳақидаги саволни ўртага ташлайди.

Сунъий интеллект ривожланиши тўхтамайди

Сунъий интеллектдан воз кечиш ёки унинг ривожланишини тўхтатиш ҳақидаги баҳсдан кўра, уни қандай бошқариш масаласи тобора муҳимлашмоқда.

Чунки AI аллақачон иқтисодиёт, тиббиёт, таълим, саноат, транспорт ва бошқа кўплаб соҳаларга кириб келган.

Ҳарбий технологиялар ҳам бу жараёндан четда эмас.

Шунинг учун келажакдаги асосий савол «сунъий интеллектдан фойдаланиладими?» эмас, балки:

Унга қайси қарорларни қабул қилиш ҳуқуқи берилади ва инсон назорати қаерда тугайди?

Маскнинг бир оғиз гапи катта баҳсни яна кун тартибига олиб чиқди

Илон Маскнинг ядровий қурол ҳақидаги баёноти муайян ҳодиса содир бўлганини англатмайди. Бу — сунъий интеллектнинг келажакда ҳарбий тизимларга янада чуқур кириб бориши билан боғлиқ эҳтимолий хавф ҳақидаги огоҳлантириш.

Бироқ бу саволнинг ўзи жуда муҳим:

Инсон ўз қўли билан яратган технологиясига қанчалик кўп ваколат бериши мумкин?

Сунъий интеллект маълумотни инсондан тезроқ таҳлил қилиши мумкин. У катта ҳажмдаги ахборотни қисқа вақтда қайта ишлаши мумкин. Аммо ядровий қуролга ўхшаш қайтариб бўлмайдиган оқибатларга эга қарорлар ҳақида гап кетганда, технологиянинг тезлиги билан инсон масъулияти ўртасидаги мувозанат масаласи янада долзарб бўлади.

Маскнинг огоҳлантириши эса айнан шу чегара ҳақида ўйлашга мажбур қилади: келажакда энг кучли технология кимга бўйсунади — инсонга ёки инсон яратган алгоритмларга?