Ilon Mask sun’iy intellektning eng xavfli ssenariysidan ogohlantirdi (video)

Sun’iy intellekt inson hayotini yengillashtirish, katta ma’lumotlarni tahlil qilish va murakkab vazifalarni bajarishda tobora katta rol o‘ylamoqda. Ammo texnologiyaning imkoniyatlari kengaygani sari bir savol ham jiddiylashmoqda: agar kelajakda sun’iy intellekt harbiy tizimlar ustidan nazorat darajasiga ega bo‘lsa, nima yuz beradi?

Amerikalik milliarder Ilon Mask aynan shu ehtimoliy ssenariy haqida gapirib, sun’iy intellektning yadroviy qurollarga bog‘langan harbiy tizimlarga aralashishi oqibati juda og‘ir bo‘lishi mumkinligini aytdi.

«Agar sun’iy intellekt harbiy tizimlar ustidan nazoratni qo‘lga kirita olsa va, aytaylik, yadroviy raketani uchirsa, bu juda yomon bo‘ladi», — dedi Mask.

Bu gapning eng muhim jihati shundaki, Mask yadroviy qurolni sun’iy intellekt allaqachon mustaqil ravishda boshqarayotganini aytmayapti. U ehtimoliy xavf ssenariysi haqida ogohlantirmoqda.

Maskni aynan nima xavotirga solmoqda?

Sun’iy intellektning asosiy kuchli tomoni — katta hajmdagi ma’lumotlarni insondan ancha tez tahlil qilish va muayyan qarorlar uchun tavsiyalar berish qobiliyati.

Bu xususiyat tinch sohalarda katta afzallik bo‘lishi mumkin.

Ammo harbiy sohada qaror qabul qilish uchun ajratilgan vaqt juda qisqa bo‘lgan vaziyatlar mavjud. Shu sababli algoritmlarni harbiy tizimlarga chuqur integratsiya qilish masalasi oddiy texnologik yangilik emas.

Maskning aytganlari ham aynan shu nuqtaga borib taqaladi.

Agar yuqori darajada avtomatlashtirilgan tizim noto‘g‘ri ma’lumotni qabul qilsa, vaziyatni noto‘g‘ri talqin qilsa yoki inson aralashuvi uchun yetarli vaqt qolmasa, xato qarorning oqibatlari oddiy kompyuter xatosidan ancha jiddiy bo‘lishi mumkin.

«Yadroviy raketa uchirilishi» — hozirgi voqea emas

Maskning bayonotini talqin qilishda yana bir muhim jihat bor.

U muayyan davlatda sun’iy intellekt yadroviy raketani boshqarib, uni uchirishga tayyorlanayotganini ma’lum qilgan emas.

Gap gipotetik ssenariy haqida ketmoqda.

Shuning uchun «sun’iy intellekt yadroviy raketani uchirishi mumkin» degan xabarni «AI hozir yadroviy qurolni boshqara oladi» degan ma’noda qabul qilish to‘g‘ri bo‘lmaydi.

Maskning ogohlantirishi texnologiya rivojlanishi bilan uni nazorat qilish mexanizmlari ham bir vaqtda rivojlanishi kerakligi haqidagi bahsga taalluqli.

Nega harbiy sun’iy intellekt alohida xavfli mavzu?

Sun’iy intellekt harbiy sohada ham turli vazifalar uchun qo‘llanishi mumkin.

Masalan, katta hajmdagi ma’lumotlarni tahlil qilish, razvedka ma’lumotlarini qayta ishlash, logistika jarayonlarini optimallashtirish va qaror qabul qiluvchi insonlarga axborot taqdim etish kabi vazifalarda algoritmlardan foydalanish mumkin.

Biroq texnologiyaning imkoniyatlari ortishi bilan insonning yakuniy nazorati masalasi ham muhimlashadi.

Ayniqsa yadroviy qurolga oid qarorlarda bu masala yanada nozik.

Chunki bunday vaziyatda xatoni keyinchalik tuzatish imkoniyati bo‘lmasligi mumkin.

Asosiy xavf faqat tugmani mashina bosishida emas

Ko‘pchilik sun’iy intellekt va yadroviy qurol mavzusini «robot yadroviy raketani mustaqil uchiradi» degan tasavvur bilan bog‘laydi.

Ammo mutaxassislar muhokamasida masala bundan kengroq.

Xavflardan biri — inson qaror qabul qilayotganda sun’iy intellekt taqdim etgan ma’lumotga haddan tashqari ishonib qolishi.

Masalan, algoritm ma’lum bir harakatni xavf sifatida belgilashi mumkin. Agar inson operatori ushbu ma’lumotni mustaqil tekshirishga ulgurmasa yoki tizim xulosasini mutlaq haqiqat sifatida qabul qilsa, noto‘g‘ri signal jiddiy qarorga ta’sir qilishi ehtimoli paydo bo‘ladi.

Demak, muammo faqat sun’iy intellektning «qurolni boshqarishi»da emas.

Muammo — inson qaror qabul qilish jarayonida algoritmga qanchalik darajada tayana boshlashida ham.

Nega inson nazorati birinchi o‘rinda turibdi?

Sun’iy intellekt qanchalik ilg‘or bo‘lmasin, yadroviy quroldan foydalanish kabi eng og‘ir qarorlar ustidan inson nazorati saqlanishi masalasi xalqaro xavfsizlik muhokamalarining muhim qismlaridan biri bo‘lib qolmoqda.

Bu yondashuvning asosiy maqsadi — avtomatlashtirilgan tizimning xatosi, noto‘g‘ri ma’lumot yoki texnik nosozlik insonlarning yakuniy qaror qabul qilish huquqini chetlab o‘tishiga yo‘l qo‘ymaslik.

Shu nuqtayi nazardan, Maskning bayonoti faqat texnologiyaga nisbatan qo‘rquv emas. U sun’iy intellekt imkoniyatlari oshgan sari nazorat, xavfsizlik va mas’uliyat chegaralari qayerda bo‘lishi kerakligi haqidagi savolni o‘rtaga tashlaydi.

Sun’iy intellekt rivojlanishi to‘xtamaydi

Sun’iy intellektdan voz kechish yoki uning rivojlanishini to‘xtatish haqidagi bahsdan ko‘ra, uni qanday boshqarish masalasi tobora muhimlashmoqda.

Chunki AI allaqachon iqtisodiyot, tibbiyot, ta’lim, sanoat, transport va boshqa ko‘plab sohalarga kirib kelgan.

Harbiy texnologiyalar ham bu jarayondan chetda emas.

Shuning uchun kelajakdagi asosiy savol «sun’iy intellektdan foydalaniladimi?» emas, balki:

Unga qaysi qarorlarni qabul qilish huquqi beriladi va inson nazorati qayerda tugaydi?

Maskning bir og‘iz gapi katta bahsni yana kun tartibiga olib chiqdi

Ilon Maskning yadroviy qurol haqidagi bayonoti muayyan hodisa sodir bo‘lganini anglatmaydi. Bu — sun’iy intellektning kelajakda harbiy tizimlarga yanada chuqur kirib borishi bilan bog‘liq ehtimoliy xavf haqidagi ogohlantirish.

Biroq bu savolning o‘zi juda muhim:

Inson o‘z qo‘li bilan yaratgan texnologiyasiga qanchalik ko‘p vakolat berishi mumkin?

Sun’iy intellekt ma’lumotni insondan tezroq tahlil qilishi mumkin. U katta hajmdagi axborotni qisqa vaqtda qayta ishlashi mumkin. Ammo yadroviy qurolga o‘xshash qaytarib bo‘lmaydigan oqibatlarga ega qarorlar haqida gap ketganda, texnologiyaning tezligi bilan inson mas’uliyati o‘rtasidagi muvozanat masalasi yanada dolzarb bo‘ladi.

Maskning ogohlantirishi esa aynan shu chegara haqida o‘ylashga majbur qiladi: kelajakda eng kuchli texnologiya kimga bo‘ysunadi — insonga yoki inson yaratgan algoritmlarga?