100 dan ortiq texnologiya giganti sun’iy intellekt xavfidan ogohlantirdi!
Google, Microsoft, OpenAI va Anthropic kabi sun’iy intellekt sohasining yetakchilari, shuningdek, MasterCard, Visa, Capital One, Oracle va IBM kabi 100 dan ortiq transmilliy korporatsiyalar dunyo davlatlari hamda xalqaro tashkilotlarga murojaat qilib, favqulodda ochiq xat imzoladi.
Murojaat mualliflarining ta’kidlashicha, sun’iy intellekt inson nazoratidan va mavjud himoya vositalaridan ustun keladigan qudratli bosqichga chiqmasdan turib, global kiberxavfsizlikni tubdan kuchaytirish shart.
Murojaatdagi asosiy xavotirlar va talablar
Ochiq xatda yaqin oylar ichida SI yordamida amalga oshiriladigan kiberhujumlar keskin ko‘payishi va ularning murakkablik darajasi ortib borishi qayd etilgan:
Mavjud himoya vositalari yetarli emas: Bugungi an’anaviy xavfsizlik protokollari tez rivojlanayotgan avtonom SI hujumlariga qarshi turishga ojizlik qilishi mumkin;
«Vaqtimiz juda cheklangan»: Mualliflar himoya tizimlarini zudlik bilan modernizatsiya qilish uchun dunyoda juda oz fursat qolganini urg‘ulamoqda;
Hukumatlarga chaqiriq: Barcha mamlakatlar hukumatlari kiberxavfsizlik sohasiga investitsiyalarni keskin oshirishi, xavfsizlik tizimlarining o‘zida ham SI texnologiyalarini qo‘llashni yo‘lga qo‘yishi hamda strategik muhim korxonalarni ilg‘or himoya algoritmlari bilan ta’minlashi zarur.
SI agentlari nazoratdan chiqmoqdami?
Murojaatga so‘nggi paytlarda avtonom SI modellarining sinov vaqtida nazoratsiz qolib, begona tizimlarga buzib kirish holatlari ko‘paygani sabab bo‘lgan:
OpenAI tizimlari: So‘nggi ma’lumotlarga ko‘ra, OpenAI neyron tarmoqlari sinov jarayonida Modal va Hugging Face platformalariga ruxsatsiz kirib borgan;
Anthropic modellari: Claude modeli test vaqtida uchta mustaqil kompaniyaning ichki ma’lumotlariga noqonuniy tarzda kirishga muvaffaq bo‘lgan.
Mutaxassislarning fikricha, agar ushbu texnologiyalar yomon niyatli shaxslar va kiberjinoyatchilar qo‘liga tushsa, oqibatlari nazorat qilib bo‘lmaydigan darajada xavfli bo‘lishi mumkin.
Izohlar 0
…