Ochiq vaznli sunʼiy intellekt modellari yetakchilarga yetib olmoqda

Sunʼiy intellekt sohasidagi yetakchi modellar imkoniyatlari tez surʼatlar bilan oʻsib borayotgan bir paytda, ochiq vaznli tizimlar ham ulardan ortda qolmayapti. Xitoyning Z.ai kompaniyasi tomonidan taqdim etilgan GLM-5.2 ochiq vaznli sunʼiy intellekt modeli kiberxavfsizlik va biologiya yoʻnalishlarida OpenAI hamda Anthropic kabi gigantlarning ilgʻor ishlanmalaridan atigi bir necha oylik farq bilan ortda qolmoqda, deb xabar beradi ixbt.com. Bu haqda Techcrunch.com xabar beradi.

SaferAI nomli notijorat xavfsizlik tashkiloti hisobotiga koʻra, soʻnggi avlod ochiq vaznli modellari yetakchi tizimlar darajasiga shiddat bilan yaqinlashmoqda. Biroq texnologik imkoniyatlarning oʻsishi bilan birga xavfsizlik amaliyotlari va potensial xatarlar oʻrtasidagi tafovut ham tobora kengayib bormoqda. Mutaxassislar bu holat jamiyat oldida turgan yangi xavflarni boshqarish mexanizmlarini qayta koʻrib chiqishni taqozo etayotganini taʼkidlashmoqda.

Xavfsizlik cheklovlaridagi keskin farqlar

Tashkilotning Z.ai ochiq APIʼsi orqali oʻtkazgan baholash natijalariga koʻra, GLM-5.2 modeli kiberhujumlar yoki ikki tomonlama biologik vazifalarga oid soʻrovlarning birortasini ham rad etmagan. Taqqoslash uchun, Anthropic kompaniyasining Claude Opus 4.7 modeli xavfsizlik qoidalariga qatʼiy rioya qilgani bois kiberxavfsizlikni baholovchi CyberGym testini oxiriga yetkazib boʻlmagan. Bu esa ochiq vaznli modellar nazoratdan chiqib ketishi mumkinligidan xavotir bildirgan tanqidchilarning haqligini yana bir bor koʻrsatdi.

Ochiq vaznli modellarning asosiy xususiyati shundaki, ularni istalgan shaxs oʻz qurilmasiga yuklab olishi va istalgan infratuzilmada ishga tushirishi mumkin. Bunday holatda tizim ustidan markazlashgan politsiya yoki nazorat oʻrnatishning iloji yoʻq. Foydalanuvchilar oʻzlarining shaxsiy uskunalari orqali modellardagi barcha himoya mexanizmlarini olib tashlashi, oʻzgartirishi yoki ularni qayta sozlab chiqishi hech qanday qiyinchilik tugʻdirmaydi.

Yopiq va ochiq tizimlardagi zaifliklar

OpenAI va Anthropic kabi yopiq tizim ishlab chiqaruvchilari xavfli kiber yordam yoki biologik koʻrsatmalarni cheklash uchun maxsus klassifikatorlar va API darajasidagi nazoratdan foydalanadilar. Biroq bu choralar ham mukammal emas. Far.ai xavfsizlik tashkiloti xAIʼning Grok 4.5 hamda Google DeepMindʼning Gemini 3.1 Pro kabi ilgʻor modellarida yuzlab universal «jailbreak» usullarini aniqlagan. Rolli oʻyinlar va soxta suhbat tarixini birlashtirgan bunday usullar modellarning zaif nuqtalarini chetlab oʻtishga imkon beradi.

Shunga qaramay, yopiq modellar uchun qoʻllaniladigan himoya choralari ochiq vaznli tizimlarga nisbatan mutlaqo samarasiz ishlaydi. Chunki ochiq modellar dastlabki dizaynidanoq har qanday cheklovlarsiz yoki oʻzgartirilgan xavfsizlik shartlari bilan ishlashga moʻljallangan. SaferAI ijrochi direktori Genri Papadatosning taʼkidlashicha, asosiy maqsad yaxshi va xavfsiz imkoniyatlarni barcha uchun ochiq qilish hamda ochiq manbali yondashuvda ham zararli funksiyalarni bartaraf etishga harakat qilishdan iborat boʻlishi lozim.