AQSH hukumati va Anthropic kelisha olmadi: Claude Fable 5 modeli cheklov ostida qoldi

AQSH maʼmuriyati va sunʼiy intellekt sohasidagi yetakchi kompaniyalardan biri Anthropic oʻrtasida boʻlib oʻtgan muzokaralar natijasiz yakunlandi. Vashingtonda oʻtkazilgan uchrashuvda tomonlar Claude Fable 5 yangi modeli boʻyicha bir toʻxtamga kela olishmadi. Natijada, kiberxavfsizlikka oid xavotirlar sababli ushbu modelga nisbatan joriy etilgan eksport cheklovlari oʻz kuchida qoladigan boʻldi. Bu haqda Ixbt.com xabar beradi.

Muzokaralarda AQSH Savdo vazirligi, Milliy kiberxavfsizlik direktori idorasi hamda Sunʼiy intellekt xavfsizligi institutining vakillari ishtirok etdi. Anthropic tomonidan esa kompaniya asoschilaridan biri Tom Braun va xavfsizlik masalalari boʻyicha yetakchi tadqiqotchi Nikolas Karlini qatnashgan boʻlsa-da, hukumat rasmiylarini modelning toʻliq xavfsiz ekanligiga ishontirishning imkoni boʻlmadi. Hatto Savdo vaziri Govard Lyutnik ham masofadan turib muloqotga qoʻshilgani masalaning naqadar jiddiy ekanidan dalolat beradi.

Xavfsizlik tizimidagi zaifliklar va kiberxavf

Asosiy kelishmovchilik Claude Fable 5 modelining "jeylbreyk" (jailbreak) qilinishi, yaʼni maxsus soʻrovlar orqali oʻrnatilgan xavfsizlik toʻsiqlarini chetlab oʻtish ehtimoli bilan bogʻliq. AQSH hukumati tahlillariga koʻra, ushbu model asos qilib olingan Mythos tizimining yashirin va kengaytirilgan imkoniyatlariga ruxsatsiz kirish xavfi mavjud. Bu esa kiberhujumlar yoki xavfli maʼlumotlarni generatsiya qilishda qoʻllanilishi mumkin.

AQSH Milliy xavfsizlik agentligi (NSA) tomonidan oʻtkazilgan audit natijalari modelning himoya mexanizmlari haqiqatan ham zaif ekanligini koʻrsatgan. Anthropic vakillari esa bu xavotirlar boʻrttirilganini va modelning real himoya darajasi ancha yuqori ekanini taʼkidlamoqda. Kompaniya pozitsiyasini bir guruh mustaqil ekspertlar ham qoʻllab-quvvatlab, hukumatga ochiq xat bilan murojaat qilishgan, ammo bu qarorga taʼsir qilmadi.

Sanoat uchun yangi pretsedent

Claude Fable 5 bilan bogʻliq ushbu vaziyat sunʼiy intellekt sanoati uchun muhim burilish nuqtasi boʻlishi kutilmoqda. Endilikda yirik laboratoriyalar oʻz mahsulotlarini bozorga chiqarishdan avval davlat regulyatorlari bilan yanada yaqinroq ishlashga majbur boʻladi. Bu texnologik erkinlik va davlat nazorati oʻrtasidagi muvozanatni tubdan oʻzgartirishi mumkin.

Hozircha Claude Fable 5 modelining keng ommaga taqdim etilishi va eksport qilinishi nomaʼlum muddatga qoldirildi. Anthropic uchun bu nafaqat texnologik, balki moliyaviy zarba hamdir, chunki investorlar kompaniyaning Pentagon bilan harbiy loyihalar boʻyicha davom etayotgan bahslari fonida ushbu yangi cheklovlarni xavotir bilan qarshi olmoqda. Model faqat barcha xavfsizlik kamchiliklari bartaraf etilgandagina isteʼmolchilarga qaytarilishi mumkin.