Anthropic xavfsizlik haqidagi ogohlantirishlari sababli eng kuchli AI modellarini oʻchirdi

AQSH hukumati juma kuni Anthropic kompaniyasiga milliy xavfsizlik nuqtayi nazaridan oʻzining eng kuchli ikki sunʼiy intellekt modeli — Claude Fable 5 va Claude Mythos 5 modellariga kirishni zudlik bilan toʻxtatishni buyurdi. Anthropic oʻzining X sahifasida ushbu buyruqqa amal qilganini, biroq hukumatning bu qarori notoʻgʻri ekanini maʼlum qildi. Koʻrsatma nafaqat xorijiy fuqarolar, balki butun dunyo boʻylab barcha foydalanuvchilar uchun ushbu modellarni bloklashni talab qiladi. Bu haqda Techcrunch.com xabar beradi.

Mythos modeli Anthropic kompaniyasining eng ilgʻor ishlanmasi boʻlib, u dasturiy taʼminotlardagi zaifliklarni topishda favqulodda qobiliyatga ega. Shu sababli kompaniya uni ommaga chiqarmasdan, faqat Amazon, Apple, Google, Microsoft va CrowdStrike kabi 50 ta saralangan tashkilotlarga kiberxavfsizlikni himoya qilish maqsadida taqdim etgan edi. Fable 5 esa Mythos asosida yaratilgan, ammo kiberxavfsizlik va biologiya kabi xavfli sohalarda cheklovlarga ega boʻlgan ommaviy versiya edi.

Hukumat qaroriga Fable 5 modelidagi xavfsizlik tizimini chetlab oʻtish (jailbreak) imkoniyati topilgani sabab boʻlgani aytilmoqda. Anthropic esa bu kabi imkoniyatlar OpenAI tomonidan taqdim etilgan GPT-5.5 kabi boshqa ommaviy modellarda ham mavjudligini va bu kiberxavfsizlik mutaxassislari uchun odatiy hol ekanini taʼkidlamoqda. Kompaniya oʻzining xavfsizlik tizimlari mustaqil klassifikatorlar orqali ishlashini va real xavfli kontent yaratilmaganini daʼvo qilmoqda.

Anthropic vakillari hukumatning ushbu harakatidan norozi ekanliklarini yashirmadilar. Ularning fikricha, agar bunday qatʼiy standartlar butun sohaga tatbiq etilsa, bu barcha yangi sunʼiy intellekt modellarini ishga tushirishni toʻxtatib qoʻyishi mumkin. Joriy yilda IPO oʻtkazishni rejalashtirayotgan kompaniya uchun bu kutilmagan zarba boʻldi.

Kuzatuvchilar Anthropic kompaniyasining oʻz modellarini oʻta xavfli deb reklama qilgani oxir-oqibat oʻziga qarshi ishlaganini qayd etishmoqda. OpenAI rahbari Sam Altman avvalroq Anthropic’ning bu yondashuvini “qoʻrquvga asoslangan marketing” deb atagan edi. Endilikda kompaniyaning aynan shu ehtiyotkorligi hukumatning jiddiy nazoratiga va biznes faoliyatining cheklanishiga sabab boʻldi.