Kiberxavfsizlik boʻyicha mutaxassislar Anthropic kompaniyasining Fable modelidan norozi

Seshanba kuni Anthropic kompaniyasi oʻzining shov-shuvlarga sabab boʻlgan Mythos kiberxavfsizlik modelining ommaviy va cheklangan versiyasi — Fable modelini taqdim etdi. Biroq, yangi modeldagi qatʼiy cheklovlar kiberxavfsizlik tadqiqotchilari va soha mutaxassislarining keskin eʼtirozlariga sabab boʻlmoqda. Bu haqda Techcrunch.com xabar beradi.

IBM X-Force tadqiqotchisi Valentina “Chompie” Palmiottiʼning taʼkidlashicha, Fable kiberxavfsizlikka hatto bilvosita aloqador boʻlgan har qanday soʻrovni, jumladan, oddiy blog postlarini oʻqish kabi zararsiz vazifalarni ham rad etmoqda. Xavfsizlik choralari ishga tushganda, model chatni toʻxtatib, xabar kiberxavfsizlik yoki biologiya mavzulari bilan bogʻliqligi sababli bloklanganini maʼlum qiladi.

Anthropic ushbu cheklovlarni zararli dasturlar yaratish yoki biologik qurollar ishlab chiqish xavfini kamaytirish maqsadida joriy qilgan. Kompaniya aprel oyida Mythos modelini chiqarganida, undan foydalanish huquqini Project Glasswing doirasida faqat sanoqli tashkilotlarga bergan edi. Oʻtgan haftada esa ushbu modeldan foydalanish imkoniyati 15 ta davlatdagi yuzlab tashkilotlar uchun kengaytirildi.

Ekspertlarning fikricha, Fable modelidagi cheklovlar tizimi kalit soʻzlarga asoslangan boʻlib, u koʻpincha xavfsiz kod yozish soʻrovlarini ham notoʻgʻri talqin qilmoqda. Masalan, kiberxavfsizlik faxriysi Matt Suicheʼning aytishicha, tizim dasturiy muhandislikning eng yaxshi amaliyotlarini kiberhujum bilan adashtirib yubormoqda va natijada foydalanuvchini avtomatik ravishda Claude Opus 4.8 modeliga oʻtkazib qoʻymoqda.

Hozircha Anthropic ushbu tanqidlarga rasmiy munosabat bildirmadi. Mutaxassislar model hali dastlabki bosqichda ekanligini va vaqt oʻtishi bilan kiberxavfsizlik kompaniyalari bilan hamkorlikda ushbu “toʻsiqlar” yumshatilishiga umid qilishmoqda.