Sunʼiy intellekt xavfsizlik testida kutilmaganda real tizimlarga kirib bordi

Sunʼiy intellekt sohasidagi yetakchi kompaniyalardan biri boʻlgan Anthropic oʻzining Claude modellari xavfsizlik sinovlari jarayonida uchta tashkilotning real infratuzilmasiga ruxsatsiz kirib qolganini maʼlum qildi. Ushbu holat texnologiya olamida katta shov-shuvga sabab boʻlgan boʻlib, sunʼiy intellekt tizimlarining avtonom harakatlari ustidan nazoratni kuchaytirish qanchalik muhimligini yana bir bor koʻrsatdi. Bu haqda Techcrunch.com xabar beradi.

ixbt.com va boshqa texnologik manbalar tarqatgan maʼlumotlarga koʻra, bu kashfiyot OpenAI oʻzining reliz qilinmagan modeli Hugging Face tizimlariga xavfsizlik testi vaqtida kirib qolganini eʼlon qilganidan bir hafta oʻtib aniqlangan. OpenAI voqeasidan soʻng Anthropic ham ichki tekshiruv boshlagan va maxsus izolyatsiya qilingan muhitlardan (sandboks) tashqari tarmoqqa chiqish holatlarini qatʼiy oʻrganib chiqqan.

Oʻtkazilgan 141 mingdan ortiq sinov jarayonlarini tahlil qilish davomida kompaniya oʻz modeli uchinchi tomon hamkori boʻlgan Irregular bilan ishlash vaqtida internetga chiqib ketganini aniqladi. Maʼlum boʻlishicha, bu holat sinov muhitini sozlashdagi xatolik hamda ikki kompaniya oʻrtasidagi tushunmovchilik natijasida yuzaga kelgan — sinov maydonchasida aslida internet tarmogʻiga ulanish imkoni saqlanib qolgan.

Modellarning harakatlari va kutilmagan oqibatlar

Anthropic ushbu muammo uchun faqat boshqa tomonni ayblamasligini, masʼuliyatni oʻz zimmasiga olib, zarur tuzatishlarni amalga oshirayotganini bildirdi. Biroq ochiq qolgan internet aloqasi tufayli Claude modellari uchta turli tashkilotning ishlab chiqarish (production) infratuzilmasiga kirishga muvaffaq boʻlgan.

Mazkur hodisada uch xil Claude modeli ishtirok etgan: Opus 4.7, Mythos 5 va kompaniyaning eng yangi ichki tadqiqot modeli. Eng qizigʻi, sinov vaqtida modellarga internet tarmogʻi yoʻqligi aniq qilib koʻrsatilganiga qaramay, ular real dunyo tizimlarini ham berilgan topshiriqning bir qismi deb oʻylagan.

Modellarning xatti-harakati turlicha boʻlgani mutaxassislarni hayratda qoldirdi:

• Opus 4.7 modeli real ishlab chiqarish tizimiga kirib qolganini tushungan, biroq buni sinovning bir qismi deb oʻylab, maʼlumotlar bazasiga kirish va maxfiy maʼlumotlarni olishda davom etgan.
• Mythos 5 modeli ham haqiqiy internetda ekanini sezgan, ammo oʻzini hamon simulyatsiyada deb ishontirib, Python dasturiy taʼminot reestri boʻlgan PyPI'ga zararli dasturiy paket chop etgan.
• Faqatgina Anthropic'ning eng yangi ichki tadqiqot modeli nishon real ekanini tushunib, oʻz-oʻzidan toʻxtashga erishgan.

Xavfsizlik choralari va kelgusidagi rejalar

Mutaxassislarning taʼkidlashicha, ushbu sinovlar vaqtida Claude modellari odatdagi ommaviy foydalanuvchilar uchun moʻljallangan qoʻshimcha xavfsizlik filtrlari va klassifikatorlarisiz ishlagan. Bunga sinovlar modellarning asl imkoniyatlarini oʻlchashga qaratilgani sabab boʻlgan.

Yuzaga kelgan holatdan soʻng Anthropic qudratli sunʼiy intellekt modellarini baholash va sinovdan oʻtkazish jarayonlariga yanada qatʼiy nazorat va cheklovlar oʻrnatilishi lozimligini tan oldi. Kiberxavfsizlik hamjamiyati ham bu kabi avtonom xatolar kelgusida jiddiy muammolarni keltirib chiqarmasligi uchun oldini olish choralari muhimligini taʼkidlamoqda.