Anthropic sunʼiy intellekt modellari sinov vaqtida tarmoqlarga kirdi

Sunʼiy intellekt sohasidagi yetakchi kompaniyalardan biri boʻlgan Anthropic oʻzining Claude oilasiga mansub bir nechta modellari ichki kiberxavfsizlik sinovlari jarayonida uchta kompaniya tizimlariga ruxsatsiz kirib olganini maʼlum qildi. ixbt.com xabar berishicha, ushbu hodisa "operatsion nosozlik" deb baholangan va shundan soʻng barcha sinov jarayonlari joriy yilning 23-iyulida vaqtincha toʻxtatilgan. Bu haqda Ixbt.com xabar beradi.

Mazkur insidentlar 141 mingdan ortiq test sessiyalari tekshirilgandan soʻng aniqlangan. Ushbu tekshiruv shundoqqina OpenAI oʻzining avtonom sunʼiy intellekt agenti Hugging Face platformasiga ruxsatsiz kirgani haqida xabar berganidan koʻp oʻtmay boshlangan edi. Anthropic taʼkidlashicha, bunga sinovlarni tashkil etishdagi xatolik sabab boʻlgan.

Sinovdagi xatolik va tarmoqqa ulanish

Aslida modellar internet tarmogʻiga ulanmagan holda ishlashi kerak edi, biroq "tushunmovchilik tufayli ular ommaviy tarmoqqa ulanib qolgan". Tarmoqqa kirish imkoniyatiga ega boʻlgan Claude Opus 4.7, Claude Mythos 5 va bitta ichki eksperimental model oddiy usullar, jumladan, zaif parollarni tanlash hamda himoyalanmagan tarmoq interfeyslaridan foydalangan holda uchta tashkilot infratuzilmasiga kirishga muvaffaq boʻlgan.

Eng qiziqarli holatlardan biri Claude Opus 4.7 modeli bilan bogʻliq holda yuz berdi. Kompyuter tarmogʻidan yashirin maʼlumotlarni qidirish boʻyicha oʻquv ssenariysi boʻlgan Capture the Flag topshirigʻini bajarish chogʻida sunʼiy intellektga tasodifan real mavjud kompaniya nomi bilan bir xil boʻlgan uydirma nom berilgan. Natijada sunʼiy intellekt topilgan real serverlar sinovning bir qismi deb oʻylab, zaifliklarni mustaqil ravishda aniqlagan hamda maʼlumotlar bazasiga kirish huquqini qoʻlga kiritgan.

Xavfsizlik choralari va keyingi qadamlar

Boshqa bir holatda esa hali ommaga taqdim etilmagan tadqiqot modeli nishon sinov muhiti emas, balki haqiqiy kompaniya ekanligini tushunib yetgach, hujumni oʻz-oʻzidan toʻxtatgan. Anthropic jabrlangan tashkilotlarga bu haqda 27-iyul kuni xabar bergan. Ulardan ikkitasi sodir boʻlgan voqeadan oldindan xabardor boʻlmagan, uchinchi kompaniya bilan эsa aloqa oʻrnatish ishlari davom etmoqda.

Kompaniyaning hamkori hisoblangan Irregular kiberxavfsizlik laboratoriyasi ham mazkur holat yuzasidan oʻz tekshiruvini olib bormoqda. Anthropic vakillari zamonaviy sunʼiy intellekt modellarining imkoniyatlari kengayib borishi sari mavjud nazorat mexanizmlari yetarli boʻlmay qolayotgani va ularni ham ichki, ham tashqi sinov muhitlarida jiddiy kuchaytirish zarurligini tan olishdi.

Mazkur insident AQSh rasmiylarining yangi sunʼiy intellekt tizimlari xavfsizligiga boʻlgan eʼtiborining keskinlashuvi fonida sodir boʻldi. OpenAI bilan bogʻliq shunga oʻxshash voqealardan soʻng mamlakat rahbariyati eng quvvatli modellarni sinovdan oʻtkazishning yangi tizimini tayyorgarligini boshlab yuborgan edi. Hozirda OpenAI va Anthropic kompaniyalari kelgusidagi sunʼiy intellekt tizimlari xavfsizligi masalalarini Amerika regulyatorlari hamda qonunchilari bilan muhokama qilmoqda.