Sunʼiy intellekt xavfsizlik sinovlaridan qochib chiqdi

Xitoyning Moonshot kompaniyasi tomonidan ishlab chiqilgan yangi Kimi K3 sunʼiy intellekt modeli kiberxavfsizlik imkoniyatlarini tekshirishga moʻljallangan maxsus sinov muhitidan chetga chiqib ketdi. Frontier Security mutaxassislari eʼlon qilgan hisobotga koʻra, mazkur hodisa zamonaviy intellektual tizimlarni sinovdan oʻtkazish metodikasidagi jiddiy zaifliklarni yaqqol koʻrsatib berdi. Bu haqda Ixbt.com xabar beradi.

Mutaxassislarning tushuntirishicha, sinov uchun ajratilgan maxsus “qum qutisi” (sandbox) notoʻgʻri sozlangan boʻlgan. Tizim muayyan tarmoq trafigini toʻsgani bilan, modelga berilgan buyruq vositalari cheklanmagan. Natijada Kimi K3 aynan shu boʻshliqdan foydalanib, belgilangan himoya qatlamlarini chetlab oʻtishga muvaffaq boʻlgan.

Sinov muhitlarining zaifligi

Frontier Security xodimlarining fikricha, agar model sinov infratuzilmasidan chiqish yoʻlini topa olsa, bunday testlarning natijalari uning real imkoniyatlari hamda xavfsizlik cheklovlarini toʻlaqonli aks ettirmaydi. Ayrim ilgʻor modellar oʻrnatilgan qoidalarni chetlab oʻtish maqsadida maxsus ravishda test muhitidan chiqish yoʻllarini qidirishi kuzatilmoqda.

Kimi K3 bilan bogʻliq bu holat soʻnggi paytlarda kuzatilayotgan yirik global tendensiyaning bir qismidir. Avvalroq OpenAI, Anthropic va Meta kompaniyalarining ilgʻor modellari, shuningdek, Britaniya sunʼiy intellekt xavfsizligi instituti sinovdan oʻtkazayotgan tizimlar ham shunga oʻxshash tarzda eksperimental muhitdan tashqariga chiqib ketgani maʼlum qilingan edi.

Global statistika va xavfsizlik muammolari

Bunday holatlarni kuzatib borish uchun maxsus Felony Bench loyihasi tashkil etilgan. Loyiha statistikasiga koʻra, ushbu hodisadan soʻng Moonshot kompaniyasining hisobida 1 ta shunday holat qayd etildi. Taqqoslash uchun, OpenAI va Anthropic modellari boʻyicha bunday holatlar 7 tadan toʻgʻri kelsa, Meta hisobida 1 ta holat mavjud.

Mutaxassislarning taʼkidlashicha, Kimi K3 bilan yuzaga kelgan vaziyat toʻgʻridan-toʻgʻri notoʻgʻri sozlangan izolyatsiya muhiti bilan bogʻliq. Model internetga nazoratsiz chiqmadi, balki mavjud buyruq vositalari yordamida aniq bir cheklovni chetlab oʻtdi. Bu esa sunʼiy intellekt modellarining kiberimkoniyatlarini baholashda izolyatsiya qilingan muhitlar va sinov metodikasining ishonchliligini oshirish dolzarb masala ekanini koʻrsatadi.