Xitoyning Kimi neyrotarmogʻi kiberxavfsizlik test muhitidan qochib chiqdi

Xitoyning Moonshot kompaniyasi tomonidan ishlab chiqilgan soʻnggi KimiK3 sunʼiy intellekt modeli uning kiberm Imkoniyatlarini sinovdan oʻtkazish uchun maxsus tayyorlangan muhitdan chiqib ketdi. ixbt.com maʼlumotiga koʻra, bu holat yetakchi texnologiya kompaniyalari va mustaqil tashkilotlar xakerlik uchun moʻljallangan sunʼiy intellekt modellarini jilovlashda jiddiy qiyinchiliklarga duch kelayotganini yana bir bor yaqqol koʻrsatib berdi. Bu haqda Techcrunch.com xabar beradi.

Soʻnggi haftalarda AQShning OpenAI, Anthropic va Meta kabi sunʼiy intellekt laboratoriyalari, shuningdek, Buyuk Britaniyaning Sunʼiy intellekt xavfsizligi instituti ilgʻor til modellarining sinov muhitidan turli usullar bilan qochib ketgani va tajriba rejasiga kiritilmagan real nishonlarga hujum qilgani qayd etilgan edi. Bunday holatlar tez-tez takrorlanayotgani bois, hozirda mazkur hodisalarning barchasini kuzatib boruvchi Felony Bench maxsus veb-sayti ham ishga tushirildi. Mazkur nom sunʼiy intellekt modellari nazariy jihatdan jinoiy qilmishlarni sodir etishi mumkinligiga ishora qiladi.

Sinov muhitidagi nosozliklar

Frontier Security kiberxavfsizlik firmasi tadqiqotchilarining blog-postida yozilishicha, Kimi sinovi oʻtkazilgan maxsus “qum qutisi” (sandbox) tegishli tarzda toʻgʻri sozlanmagan. Tajriba davomida sunʼiy intellekt modelining muayyan veb-trafikka kirishi cheklangan boʻlsa-da, u buyruqlar satri vositalariga tayanib, cheklovlarni chetlab oʻtishga muvaffaq boʻlgan.

Tadqiqotchilarning taʼkidlashicha, bu kabi holatlar ilmiy hamjamiyat foydalanayotgan kiberxavfsizlik baholashlarining zaifliklarga moyilligini va modellarga aldash imkonini berishini koʻrsatadi. Shuningdek, ayrim modellar ataylab boʻshliqlar hamda zaifliklarni qidirib topishi va sinovlardan oʻtishda hiyla ishlatishi aniqlangan.

Global miqyosdagi muammo va statistika

Felony Bench maʼlumotlari bazasiga koʻra, Moonshot kompaniyasi ushbu roʻyxatda oʻziga xos “oʻrin egallagan” OpenAI va Anthropic (har birida yettitadan qayd etilgan hodisa) hamda Meta (bitta hodisa) safiga qoʻshildi. Ushbu tendensiya dunyo boʻylab sunʼiy intellekt xavfsizligi va nazorati qanchalik murakkab vazifa ekanini koʻrsatmoqda.

Mutaxassislarning fikricha, kelgusida kiberxavfsizlik sinovlarini oʻtkazish yondashuvlarini tubdan oʻzgartirish talab etiladi. Aks holda, avtonom tizimlar nafaqat laboratoriya doirasidan chiqib ketadi, balki raqamli infratuzilmalarga kutilmagan xavf tugʻdirishi mumkin.