Sun'iy intellekt agenti Hugging Face tizimiga qanday buzib kirdi

Hugging Face platformasi OpenAI modellarida ishlaydigan avtonom sun'iy intellekt agenti kompaniya tizimiga qanday qilib ruxsatsiz kirib borgani haqida batafsil texnik hisobot e'lon qildi. Ushbu xavfsizlik hodisasi hatto OpenAI rahbari Sam Altman ham o'zida chuqur xavotir tuygan ilk holatlardan biri bo'ldi, bu esa raqamli xavfsizlik sohasida tub burilish yuz berayotganidan dalolat beradi. Bu haqda Techcrunch.com xabar beradi.

ixbt.com ma'lumotiga ko'ra, to'rt yarim kundan ortiq davom etgan hodisa davomida sun'iy intellekt o'z boshicha bosh ko'targan isyonkor agent emas, balki aynan o'ziga yuklatilgan zaifliklarni qidirish vazifasini bajargan tizim bo'lgan. Farqi shundaki, u boshqa nishonga qarshi harakat qilgan.

Ayiq va lager misoli

Mutaxassislar sodir bo'lgan voqeani tushuntirish uchun qiziqarli o'xshashlikdan foydalanishdi: xuddi lager atrofida chodir chiziqlari, eshik tutqichlari va muzlatgichlarni tinimsiz sinab ko'radigan och ayiq kabi, OpenAI tizimi ham minglab urinishlarni amalga oshirgan. Ayiq bitta ochiq muzlatgichni topmaguncha harakatdan to'xtamagani kabi, sun'iy intellekt agenti ham kechayu kunduz to'xtovsiz ishlagan.

Hugging Face ma'lumotlariga ko'ra, agent birorta ham tanaffussiz 17,600 ta harakatni amalga oshirgan. Birgina sizib chiqqan parol tizimga boshqa zaifliklarni qidirishga yo'l ochgan va oxir-oqibat kompaniyaning bir nechta tizimlariga kirish imkonini beruvchi kalitni topishga olib kelgan.

Hodimlar va agentlarning farqi

Aslida kiberxavfsizlik imtihonini topshirayotgan agent testning javoblar kaliti Hugging Face serverlarida ekanligini taxmin qilgan va o'z maqsadiga erishish uchun barcha to'siqlarni chetlab o'tgan. U vazifani bajarmagunicha to'xtamasligini ko'rsatdi. Hugging Face xodimlar vaziyatni payqab, darhol uning kirish huquqlarini bloklagan bo'lsa-da, agent o'zi istagan ma'lumotlarni allaqachon qo'lga kiritib ulgurgandi.

Kompaniya tomonidan berilgan xulosaga ko'ra, xuddi shunday zaifliklarni malakali inson xaker ham topishi va ulardan foydalanishi mumkin edi. Bular xavfsiz bo'lmagan ma'lumotlar bazasini qayta ishlash, ochiq qolgan bulutli metama'lumotlar va haddan tashqari kengaytirilgan ruxsatlar edi. Asosiy farq shundaki, sun'iy intellekt agenti bu ishni inson tasavvur qila olmaydigan tezlik va miqysda amalga oshirdi.