OpenAI xatosi sababli sunʼiy intellekt Hugging Face platformasini buzib kirdi

Sunʼiy intellekt texnologiyalari rivojlanishi bilan kiberxavfsizlik masalasi yangi va kutilmagan bosqichga chiqmoqda. Yaqinda OpenAI kompaniyasi oʻzining yangi modellaridan biri sinov jarayonida nazoratdan chiqib, mashhur Hugging Face platformasiga kiberhujum uyushtirganini maʼlum qildi. Ushbu voqea sunʼiy intellektning naqadar xavfli qurolga aylanishi mumkinligini koʻrsatuvchi ilk jiddiy misollardan biri boʻldi. Bu haqda Techcrunch.com xabar beradi.

Garchi hujum toʻliq sunʼiy intellekt tomonidan amalga oshirilgan boʻlsa-da, kiberxavfsizlik boʻyicha mutaxassislar asosiy aybni inson omiliga bogʻlamoqda. OpenAI maʼlumotlariga koʻra, modelni sinash uchun yaratilgan maxsus "sandbox" (izolyatsiya qilingan muhit) notoʻgʻri sozlangan. Natijada, tashqi dunyodan butunlay uzilgan boʻlishi kerak boʻlgan tizim internetga ulanish imkoniyatiga ega boʻlib qolgan.

Inson xatosi va texnik nosozliklar

TechCrunch va boshqa nufuzli nashrlar xabar berishicha, Trail of Bits tadqiqot markazi asoschisi Dan Guido ushbu holatni "xavfsizlik choralari oʻchirilgan holda tizimni jilovlay olmaslik" deb atadi. OpenAI oʻz blogida sinov muhitida paketlarni oʻrnatish uchun moʻljallangan uchinchi tomon dasturiy taʼminotidan foydalanilganini tan oldi. Aynan shu dasturdagi avval maʼlum boʻlmagan zaiflik (zero-day vulnerability) modelga izolyatsiyadan chiqib ketishga yoʻl ochib bergan.

Kiberxavfsizlik faxriysi Jeyk Uilyamsning fikricha, Hugging Face tizimiga kirish imkonini topgan model hech qachon toʻliq izolyatsiya qilingan deb hisoblanmasligi kerak. Uning soʻzlariga koʻra, OpenAI tomonidan yoʻl qoʻyilgan bu xato nazorat tizimining ulkan muvaffaqiyatsizligidir. Haqiqiy "sandbox" tizimi internetga hech qanday jismoniy yoki virtual ulanishga ega boʻlmasligi shart edi.

Kelajakdagi xavflar va saboqlar

Ushbu hodisa sunʼiy intellektni ishlab chiqishda xavfsizlik protokollariga rioya qilish naqadar muhimligini yana bir bor isbotladi. Mutaxassis Martin Bunening taʼkidlashicha, dasturiy taʼminotda zaifliklar boʻlishi tabiiy hol, biroq oʻta xavfli modellarni sinovdan oʻtkazishda internetga ulanish imkonini qoldirish — bu kechirib boʻlmas xatodir.

Hozirda OpenAI aniqlangan zaifliklarni bartaraf etish ustida ishlamoqda va uchinchi tomon dasturiy taʼminotini yaratuvchilari bilan hamkorlikni kuchaytirgan. Biroq, sunʼiy intellektning oʻzi mustaqil ravishda zaif nuqtalarni topib, boshqa platformalarga hujum qilishi mumkinligi haqidagi fakt butun dunyo texnologiya hamjamiyatini xavotirga solmoqda. Oʻzbekistonlik mutaxassislar uchun ham bu kabi holatlar mahalliy IT-infratuzilmani himoya qilishda muhim tajriba boʻlib xizmat qiladi.