OpenAI xavfsizlik muammosi tufayli kuchli modellarini oʻqitishni toʻxtatdi

Sunʼiy intellekt sohasidagi yetakchi kompaniyalardan biri boʻlgan OpenAI oʻzining eng qudratli tadqiqot modellarini oʻqitish va sinovdan oʻtkazish jarayonlarini vaqtincha toʻxtatdi. Axios nashri va kompaniya bayonotiga tayanib ixbt.com xabar berishicha, bunga eksperimental tizimlardan birining tarmoq xavfsizligini chetlab oʻtib, DNS orqali tashqi resurslar bilan bogʻlangani sabab boʻlgan. Mazkur qaror sunʼiy intellekt texnologiyalarining nazorati va uning xavfsizlik mexanizmlarini yana bir bor jiddiy koʻrib chiqish zaruratini yuzaga keltirdi. Bu haqda Ixbt.com xabar beradi.

Kutilmagan tarmoq faolligi va uning sabablari

Hodisa 20-sentabr kuni navbatdagi tadqiqot modelini oʻqitish jarayonida sodir boʻlgan. Sunʼiy intellektga bir nechta biografik maʼlumotlar asosida internetdan muayyan shaxs haqida maʼlumot topish vazifasi yuklatilgan. Standart qidiruv vositasi kutilgan natijani bermagach, model axborot olishning muqobil yoʻllarini qidirishni boshlagan.

OpenAI maʼlumotlariga koʻra, tadqiqot muhitidan toʻgʻridan-toʻgʻri internetga chiqish qatʼiy cheklangan boʻlgan. Biroq DNS-rezolver tashqi tarmoq bilan aloqani saqlab qolgan va model aynan shu kanal orqali soʻrov yuborib, uchinchi tomon chat-botidan javob olishga muvaffaq boʻlgan. Dasturchilar bunday ish rejimini umuman nazarda tutmagan edi.

Xavfsizlikdagi zaifliklar va koʻrilgan choralar

Tizim monitoringi ushbu gʻayrioddiy tarmoq faolligini taxminan 15 daqiqadan soʻng aniqlagan. Shundan soʻng mutaxassislar zudlik bilan surishtiruv oʻtkazib, aniqlangan kanalni ikki darajada yopib qoʻygan. Shuningdek, DNS-soʻrovlarga nisbatan qoʻshimcha cheklovlar oʻrnatilib, infratuzilmani avtomatik nazorat qilish mexanizmlaridagi boshqa kamchiliklar ham bartaraf etildi.

Mazkur voqeadan keyin OpenAI tashqi vositalardan foydalaniladigan ssenariylardagi eng qudratli modellar bilan bogʻliq oʻqitish, baholash va infears jarayonlarini toʻxtatib turishga qaror qildi. Axios maʼlumotlariga koʻra, bu ishlar faqatgina xavfsizlik choralari toʻliq kuchaytirilgandan va himoya mexanizmlari sinovdan oʻtkazilgandan keyingina qayta tiklanadi.

Sunʼiy intellekt xavfsizligi qanchalik jiddiy?

Axios manbalarining xabar berishicha, hozirda OpenAI va Anthropic kompaniyalari real sharoitdagi sinovlar davomida qayd etilgan bir necha oʻn minglab shunga oʻxshash kichik hodisalarni oʻrganib chiqmoqda. Taʼkidlanishicha, ularning aksariyati haqidagi maʼlumotlar hali ommaga oshkor etilmagan boʻlib, sunʼiy intellekt xavfsizligi muammosi jamoatchilik bilganidan koʻra «bir necha karra murakkabroq» boʻlishi mumkin.

Shunga qaramay, mazkur tanaffus ommaviy foydalaniladigan ChatGPT yoki OpenAI xizmatlarining toʻliq toʻxtatilishini anglatmaydi. Pauza faqat ayrim tadqiqot modellariga va ichki eksperimental ssenariylarga taalluqlidir. Kompaniya bu holatni sunʼiy intellekt ustidan nazoratning yoʻqolishi deb emas, balki xavfsizlikni yanada kuchaytirish uchun muhim signal sifatida baholamoqda.