OpenAI xavfsizlik sababli Astra loyihasini vaqtincha toʻxtatdi

OpenAI sunʼiy intellekt xavfsizligini taʼminlash maqsadida oʻzining yangi Astra modelini ishlab chiqish jarayonini vaqtincha toʻxtatdi. ixbt.com maʼlumotiga koʻra, kompaniya mutaxassislari ushbu tizim kiberxavfsizlik sohasida oldindan belgilangan eng yuqori xavf chegarasidan oʻtib ketishi mumkinligidan xavotir bildirgan va shu sababli ichki sinovlarni muayyan muddatga sekinlashtirgan. Bu haqda Ixbt.com xabar beradi.

Maʼlum qilinishicha, joriy yilning 7-avgust kuni qabul qilingan bu qaror OpenAI kompaniyasining ichki Preparedness Framework xavfni baholash tizimi talablariga asoslanadi. Hali ommaga taqdim etilmagan Astra modeli agentli dasturlash va kiberxavfsizlik yoʻnalishida sezilarli darajada kuchaygani aniqlangan. Mutaxassislar modelning imkoniyatlari kutilmagan darajada kengayib ketganini qayd etishgan.

Kiberxavfsizlikdagi "Critical" chegarasi

Kompaniyaning ichki tasnifiga koʻra, "Critical" darajasi sunʼiy intellektning inson yordamisiz mustaqil ravishda ishlay olish salohiyatini anglatadi. Bunday darajadagi modellar nomaʼlum zaifliklar uchun ishlaydigan eksploytlar yaratishi yoki yuqori darajadagi vazifa asosida himoyalangan real tizimlarga toʻgʻridan-toʻgʻri kiberhujumlarni uyushtirish potensialiga ega boʻlishi mumkin. Avvalgi avlod modellari, jumladan GPT-5.6-Sol bundan pastroq boʻlgan "High" darajasida baholangan edi.

Axios nashrining xabar berishicha, Astra ustidagi ishlar qoʻshimcha himoya mexanizmlari joriy etilgunga qadar vaqtincha muzlatilgan. Hozircha modelning qachon chiqarilishi yoki umuman taqdim etilishi nomʼalumligicha qolmoqda. OpenAI aniq test natijalari va topshiriqlar toʻplamini oshkor qilmagan boʻlsa-da, sinovlar davom etishini taʼkidlamoqda.

Agentli tizimlar uchun yangi talablar

Zamonaviy sunʼiy intellekt tizimlari nafaqat kod yoza olishi yoki xatoliklarni tushuntirib berishi, balki real vositalar bilan ishlaganda qanday harakat qilishini tekshirish ham muhim ahamiyat kasb etadi. Xavf odatda zaiflikni qidirish, eksployt yozish va tizimlarga kirish jarayonlari oʻzaro birlashganda yuzaga keladi. Shu boisdan OpenAI nafaqat modelning oʻziga, balki uni yaratish va amalda qoʻllash jarayonlariga ham qatʼiy xavfsizlik talablarini tatbiq etmoqda.

Mazkur holat hali bozorga chiqarilmagan sunʼiy intellekt texnologiyalarini yaratishda xavfsizlik omili qanchalik hal qiluvchi ahamiyat kasb etishining yaqqol misoli boʻldi. Garchi mavjud maʼlumotlar Astra haqiqatan ham "Critical" chegarasiga yetganini mustaqil ravishda tasdiqlash uchun yetarli boʻlmasa-da, OpenAI bunday ehtimolni istisno eta olmagani uchun oldini olish choralarini koʻrmoqda. Kompaniya xavfsizlik choralarini kuchaytirgandan soʻnggina keyingi qadamlarni belgilab oladi.