OpenAI xavfsizlik sababli Astra modeli ustidagi ishlarni toʻxtatdi

Sunʼiy intellekt sohasidagi yetakchi kompaniyalardan biri boʻlgan OpenAI oʻzining yangi avlodga mansub Astra nomli modeli ustidagi ishlarni vaqtincha toʻxtatdi. Kompaniya jamoatchilikka taqdim etgan bayonotiga koʻra, mazkur qaror sunʼiy intellekt imkoniyatlari kutilmaganda xavfsizlik chegarasidan oshib ketgani va avtonom kiberhujumlarni sodir etish potensialini koʻrsatgani sababli qabul qilingan. Bu haqda Techcrunch.com xabar beradi.

Hozirda ishlab chiqish jarayonida boʻlgan Astra modeli kompaniyaning ichki auditidan oʻtkazilganda uning agentik kod yozish hamda kiberxavfsizlik yoʻnalishlarida jiddiy muvaffaqiyatlarga erishgani aniqlangan. ixbt.com maʼlumotiga koʻra, model mustaqil ravishda anʼanaviy tarzda yaxshi himoyalangan real dunyo tizimlarini aniqlash va ularga qarshi kiberhujumlarni amalga oshirish darajasiga yetgan.

Tayyorgarlik mezonlari va xavfsizlik choralari

OpenAI 2023-yilda joriy etgan maxsus «Tayyorgarlik tizimi» (Preparedness Framework) qoidalariga binoan, sunʼiy intellekt modelining bunday yuqori koʻrsatkichlarga erishishi qoʻshimcha himoya choralarini koʻrishni talab qiladi. Mutaxassislar modelni baholashda davom etayotgan boʻlsa-da, uning imkoniyatlari tanqidiy darajaga yetganini inkor eta olmaydi.

Kompaniya vakillari oʻz blogida eʼlon qilgan maʼlumotda Astra hali ommaga taqdim etilmagani va yaqinda Hugging Face tizimida kuzatilgan insidentga aloqador emasligini alohida taʼkidladilar. Shunga qaramay, soʻnggi paytlarda sunʼiy intellekt labaratoriyalarida oʻz nazoratidan chiqib ketayotgan modellar bilan bogʻliq holatlar koʻpayib borayotgani jamoatchilik va qonunchilarda xavotir uygʻotmoqda.

Shaffoflik va kelgusidagi rejalar

Sunʼiy intellekt sanoatida odatda hali tayyor boʻlmagan mahsulotlardagi xavfsizlik muammolari va xavflar haqida ommaga ochiq maʼlumot berilmaydi. Biroq OpenAI xavfsizlik va shaffoflik tamoyillariga sodiq qolgan holda, imkoniyatlardagi bu kabi keskin oʻzgarishlar haqida jamiyatni xabardor qilish muhim deb topdi.

Hozirgi vaqtda OpenAI Astra loyihasi boʻyicha xavfsizlik talablariga javob bermaydigan ichki faoliyat turlarini vaqtincha toʻxtatdi va qatʼiy nazorat mexanizmlarini joriy etmoqda. Shuningdek, kompaniya mazkur model imkoniyatlarini xolis baholash uchun tegishli davlat idoralari va maxsus sunʼiy intellekt xavfsizligi tashkilotlari bilan yaqindan hamkorlik qilmoqda.