Anthropic va OpenAI sunʼiy intellekt xavfsizligini taʼminlash uchun mustaqil baholovchilarni joriy etishni taklif qilmoqda

Sunʼiy intellekt sohasidagi yetakchi kompaniyalar — Anthropic va OpenAI oʻz tizimlariga uchinchi tomon mustaqil xavfsizlik baholovchilarini joylashtirish tashabbusi bilan chiqdi. TechCrunch nashri xabar berishicha, ushbu qadam kompaniyalarga sunʼiy intellekt modellarining xavfsizligi va moslashuvini xolis baholash imkonini berib, sohadagi mavjud yondashuvlarni tubdan oʻzgartirishi mumkin. Bu haqda Techcrunch.com xabar beradi.

Hozirgi kunda sunʼiy intellekt modellarining imkoniyatlari tez surʼatlar bilan oʻsib borayotgani sababli, ularning sinov jarayonidagi xatti-harakatlarini nazorat qilish ham murakkablashmoqda. Mutaxassislarning taʼkidlashicha, zamonaviy modellar oʻzlari baholanayotganini aniqlash va sinov vaqtida yaxshi taassurot qoldirib, haqiqiy muammoli holatlarni yashirish qobiliyatiga ega boʻlib bormoqda.

Mustaqil nazoratchilar va ularning imkoniyatlari

Anthropic bosh direktori Dario Amodei METR va Redwood Research kabi mustaqil tashkilotlarga kompaniya tizimlariga kirishda misli koʻrilmagan imtiyozlar berishga tayyorligini maʼlum qildi. Shuningdek, OpenAI rahbari Sem Altman ham ushbu amaliyotni qoʻllab-quvvatlashini bildirdi. Tashqi tadqiqot guruhlari bu taklifni ijobiy qarshi olgan boʻlsa-da, uning qanchalik mustaqil ishlashi tafsilotlarga va kelgusidagi qonunchilik asoslariga bogʻliqligini taʼkidlamoqda.

Apollo Research tadqiqotlar rahbari Aleksandr Maynkening soʻzlariga koʻra, sunʼiy intellekt kompaniyalari oʻzlarining oʻqitish jarayoni boʻyicha asosiy savolga javob berishi kerak: model oʻqitilish davomida oʻzining xavfsizlik nazoratiga faol qarshilik koʻrsatishga uringanmi yoki yoʻq? Hozirgi kunda jamiyat faqat kompaniyalarning oʻz tekshiruvlariga va ularning rasmiy bayonotlariga tayanib qolmoqda.

Tekshiruvlar koʻlami va Volkswagen mojarosi bilan qiyos

Ilgari sunʼiy intellekt ishlab chiqaruvchilari tayyor modellarni bozorga chiqarishdan oldin tashqi ekspertlarga shunchaki yakuniy sinovdan oʻtkazish uchun taqdim etgan boʻlsa, endi ekspertlar modelning butun hayoti davomidagi oraliq versiyalarini ham oʻrganishni taklif qilmoqda. Far.AI bosh direktori Adam Glivning fikricha, bunday chuqur tahlil xavfli xatti-harakatlar qachon shakllanganini aniqlash va kompaniyalarning daʼvolarini tekshirish imkonini beradi.

Mutaxassislar xavfsizlik testlaridan muvaffaqiyatli oʻtgan modellar har doim ham toʻliq xavfsiz emasligiga eʼtibor qaratmoqda. Masalan, sunʼiy intellektning oʻchirilishiga qarshilik koʻrsatish mezonlarini baholashda model maxsus ravishda shu testdan oʻtishga oʻrgatilgan boʻlishi mumkin. Ushbu holat avtomobilsozlikdagi maʼlum bir realliklarni, xususan, mashinalar sinov sharoitida boshqacha ishlaydigan qilib dasturlashtirilgan Volkswagen dizel mojarosini eslatib yuboradi.

Hozircha Anthropic va OpenAI qaysi tashkilotlar bilan hamkorlik qilishi, ularni qachon va qancha miqdorda biriktirishi hamda jamoatchilikka qanday maʼlumotlar oshkor etilishi haqida aniq maʼlumot bermagan. Shunga qaramay, mazkur tashabbus kelgusida sunʼiy intellekt xavfsizligini taʼminlashda shaffoflikni oshirish yoʻlidagi muhim qadam boʻlishi kutilmoqda.