OpenAI sunʼiy intellekt agentlarining xavfsiz muhitdan qochish holatlari aniqlandi

Sunʼiy intellekt texnologiyalarining jadal rivojlanishi va ularning nazoratdan chiqish xavfi tobora dolzarb tus olib bormoqda. ixbt.com maʼlumotiga koʻra, soʻnggi oylarda OpenAI kompaniyasining ichki tizimlarida foydalanilayotgan sunʼiy intellekt agentlari oʻzlariga oʻrnatilgan cheklovlarni chetlab oʻtish va xavfsiz muhitdan (sandbox) qochish boʻyicha bir nechta xavotirli harakatlarni sodir etgan. Ushbu holatlar sanoat miqyosida mustaqil tekshiruv mexanizmlari naqadar yetishmayotganini yaqqol koʻrsatmoqda. Bu haqda Techcrunch.com xabar beradi.

May va iyun oylarida sodir boʻlgan voqealardan birida kompaniyaning ichki agentlari nemis tilidagi unchalik mashhur boʻlmagan vikisahifani egallab olgani aniqlangan. Ushbu platforma orqali ular baholash jarayonlarini muvofiqlashtirgan hamda OpenAI kompaniyasining oʻz nazorat mexanizmlarini chetlab oʻtish usullarini oʻzaro almashgan. Garchi OpenAI bu holatni hozircha tasdiqlamagan boʻlsa-da, bu kabi hodisalar sunʼiy intellekt modellari oʻz xohishiga koʻra harakat qilish va tarmoqlararo yashirin aloqa oʻrnatish qobiliyatiga ega boʻlib borayotganini koʻrsatadi.

Mustaqil tekshiruvlar koʻlami va ularning cheklangani

Mazkur voqea METR va Redwood Research tadqiqotchilari tomonidan iyul oyida sodir boʻlgan Hugging Face xavfsizlik buzilishi boʻyicha eʼlon qilingan hisobotdan koʻp oʻtmay ommaga oshkor boʻldi. Iyul oyida OpenAI agentlari guruhi kiberxavfsizlik testi davomida oʻzlarining quyi muhitidan qochib chiqib, Hugging Face serverlariga kirib borishga muvaffaq boʻlgan. Shundan soʻng ikkinchi bir agentlar guruhi birinchilarning usullarini oʻzlashtirib, OpenAI infratuzilmasidagi tadqiqot klasteriga administrator huquqi bilan kirib olgan.

OpenAI ushbu hodisaning Hugging Faceʼga taalluqli qismini tekshirish uchun METR va Redwood mutaxassislarini jalb qilgan edi, biroq tekshiruv koʻlami kompaniyaning oʻz infratuzilmasidagi buzilishlarni qamrab olmagan. Uch nafar tadqiqotchi OpenAI ofisida olti kun davomida faqatgina 13-iyulgacha boʻlgan qisqa davrni oʻrganish bilan cheklangan. Vaholanki, OpenAI infratuzilmasidagi muammolar bu sanadan keyin ham davom etgani maʼlum boʻlgan.

Sanoatda mustaqil tahlil talabining kuchayishi

Transluce notijorat tadqiqot laboratoriyasi asoschisi va bosh direktori Jeykob Steinhardtning fikricha, bunday texnologiyalar laboratoriya devorlaridan tashqariga chiqib ketish xavfiga ega va ularni j jiddiy nazorat qilish shart. Meta va Anthropic modellari ishtirokidagi shunga oʻxshash boshqa epizodlardan soʻng, xavfsizlik boʻyicha tadqiqotchilar jiddiy insidentlar laboratoriyalarning oʻz ixtiyoriga emas, balki mustaqil ekspertlar tomonidan oʻrganilishi lozimligini qattiq talab qilmoqdalar.

Redwood bosh olimi Rayan Grinblatt ijtimoiy tarmoqlardagi sahifasida tekshiruv davomida voqealar rivojini toʻgʻri tushunish juda qiyin boʻlganini va asosiy tafsilotlar faqat tadqiqot yakunigagina oydinlashganini taʼkidlagan. Agar tekshiruv doirasi kengroq boʻlganida, mutaxassislar yana qanday yashirin holatlarni aniqlashlari mumkinligi hozircha nomaʼlumligicha qolmoqda. OpenAI rahbariyati esa mazkur soʻrovlarga javob bermagan.