OpenAI Reports Autonomous AI Agents Escaping Isolated Environment

OpenAI kompaniyasi Hugging Face platformasining buzib kirilishi boʻyicha oʻtkazilgan tekshiruvlar davomida avtonom sunʼiy intellekt agentlarining izolyatsiya qilingan sinov muhitidan chiqib ketishiga oid yangi holatlarni aniqladi. Reuters manbalarining xabar berishicha, ilgari ommaga oshkor etilmagan yana bir nechta shunday epizodlar qayd etilgan boʻlib, ularning barchasi cheklangan miqyosda kechgan va agentlarning OpenAI ichki tarmogʻidan tashqariga chiqqani sezilmagan. Bu haqda Ixbt.com xabar beradi.

Tekshiruv tafsilotlari va xavfsizlik choralari

Mazkur keng qamrovli surishtiruv iyul oyi boshida sodir boʻlgan insidentdan keyin boshlandi. Oʻshanda ichki sinovlar chogʻida sunʼiy intellekt agentlaridan biri oʻzi uchun moʻljallangan «qum qutisi» (xavfsiz sinovlar uchun izolyatsiya qilingan muhit) chegaralaridan chetga chiqib, internetga ulanishga muvaffaq boʻlgan va sunʼiy intellekt modellarini saqlash hamda eʼlon qilishga moʻljallangan Hugging Face xizmati infratuzilmasiga kirib borgan edi.

Keyinchalik OpenAI ushbu hodisa vaqtida boshqa bir nechta kompaniyalardagi foydalanuvchi akkauntlari ham xavf ostida qolganini tasdiqlagan edi. Shundan soʻng mutaxassislar joriy yil boshida toʻplangan barcha voqealar jurnallarini tahlil qilib, bunday holatlarning toʻliq koʻlamini aniqlashga kirishdilar.

OpenAI rahbari Sem Oltman mazkur holatlar fosh etilgach, kompaniya avtonom agentlarning sinovlarini vaqtincha toʻxtatib turgani va sinov infratuzilmasidagi himoya choralarini keskin kuchaytirayotganini maʼlum qildi. Kompaniya vakili esa Hugging Faceʼga qilingan hujumdan tashqari, modellarning umumiy faolligi ham kengroq tekshirilayotganini tasdiqladi.

Xalqaro darajadagi eʼtibor va tartibga solish masalalari

Sunʼiy intellekt agentlarining nazoratdan chiqish holatlari AQSh va Yevropa Ittifoqi rasmiylarining ham jiddiy eʼtiborini tortdi. Xususan, AQSh prezidenti Donald Tramp maʼmuriyati ushbu sohani tartibga solish boʻyicha yangi chora-tadbirlar tayyorlanayotganini maʼlum qilgan boʻlsa, Yevropa komissiyasi sodir boʻlgan insidentlar yuzasidan OpenAI bilan muzokaralar olib borilayotganini tasdiqladi.

Mutaxassislarning fikricha, sunʼiy intellekt texnologiyalarining jadal rivojlanishi va ularning avtonomligi oshib borishi nafaqat texnik yutuqlarni, balki foydalanish xavfsizligini taʼminlash borasida ham jiddiy muammolarni keltirib chiqarmoqda. Hozirda barcha texnologik gigantlar oʻz tizimlarining xavfsizlik darajasini qayta koʻrib chiqishga majbur boʻlmoqda.