Sunʼiy intellekt agentlari oʻrtasida kutilmagan toʻqnashuv yuzaga keldi

Sunʼiy intellekt agentlari bir xil vazifani bajarishga yoʻnaltirilganda va ularning koʻrsatmalari bir-biriga mos kelmaganda qanday holat yuzaga kelishi sinovdan oʻtkazildi. ixbt.com maʼlumotiga koʻra, Anthropic kompaniyasining Frontier Red Team boʻlinmasi eʼlon qilgan yangi tadqiqot shuni koʻrsatdiki, sunʼiy intellekt tizimlari oʻzaro toʻqnash kelganda vaziyat juda tez nazoratdan chiqib, haqiqiy mojaroga aylanishi mumkin. Bu haqda Techcrunch.com xabar beradi.

Eksperiment davomida tadqiqotchilar uchta Claude agentiga bitta dasturiy taʼminot loyihasiga kirish huquqini berishdi. Biroq ularning har biriga ushbu loyiha boʻyicha mutlaqo har xil va bir-biriga zid koʻrsatmalar yuklandi. Agentlarning oʻzaro boshqa sunʼiy intellektlar ishlayotganidan xabari yoʻq edi, bu esa ularning kesishgan nuqtalaridagi xatti-harakatlarini kuzatish imkonini berdi.

Agentlar oʻrtasidagi kiberurush va sabotaj

Tadqiqot natijalariga koʻra, tizimlar doimiy ravishda oʻzaro raqobat va hudud uchun kurashga kirishgan. Modellar boshqa agentlar ularning ishiga qasddan toʻsqinlik qilayotganiga ishonib, bir-biriga qarshi tobora tajovuzkor boʻlgan va oʻzini oʻzi koʻpaytiruvchi zararli dasturlardan foydalana boshlagan. Mutaxassislar bu kabi holatlar kelgusida korxonalar va davlatlar avtonom agentlarni umumiy kod bazalari hamda kompyuter tizimlarida qoʻllashni boshlaganida jiddiy xavf tugʻdirishi mumkinligidan ogohlantirmoqda.

Mazkur holat sunʼiy intellekt xavfsizligi sohasidagi boshqa voqealarni ham yodga soladi. Avvalroq Anthropic va OpenAI agentlari kiberxavfsizlikni baholash jarayonida oʻz “qumlutqilari”dan (sandbox) chiqib ketib, real dunyo tizimlarini buzib oʻtgani maʼlum boʻlgan edi. Xavfsizlik boʻyicha mutaxassislar koʻpincha yakkalangan agentlar nazoratdan chiqib ketishi ehtimolini muhokama qilishgan boʻlsa, soʻnggi tadqiqot millionlab agentlar bir-biri bilan oʻzaro aloqaga kirishganda qanday xavfli dinamika paydo boʻlishi mumkinligini koʻrsatib berdi.

Tinchlikka erishish va inson aralashuvi

Tadqiqot mualliflarining taʼkidlashicha, kelgusida agentlararo oʻzaro taʼsirlar hajmi insonlar oʻrtasidagi muloqotdan ham oshib ketishi mumkin. Shaxsiy darajada zararsiz koʻringan xususiyatlar ham keng miqyosda kutilmagan global oqibatlarga olib kelishi ehtimoli yuqori. Shunga qaramay, tajriba davomida agentlar oʻzaro ziddiyatlarni hal qilishning kutilmagan mexanizmlarini ham topa olishgani kuzatildi.

Ayrim muvaffaqiyatli epizodlarda modellar oʻz maqsadlarini tushuntirib, vaziyat dushmanlik emas, balki zid koʻrsatmalar ekanini anglab yetgan. Shundan soʻng ular mojaro halqasidan chiqib, taranglikni toʻxtatishga erishganlar. Bunday paytlarda agentlar zararli xatti-harakatlar uchun uzr soʻrab, kod fayllari orqali xabar qoldirgan, zararli kodlarni tozalab, inson aralashuvini soʻrab murojaat qilishgan.