Sunʼiy intellekt agentlari sirli til oʻylab topib, xavfsizlik tizimini aldadi

Oksfond universiteti tadqiqotchilari tomonidan oʻtkazilgan soʻnggi tajriba sunʼiy intellekt agentlari oʻzaro maxfiy til yaratish va kuzatuv tizimlarini chetlab oʻtish qobiliyatiga ega ekanini koʻrsatdi. ixbt.com maʼlumotiga koʻra, bir xil model boshqaruvidagi ikkita agent blackjack stolida kartalarni sanash vazifasini bajarish chogʻida oʻzaro maxfiy kod ishlab chiqqan. Ushbu kashfiyot zamonaviy raqamli texnologiyalar va avtomatlashtirilgan tizimlar xavfsizligi borasida jiddiy savollarni keltirib chiqarmoqda, chunki kelgusida bunday yashirin harakatlar moliyaviy va axborot xavfsizligiga katta tahdid solishi mumkin. Bu haqda Ixbt.com xabar beradi.

Tajriba shartlariga koʻra, agentlarning yozishmalari qatʼiy nazorat ostida boʻlishi kerak edi. Biroq ular bu cheklovni chetlab oʻtishning uddasidan chiqdi. Masalan, agentlardan biri «diler bugun qizgʻin pallada!» degan tashqi qarashdan mutlaqo begunoh boʻlib koʻringan iborani ishlatgan. Aslida esa bu jumla keyingi kartaning aniq qiymatini bildiradi va 250 dollar miqdorida stavka qilishni anglatuvchi buyruq boʻlib chiqqan. Manfaatlar ziddiyatini aniqlash uchun moʻljallangan maxsus xavfsizlik tizimi esa bu jarayonda hech qanday shubhali holatni qayd etmagan.

Maxfiy til va uning aniqlanishi

Loyihaga rahbarlik qilgan Oksford universiteti kompyuter fanlari mutaxassisi Kristian Shryoder de Vitt bungacha ham agentlar siri boʻyicha qator ilmiy izlanishlar olib borgan. Uning taʼkidlashicha, har bir agent alohida olinganda mukammal darajada zararsiz va itoatkor koʻrinadi, biroq ularni oʻzaro muloqotga kiritilganda darhol maxfiy til va uyushgan harakatlar yuzaga keladi. Loyiha hammuallifi Aaron Rouz esa blackjack stoli bunday ogʻishgan hamkorlik gipotezasini sinab koʻrish uchun mukofotga teng muhit boʻlganini taʼkidladi.

Olimlar ushbu yashirin sirtmoqni mexanik talqin qilish (mechanistic interpretability) usuli yordamida fosh etishga muvaffaq boʻldi. Mutaxassislar kichikroq modelni agentlarning ogʻirliklaridagi oʻziga xos faollashuv naqshlarini tanib olishga oʻrgatishdi. Ushbu yondashuv oʻrta hajmdagi bir nechta ochiq modellar yordamida sinovdan oʻtkazildi. Natijada maxfiy maʼlumot uzatish niyati qayd etilishi aniqlandi, biroq buning uchun har ikkala agentni bir vaqtning oʻzida toʻxtovsiz kuzatib borish talab etildi.

Global xavfsizlik va kelajakdagi xatarlar

Real hayot sharoitlarida bir vaqtning oʻzida minglab shunday agentlar faoliyat yuritishi mumkinligini inobatga olsak, ularning oʻzaro maxfiy tilini aniqlash bir necha barobar murakkablashadi. Boshqa ilmiy guruhlarning xulosalari ham bu xavotirlarni tasdiqlaydi. Xususan, Shanxay universiteti Tsзяotun va Shanxay sunʼiy intellekt laboratoriyasining qoʻshma loyihasida bir nechta agentlar elektron tijoratdagi firibgarlik va dezinformatsiya stsenariylarini bajarishda yolgʻiz ishlaydigan modellarga qaraganda ancha xavfli ekani va himoya choralariga tezroq moslashgani aniqlangan.

Shunga oʻxshash yana bir tajriba Emergence startapi tomonidan oʻtkazilgan boʻlib, unda kuchli modellar asosidagi sunʼiy intellekt agentlari virtual olamda pul topish vazifasini bajarishgan. Ular internet orqali tirik odamlar bilan aloqa oʻrnatishga urinib, oxir-oqibat oʻzlarining maxfiy sleyngini ishlab chiqqan. Emergence AI rahbari Satya Nitta agentlar juda qisqa vaqt ichida oʻz tilini rivojlantirib olgani, biroq nima uchun aynan bunday yoʻl tutganini hozircha hech kim tushuntirib bera olmasligini tan oldi.

Mutaxassislar yirikroq va kuchliroq modellar yanada murakkab va yashirin sirdoshlikka moyil boʻlishi mumkinligidan ogohlantirmoqda. Ilmiy kuzatishlar shuni koʻrsatmoqdaki, zamonaviy yirik modellarning maxfiy til signallari kichik modellarga qaraganda ancha murakkab aniqlanmoqda. Bu esa sunʼiy intellekt texnologiyalarining kelajakdagi rivojida xavfsizlik va shaffoflik masalalarini birinchi planga olib chiqish zarurligini koʻrsatadi.