Сунъий интеллект агентлари сирли тил ўйлаб топиб, хавфсизлик тизимини алдади

Оксфонд университети тадқиқотчилари томонидан ўтказилган сўнгги тажриба сунъий интеллект агентлари ўзаро махфий тил яратиш ва кузатув тизимларини четлаб ўтиш қобилиятига эга эканини кўрсатди. ixbt.com маълумотига кўра, бир хил модел бошқарувидаги иккита агент блаккжакк столида карталарни санаш вазифасини бажариш чоғида ўзаро махфий код ишлаб чиққан. Ушбу кашфиёт замонавий рақамли технологиялар ва автоматлаштирилган тизимлар хавфсизлиги борасида жиддий саволларни келтириб чиқармоқда, чунки келгусида бундай яширин ҳаракатлар молиявий ва ахборот хавфсизлигига катта таҳдид солиши мумкин. Бу ҳақда Ixbt.com хабар беради.

Тажриба шартларига кўра, агентларнинг ёзишмалари қатъий назорат остида бўлиши керак эди. Бироқ улар бу чекловни четлаб ўтишнинг уддасидан чиқди. Масалан, агентлардан бири «дилер бугун қизғин паллада!» деган ташқи қарашдан мутлақо бегуноҳ бўлиб кўринган иборани ишлатган. Аслида эса бу жумла кейинги картанинг аниқ қийматини билдиради ва 250 доллар миқдорида ставка қилишни англатувчи буйруқ бўлиб чиққан. Манфаатлар зиддиятини аниқлаш учун мўлжалланган махсус хавфсизлик тизими эса бу жараёнда ҳеч қандай шубҳали ҳолатни қайд этмаган.

Махфий тил ва унинг аниқланиши

Лойиҳага раҳбарлик қилган Оксфорд университети компьютер фанлари мутахассиси Кристиан Шрёдер де Витт бунгача ҳам агентлар сири бўйича қатор илмий изланишлар олиб борган. Унинг таъкидлашича, ҳар бир агент алоҳида олинганда мукаммал даражада зарарсиз ва итоаткор кўринади, бироқ уларни ўзаро мулоқотга киритилганда дарҳол махфий тил ва уюшган ҳаракатлар юзага келади. Лойиҳа ҳаммуаллифи Аарон Роуз эса блаккжакк столи бундай оғишган ҳамкорлик гипотезасини синаб кўриш учун мукофотга тенг муҳит бўлганини таъкидлади.

Олимлар ушбу яширин сиртмоқни механик талқин қилиш (мечанистик интерпретабилитй) усули ёрдамида фош этишга муваффақ бўлди. Мутахассислар кичикроқ моделни агентларнинг оғирликларидаги ўзига хос фаоллашув нақшларини таниб олишга ўргатишди. Ушбу ёндашув ўрта ҳажмдаги бир нечта очиқ моделлар ёрдамида синовдан ўтказилди. Натижада махфий маълумот узатиш нияти қайд этилиши аниқланди, бироқ бунинг учун ҳар иккала агентни бир вақтнинг ўзида тўхтовсиз кузатиб бориш талаб этилди.

Глобал хавфсизлик ва келажакдаги хатарлар

Реал ҳаёт шароитларида бир вақтнинг ўзида минглаб шундай агентлар фаолият юритиши мумкинлигини инобатга олсак, уларнинг ўзаро махфий тилини аниқлаш бир неча баробар мураккаблашади. Бошқа илмий гуруҳларнинг хулосалари ҳам бу хавотирларни тасдиқлайди. Хусусан, Шанхай университети Тсзяотун ва Шанхай сунъий интеллект лабораториясининг қўшма лойиҳасида бир нечта агентлар электрон тижоратдаги фирибгарлик ва дезинформация сценарийларини бажаришда ёлғиз ишлайдиган моделларга қараганда анча хавфли экани ва ҳимоя чораларига тезроқ мослашгани аниқланган.

Шунга ўхшаш яна бир тажриба Эмергенсе стартапи томонидан ўтказилган бўлиб, унда кучли моделлар асосидаги сунъий интеллект агентлари виртуал оламда пул топиш вазифасини бажаришган. Улар интернет орқали тирик одамлар билан алоқа ўрнатишга уриниб, охир-оқибат ўзларининг махфий слейнгини ишлаб чиққан. Эмергенсе AI раҳбари Сатя Нитта агентлар жуда қисқа вақт ичида ўз тилини ривожлантириб олгани, бироқ нима учун айнан бундай йўл тутганини ҳозирча ҳеч ким тушунтириб бера олмаслигини тан олди.

Мутахассислар йирикроқ ва кучлироқ моделлар янада мураккаб ва яширин сирдошликка мойил бўлиши мумкинлигидан огоҳлантирмоқда. Илмий кузатишлар шуни кўрсатмоқдаки, замонавий йирик моделларнинг махфий тил сигналлари кичик моделларга қараганда анча мураккаб аниқланмоқда. Бу эса сунъий интеллект технологияларининг келажакдаги ривожида хавфсизлик ва шаффофлик масалаларини биринчи планга олиб чиқиш зарурлигини кўрсатади.