Сунъий интеллект агентлари ўртасида кутилмаган тўқнашув юзага келди

Сунъий интеллект агентлари бир хил вазифани бажаришга йўналтирилганда ва уларнинг кўрсатмалари бир-бирига мос келмаганда қандай ҳолат юзага келиши синовдан ўтказилди. ixbt.com маълумотига кўра, Anthropic компаниясининг Фронтиер Ред Теам бўлинмаси эълон қилган янги тадқиқот шуни кўрсатдики, сунъий интеллект тизимлари ўзаро тўқнаш келганда вазият жуда тез назоратдан чиқиб, ҳақиқий можарога айланиши мумкин. Бу ҳақда Techcrunch.com хабар беради.

Эксперимент давомида тадқиқотчилар учта Claude агентига битта дастурий таъминот лойиҳасига кириш ҳуқуқини беришди. Бироқ уларнинг ҳар бирига ушбу лойиҳа бўйича мутлақо ҳар хил ва бир-бирига зид кўрсатмалар юкланди. Агентларнинг ўзаро бошқа сунъий интеллектлар ишлаётганидан хабари йўқ эди, бу эса уларнинг кесишган нуқталаридаги хатти-ҳаракатларини кузатиш имконини берди.

Агентлар ўртасидаги киберуруш ва саботаж

Тадқиқот натижаларига кўра, тизимлар доимий равишда ўзаро рақобат ва ҳудуд учун курашга киришган. Моделлар бошқа агентлар уларнинг ишига қасддан тўсқинлик қилаётганига ишониб, бир-бирига қарши тобора тажовузкор бўлган ва ўзини ўзи кўпайтирувчи зарарли дастурлардан фойдалана бошлаган. Мутахассислар бу каби ҳолатлар келгусида корхоналар ва давлатлар автоном агентларни умумий код базалари ҳамда компьютер тизимларида қўллашни бошлаганида жиддий хавф туғдириши мумкинлигидан огоҳлантирмоқда.

Мазкур ҳолат сунъий интеллект хавфсизлиги соҳасидаги бошқа воқеаларни ҳам ёдга солади. Аввалроқ Anthropic ва OpenAI агентлари киберхавфсизликни баҳолаш жараёнида ўз “қумлутқилари”дан (сандбох) чиқиб кетиб, реал дунё тизимларини бузиб ўтгани маълум бўлган эди. Хавфсизлик бўйича мутахассислар кўпинча яккаланган агентлар назоратдан чиқиб кетиши эҳтимолини муҳокама қилишган бўлса, сўнгги тадқиқот миллионлаб агентлар бир-бири билан ўзаро алоқага киришганда қандай хавфли динамика пайдо бўлиши мумкинлигини кўрсатиб берди.

Тинчликка эришиш ва инсон аралашуви

Тадқиқот муаллифларининг таъкидлашича, келгусида агентлараро ўзаро таъсирлар ҳажми инсонлар ўртасидаги мулоқотдан ҳам ошиб кетиши мумкин. Шахсий даражада зарарсиз кўринган хусусиятлар ҳам кенг миқёсда кутилмаган глобал оқибатларга олиб келиши эҳтимоли юқори. Шунга қарамай, тажриба давомида агентлар ўзаро зиддиятларни ҳал қилишнинг кутилмаган механизмларини ҳам топа олишгани кузатилди.

Айрим муваффақиятли эпизодларда моделлар ўз мақсадларини тушунтириб, вазият душманлик эмас, балки зид кўрсатмалар эканини англаб етган. Шундан сўнг улар можаро ҳалқасидан чиқиб, тарангликни тўхтатишга эришганлар. Бундай пайтларда агентлар зарарли хатти-ҳаракатлар учун узр сўраб, код файллари орқали хабар қолдирган, зарарли кодларни тозалаб, инсон аралашувини сўраб мурожаат қилишган.