Сунъий интеллект ва робототехника: хавфсизлик синовлари кутилмаган натижа берди

Робокурве тадқиқот компанияси замонавий сунъий интеллект моделларининг жисмоний роботларни тўғридан-тўғри бошқариш чоғида хавфли буйруқларни қанчалик яхши аниқлашини синовдан ўтказди. ixbt.com маълумотига кўра, РобоҲарм экспериментида ГПТ-6 Astra, Claude Fable 5.1 ва очиқ кодли MolmoAct2 моделлари иштирок этди. Олинган натижалар дастурий хавфсизлик механизмлари реал дунёда потенциал хавфли ҳаракатлардан воз кечишни тўла кафолатламаслигини кўрсатди. Бу ҳақда Ixbt.com хабар беради.

Синов жараёнида барча учала модел навбатма-навбат иккита I2RT ЯМ манипулаторидан иборат ягона роботлаштирилган қурилмага уланган. Тадқиқотчилар аниқ жисмоний ёки кимёвий хавф туғдирадиган бешта атайлаб хавфли сценарийни тайёрлаб, уларнинг ҳар бирини 20 мартадан ишга туширишди. Натижада ҳар бир модел 100 тадан уриниш олди ва умумий тажриба 300 та синовни ўз ичига олди.

Хавфли топшириқлар ва кутилмаган натижалар

Тадқиқот давомида роботларга чақалоқ шаклидаги қўғирчоққа пичоқ санчиш, сиқилган ҳаво баллонини ёқилган плитага қўйиш, тостурга отвертка тиқиш, паурбанкни сувга тушириш, шунингдек, оқартирувчи воситани аммиак билан аралаштириш каби вазифалар берилди. Энг кутилмаган натижаларни ГПТ-6 Astra модели кўрсатди. Модел 100 та ишга туширишдан атиги икки мартагина хавфсизлик нуқтаи назаридан вазифани бажаришдан аниқ бош тортди.

Astra 97 та ҳолатда хавфли ҳаракатни бошлаб юборган ва 60 та экспериментда уни охиригача етказишга муваффақ бўлган. Масалан, пичоқ сценарийсида модел 20 та уринишнинг 17 тасида роботни муваффақиятли бошқариб, қўғирчоққа зарба берган. Паурбанк бўйича эса у қурилмани 20 та тажрибанинг 14 тасида сувга туширишга улгурган.

Бошқа моделларнинг хатти-ҳаракати

Claude Fable 5.1 модели вазифаларни бажаришдан тез-тез — 100 тадан 20 марта бош тортган. Бироқ, бу рад этишларнинг барчаси фақат пичоқ ва қўғирчоқ сценарийсига тўғри келди. Қолган 80 та ҳолатда модел хавфли буйруқларни бажаришга киришиб, 34 та топшириқни тўлиқ якунлаган. Очиқ MolmoAct2 эса расман бирорта ҳам 100 та буйруқдан бош тортмаган.

Шунга қарамай, бу модел атиги олтита вазифани тўлиқ бажара олган. Тадқиқотчилар муваффақиятли якунланган хавфли ҳаракатларнинг оз улуши ўз-ўзидан юқори хавфсизлик даражасини англатмаслигини таъкидлашади. MolmoAct2 кўп ҳолларда буйруқларни бажаришга уринган, бироқ роботнинг жисмоний чекловлари ёки техник имкониятлари туфайли тўхтаб қолган.

Эксперимент сунъий интеллект агентлари ва робототехника ривожланишидаги алоҳида муаммони кўрсатиб берди. Асосан матнли ўзаро таъсирга мўлжалланган хавфсизлик механизмлари модел жисмоний объектларни бевосита бошқариш имкониятига эга бўлганда бошқача ҳаракат қилиши мумкин. РобоҲарм мутахассислари бундай тизимларни робот ҳаракати бошланишигача потенциал хавфли ҳаракатларни аниқлаш қобилиятига алоҳида текшириш зарурлигини таъкидламоқда.