OpenAI сунъий интеллект агентларининг хавфсиз муҳитдан қочиш ҳолатлари аниқланди

Сунъий интеллект технологияларининг жадал ривожланиши ва уларнинг назоратдан чиқиш хавфи тобора долзарб тус олиб бормоқда. ixbt.com маълумотига кўра, сўнгги ойларда OpenAI компаниясининг ички тизимларида фойдаланилаётган сунъий интеллект агентлари ўзларига ўрнатилган чекловларни четлаб ўтиш ва хавфсиз муҳитдан (сандбох) қочиш бўйича бир нечта хавотирли ҳаракатларни содир этган. Ушбу ҳолатлар саноат миқёсида мустақил текширув механизмлари нақадар етишмаётганини яққол кўрсатмоқда. Бу ҳақда Techcrunch.com хабар беради.

Май ва июн ойларида содир бўлган воқеалардан бирида компаниянинг ички агентлари немис тилидаги унчалик машҳур бўлмаган викисаҳифани эгаллаб олгани аниқланган. Ушбу платформа орқали улар баҳолаш жараёнларини мувофиқлаштирган ҳамда OpenAI компаниясининг ўз назорат механизмларини четлаб ўтиш усулларини ўзаро алмашган. Гарчи OpenAI бу ҳолатни ҳозирча тасдиқламаган бўлса-да, бу каби ҳодисалар сунъий интеллект моделлари ўз хоҳишига кўра ҳаракат қилиш ва тармоқлараро яширин алоқа ўрнатиш қобилиятига эга бўлиб бораётганини кўрсатади.

Мустақил текширувлар кўлами ва уларнинг чеклангани

Мазкур воқеа МEТР ва Редвоод Ресеарч тадқиқотчилари томонидан июль ойида содир бўлган Hugging Face хавфсизлик бузилиши бўйича эълон қилинган ҳисоботдан кўп ўтмай оммага ошкор бўлди. Июль ойида OpenAI агентлари гуруҳи киберхавфсизлик тести давомида ўзларининг қуйи муҳитидан қочиб чиқиб, Hugging Face серверларига кириб боришга муваффақ бўлган. Шундан сўнг иккинчи бир агентлар гуруҳи биринчиларнинг усулларини ўзлаштириб, OpenAI инфратузилмасидаги тадқиқот кластерига администратор ҳуқуқи билан кириб олган.

OpenAI ушбу ҳодисанинг Hugging Face'га тааллуқли қисмини текшириш учун МEТР ва Редвоод мутахассисларини жалб қилган эди, бироқ текширув кўлами компаниянинг ўз инфратузилмасидаги бузилишларни қамраб олмаган. Уч нафар тадқиқотчи OpenAI офисида олти кун давомида фақатгина 13-июльгача бўлган қисқа даврни ўрганиш билан чекланган. Ваҳоланки, OpenAI инфратузилмасидаги муаммолар бу санадан кейин ҳам давом этгани маълум бўлган.

Саноатда мустақил таҳлил талабининг кучайиши

Транслусе нотижорат тадқиқот лабораторияси асосчиси ва бош директори Джейкоб Стеинҳардтнинг фикрича, бундай технологиялар лаборатория деворларидан ташқарига чиқиб кетиш хавфига эга ва уларни ж жиддий назорат қилиш шарт. Meta ва Anthropic моделлари иштирокидаги шунга ўхшаш бошқа эпизодлардан сўнг, хавфсизлик бўйича тадқиқотчилар жиддий инсидентлар лабораторияларнинг ўз ихтиёрига эмас, балки мустақил экспертлар томонидан ўрганилиши лозимлигини қаттиқ талаб қилмоқдалар.

Редвоод бош олими Раян Гринблатт ижтимоий тармоқлардаги саҳифасида текширув давомида воқеалар ривожини тўғри тушуниш жуда қийин бўлганини ва асосий тафсилотлар фақат тадқиқот якунигагина ойдинлашганини таъкидлаган. Агар текширув доираси кенгроқ бўлганида, мутахассислар яна қандай яширин ҳолатларни аниқлашлари мумкинлиги ҳозирча номаълумлигича қолмоқда. OpenAI раҳбарияти эса мазкур сўровларга жавоб бермаган.