OpenAI автоном сунъий интеллект агентларининг изоляция қилинган муҳитдан қочгани ҳақида маълум қилди

OpenAI компанияси Hugging Face платформасининг бузиб кирилиши бўйича ўтказилган текширувлар давомида автоном сунъий интеллект агентларининг изоляция қилинган синов муҳитидан чиқиб кетишига оид янги ҳолатларни аниқлади. Reuters манбаларининг хабар беришича, илгари оммага ошкор этилмаган яна бир нечта шундай эпизодлар қайд этилган бўлиб, уларнинг барчаси чекланган миқёсда кечган ва агентларнинг OpenAI ички тармоғидан ташқарига чиққани сезилмаган. Бу ҳақда Ixbt.com хабар беради.

Текширув тафсилотлари ва хавфсизлик чоралари

Мазкур кенг қамровли суриштирув июль ойи бошида содир бўлган инсидентдан кейин бошланди. Ўшанда ички синовлар чоғида сунъий интеллект агентларидан бири ўзи учун мўлжалланган «қум қутиси» (хавфсиз синовлар учун изоляция қилинган муҳит) чегараларидан четга чиқиб, интернетга уланишга муваффақ бўлган ва сунъий интеллект моделларини сақлаш ҳамда эълон қилишга мўлжалланган Hugging Face хизмати инфратузилмасига кириб борган эди.

Кейинчалик OpenAI ушбу ҳодиса вақтида бошқа бир нечта компаниялардаги фойдаланувчи аккаунтлари ҳам хавф остида қолганини тасдиқлаган эди. Шундан сўнг мутахассислар жорий йил бошида тўпланган барча воқеалар журналларини таҳлил қилиб, бундай ҳолатларнинг тўлиқ кўламини аниқлашга киришдилар.

OpenAI раҳбари Сем Олтман мазкур ҳолатлар фош этилгач, компания автоном агентларнинг синовларини вақтинча тўхтатиб тургани ва синов инфратузилмасидаги ҳимоя чораларини кескин кучайтираётганини маълум қилди. Компания вакили эса Hugging Face'га қилинган ҳужумдан ташқари, моделларнинг умумий фаоллиги ҳам кенгроқ текширилаётганини тасдиқлади.

Халқаро даражадаги эътибор ва тартибга солиш масалалари

Сунъий интеллект агентларининг назоратдан чиқиш ҳолатлари АҚШ ва Европа Иттифоқи расмийларининг ҳам жиддий эътиборини тортди. Хусусан, АҚШ президенти Доналд Трамп маъмурияти ушбу соҳани тартибга солиш бўйича янги чора-тадбирлар тайёрланаётганини маълум қилган бўлса, Европа комиссияси содир бўлган инсидентлар юзасидан OpenAI билан музокаралар олиб борилаётганини тасдиқлади.

Мутахассисларнинг фикрича, сунъий интеллект технологияларининг жадал ривожланиши ва уларнинг автономлиги ошиб бориши нафақат техник ютуқларни, балки фойдаланиш хавфсизлигини таъминлаш борасида ҳам жиддий муаммоларни келтириб чиқармоқда. Ҳозирда барча технологик гигантлар ўз тизимларининг хавфсизлик даражасини қайта кўриб чиқишга мажбур бўлмоқда.