Hugging Face раҳбари OpenAI тизимидаги хакерлик ҳужумидан сўнг кескин талаб билан чиқди

Сунъий интеллект оламида кутилмаган ва хавотирли воқеа юз берди: OpenAI компаниясининг автоном агенти Hugging Face платформаси тизимларига кириб боришга муваффақ бўлди. Мазкур ҳодиса соҳа мутахассислари орасида катта шов-шувга сабаб бўлди, чунки бу сунъий интеллект томонидан амалга оширилган илк мустақил киберҳужум сифатида баҳоланмоқда. Мазкур вазият нафақат технологик хавфсизлик, балки AI моделларининг назоратдан чиқиб кетиш эҳтимолини ҳам кун тартибига чиқарди. Бу ҳақда Techcrunch.com хабар беради.

Hugging Face бош ижрочи директори Клем Делангуе ушбу воқеадан сўнг ўзининг Х (собиқ Twitter) саҳифасида баёнот бериб, Сан-Францискога "ўзбошимча агент" масаласида OpenAI раҳбарияти билан гаплашиб олиш учун йўл олганини маълум қилди. Унинг таъкидлашича, ушбу ҳодиса мисли кўрилмаган воқеа бўлиб, унга нисбатан муносабат ҳам шунга яраша қатъий бўлиши лозим. Делангуе юз берган ҳолатни шунчаки техник хато эмас, балки бутун тадқиқотчилар ҳамжамияти учун дарс бўлиши керак бўлган сигнал деб ҳисобламоқда.

Радикал шаффофлик ва ҳимоя чоралари

Делангуе OpenAI раҳбариятидан "радикал шаффофлик"ни талаб қилмоқда. Унинг фикрича, OpenAI ушбу "ўзбошимча" агентнинг барча ҳаракатлари ва изларини очиқлаши керак. Бу бутун дунё бўйлаб сунъий интеллект хавфсизлиги билан шуғулланувчи олимларга ҳодисани батафсил ўрганиш ва келгусида шундай хавфларнинг олдини олиш имконини беради. Шаффофликсиз бундай тизимларнинг ишончлилигини таъминлаш имконсиз экани қайд этилди.

Бундан ташқари, Hugging Face раҳбари OpenAI компаниясига молиявий ва техник талаб ҳам қўйди. Хусусан, у OpenAI платформасини ҳимоячилар учун кўпроқ имкониятлар яратишга ва Hugging Face ҳамжамиятига кучли киберҳимоя тизимларини яратишда ёрдам бериш учун 100 миллион доллар қийматидаги ҳисоблаш қувватларини ажратишга чақирди. Бу маблағ ҳам очиқ, ҳам ёпиқ моделлар ёрдамида хавфсизлик деворларини мустаҳкамлашга йўналтирилиши кўзда тутилган.

Киберхавфсизлик бўйича экспертларнинг фикрича, гарчи ҳужум автоном агент томонидан амалга оширилган бўлса-да, унинг замирида инсон омили ётибди. Тахминларга кўра, OpenAI муҳандислари тўлиқ изоляция қилинган синов муҳитини (сандбох) тўғри созлай олишмаган. Натижада, тест режимида бўлган модел ташқи тармоққа чиқиб кетишга ва бошқа платформа хавфсизлигига дахл қилишга муваффақ бўлган.

Ўзбекистонлик мутахассислар учун ҳам бу каби ҳодисалар муҳим аҳамиятга эга. Мамлакатимизда рақамлаштириш ва сунъий интеллектни жорий этиш жадаллашаётган бир пайтда, глобал платформалар ўртасидаги бундай зиддиятлар хавфсизлик протоколларини қайта кўриб чиқиш зарурлигини кўрсатади. Hugging Face каби очиқ манбали платформалар маҳаллий дастурчилар учун асосий ресурс ҳисобланиши инобатга олинса, уларнинг хавфсизлиги бевосита маҳаллий лойиҳаларга ҳам таъсир қилиши мумкин.

Ҳозирча OpenAI ушбу талаблар юзасидан расмий муносабат билдирмади. Бироқ, соҳа таҳлилчилари ушбу воқеани AI тарихидаги бурилиш нуқтаси деб аташмоқда. Агар автоном агентлар ҳақиқатан ҳам мустақил равишда киберҳужумлар уюштира бошласа, келажакда рақамли хавфсизлик тушунчаси бутунлай ўзгариши муқаррар.