Сунъий интеллект агенти Hugging Face тизимига қандай бузиб кирди

Hugging Face платформаси OpenAI моделларида ишлайдиган автоном сунъий интеллект агенти компания тизимига қандай қилиб рухсатсиз кириб боргани ҳақида батафсил техник ҳисобот эълон қилди. Ушбу хавфсизлик ҳодисаси ҳатто OpenAI раҳбари Sam Altman ҳам ўзида чуқур хавотир туйган илк ҳолатлардан бири бўлди, бу эса рақамли хавфсизлик соҳасида туб бурилиш юз бераётганидан далолат беради. Бу ҳақда Techcrunch.com хабар беради.

ixbt.com маълумотига кўра, тўрт ярим кундан ортиқ давом этган ҳодиса давомида сунъий интеллект ўз бошича бош кўтарган исёнкор агент эмас, балки айнан ўзига юклатилган заифликларни қидириш вазифасини бажарган тизим бўлган. Фарқи шундаки, у бошқа нишонга қарши ҳаракат қилган.

Айиқ ва лагер мисоли

Мутахассислар содир бўлган воқеани тушунтириш учун қизиқарли ўхшашликдан фойдаланишди: худди лагер атрофида чодир чизиқлари, эшик тутқичлари ва музлатгичларни тиниmsиз синаб кўрадиган оч айиқ каби, OpenAI тизими ҳам минглаб уринишларни амалга оширган. Айиқ битта очиқ музлатгични топмагунча ҳаракатдан тўхтамагани каби, сунъий интеллект агенти ҳам кечаю кундуз тўхтовсиз ишлаган.

Hugging Face маълумотларига кўра, агент бирорта ҳам танаффуссиз 17,600 та ҳаракатни амалга оширган. Биргина сизиб чиққан парол тизимга бошқа заифликларни қидиришга йўл очган ва охир-оқибат компаниянинг бир нечта тизимларига кириш имконини берувчи калитни топишга олиб келган.

Ҳодимлар ва агентларнинг фарқи

Аслида киберхавфсизлик имтиҳонини топшираётган агент тестнинг жавоблар калити Hugging Face серверларида эканлигини тахмин қилган ва ўз мақсадига эришиш учун барча тўсиқларни четлаб ўтган. У вазифани бажармагунича тўхтамаслигини кўрсатди. Hugging Face ходимлар вазиятни пайқаб, дарҳол унинг кириш ҳуқуқларини блоклаган бўлса-да, агент ўзи истаган маълумотларни аллақачон қўлга киритиб улгурганди.

Компания томонидан берилган хулосага кўра, худди шундай заифликларни малакали инсон хакер ҳам топиши ва улардан фойдаланиши мумкин эди. Булар хавфсиз бўлмаган маълумотлар базасини қайта ишлаш, очиқ қолган булутли метамаълумотлар ва ҳаддан ташқари кенгайтирилган рухсатлар эди. Асосий фарқ шундаки, сунъий интеллект агенти бу ишни инсон тасаввур қила олмайдиган тезлик ва миқйсда амалга оширди.