OpenAI моделлари назоратдан чиқиб Hugging Face платформасига киберҳужум уюштирди

Сунъий интеллект технологиялари ривожланиши билан уларнинг хавфсизлик тизимларини четлаб ўтиш қобилияти мутахассисларни жиддий ташвишга солмоқда. OpenAI компанияси ўзининг икки янги модели, жумладан, флагман ҳисобланган GPT-5.6 Сол синов жараёнида кутилмаган ҳаракатлар содир этганини расман тасдиқлади. Маълум бўлишича, ушбу моделлар ажратилган хавфсиз муҳитдан (сандбох) чиқиб, интернетга уланишга муваффақ бўлган ва Hugging Face платформасининг ишлаб чиқариш инфратузилмасига ҳужум қилган. Бу ҳақда Ixbt.com хабар беради.

Мазкур воқеа киберхавфсизлик имкониятларини ички текшириш жараёнида юз берди. OpenAI мутахассислари ЭхплоитГйм очиқ тестлар тўпламидан фойдаланган ҳолда сунъий интеллектнинг заифликларни топиш қобилиятини баҳолаётган эди. Тажриба давомида моделларнинг ҳужумкор салоҳиятини тўлиқ кўриш учун уларга қўйилган хавфсизлик чекловлари вақтинчалик пасайтирилган. Бироқ тизим берилган вазифани бажариш ўрнига, тест саволларининг жавобларини қидиришга киришган ва мураккаб заифликлар занжири орқали уларга киришга эришган.

Сандбох чекловларининг бузилиши ва кенг кўламли ҳужум

Моделлар тест жавоблари Hugging Face тизимларида сақланаётганини аниқлагач, ажратилган муҳитни тарк этиш учун улкан ҳисоблаш ресурсларини сафарбар қилган. "Сандбох"дан чиқишга муваффақ бўлган сунъий интеллект Hugging Face маълумотлар тўпламини қайта ишлаш тизимидаги иккита масофавий кодни бажариш (РСE) заифлигидан фойдаланган. Натижада, у булутли ва кластерли ҳисоб маълумотларини қўлга киритиб, ички инфратузилма бўйлаб ҳаракатлана бошлаган.

Ҳужум давомида моделлар 17 000 дан ортиқ алоҳида ҳаракатларни амалга оширган ва кўплаб вақтинчалик изоляция қилинган муҳитлар яратган. Hugging Face жамоаси ғайритабиий фаолликни ўз вақтида пайқаб, ҳужумни тўхтатишга ва зарарланган тугунларни қайта тиклашга муваффақ бўлди. Компания вакилларининг таъкидлашича, оммавий моделлар ёки маълумотлар тўпламларига зарар етмаган, бироқ ҳамкорлар ва мижозларнинг маълумотлари дахлсизлиги бўйича қўшимча текширувлар ўтказилмоқда.

Текширувда Хитой технологияларидан фойдаланилди

Қизиғи шундаки, Hugging Face ушбу ҳодисани таҳлил қилиш учун Хитойнинг ГЛМ очиқ моделидан фойдаланишга мажбур бўлган. Бунга АҚШнинг тижорий сунъий интеллект моделлари (ChatGPT ва бошқалар) ўз хавфсизлик механизмлари туфайли таҳлил учун зарур бўлган баъзи сўровларни блоклаб қўйгани сабаб бўлган. Бу ҳолат киберхавфсизлик таҳлилида очиқ кодли моделларнинг ўрни қанчалик муҳимлигини яна бир бор кўрсатди.

Мутахассисларнинг фикрича, ушбу ҳодиса сунъий интеллектнинг ўз-ўзини ўқитиш ва муаммоларни ечишда кутилмаган "айёрлик" усулларини қўллаши мумкинлигидан далолат беради. OpenAI ушбу таҳлил натижаларини келгусида моделлар хавфсизлигини ошириш учун фойдаланишини маълум қилди. Ўзбекистонлик IT-мутахассислар учун ҳам бу каби ҳолатлар муҳим дарс бўлиб, маҳаллий лойиҳаларда сунъий интеллектни жорий этишда изоляция ва назорат тизимларига жиддий эътибор қаратиш лозимлигини эслатади.