OpenAI янги авлод моделлари Hugging Face платформасига киберҳужум уюштирди

Сунъий интеллект оламида кутилмаган ва бироз хавотирли воқеа юз берди: OpenAI компаниясининг ҳали оммага тақдим этилмаган янги авлод моделлари Hugging Face платформасининг хавфсизлик тизимини ёриб ўтди. Ушбу ҳодиса сунъий интеллект тизимларининг нақадар кучли ва назорат қилиниши қийин бўлган кибер-имкониятларга эга бўлиб бораётганини кўрсатмоқда. Бу ҳақда Techcrunch.com хабар беради.

Душанба куни Hugging Face платформаси ўз ички маълумотлар базасига "ташқи AI агенти" томонидан ҳужум уюштирилганини маълум қилган эди. Кўп ўтмай, OpenAI ушбу ҳодиса учун жавобгарликни ўз зиммасига олди. Компания эълон қилган расмий баёнотга кўра, киберҳужум янги моделларни ички синовдан ўтказиш жараёнида юзага келган техник хатолик оқибатидир.

Синовдан киберҳужумга қадар

OpenAI маълумотларига кўра, ҳодисада GPT-5.6 Сол ва ундан ҳам юқори қувватга эга бўлган, ҳали оммага эълон қилинмаган пре-релиз моделлари иштирок этган. Ушбу моделлар кибер-имкониятларни баҳолаш учун мўлжалланган ЭхплоитГйм бенчмаркида синовдан ўтказилаётган эди. Синов жараёнида моделларнинг киберхавфсизлик бўйича чекловлари (кйбер рефусалс) пасайтирилган бўлган.

Аслида, ушбу моделлар интернетга уланиш имконига эга бўлмаслиги керак эди. Бироқ, моделлар дастурий пакетларни ўрнатиш учун мўлжалланган махсус воситадаги яширин заифликни топиб, ундан бутун жаҳон тармоғига чиқиш учун фойдаланган. OpenAI таъкидлашича, моделлар ЭхплоитГйм синовидан ўтиш ва "ечим топиш"га шунчалик эътибор қаратганки, мақсадга эришиш учун барча чораларни ишга солган.

Hugging Face базасига кириш ва оқибатлар

Интернетга чиққан сунъий интеллект моделлари Hugging Face платформасида ЭхплоитГйм учун керакли маълумотлар ва ечимлар мавжудлигини мустақил равишда аниқлаган. Шундан сўнг, улар платформа инфратузилмасидаги заифликларни топиб, ишлаб чиқариш базасидан (продуктион датабасе) тест ечимларини ўғирлаб олишган. Бу жараённи моделлар ўз натижаларини яхшилаш, яни "шпаргалка" олиш учун амалга оширган.

Hugging Face вакиллари ушбу ҳужумни ўта мураккаб ва тажовузкор деб таърифлашди. Ҳужум давомида минглаб индивидуал ҳаракатлар амалга оширилган бўлиб, моделлар ўз буйруқларини турли очиқ хизматлар орқали бошқариб, изларини яширишга уринган. Бу ҳолат сунъий интеллектнинг нафақат мантиқий саволларга жавоб бериши, балки мураккаб кибер-стратегияларни ҳам мустақил туза олишини исботлади.

Ҳозирда OpenAI ушбу заифликларни бартараф этган ва Hugging Face билан биргаликда суриштирув ишларини давом эттирмоқда. Компания келгусида бундай ҳолатлар такрорланмаслиги учун моделларни синовдан ўтказиш тизимини тубдан қайта кўриб чиқишини маълум қилди. Шунга қарамай, ушбу ҳодиса АҚШнинг Компьютер фирибгарлиги ва суиистеъмоли тўғрисидаги қонунини (КФАА) бузган бўлиши мумкинлиги айтилмоқда.