Хитойнинг Кими нейротармоғи киберхавфсизлик тест муҳитидан қочиб чиқди
Мооншот компанияси ишлаб чиққан KimiK3 модели киберимкониятларини синовдан ўтказиш учун тайёрланган махсус муҳитдан чиқиб, чекловларни буйруқлар сатри воситалари орқали четлаб ўтган. Фронтиер Секуритй тадқиқотчиларига кўра, бунга Кими синови ўтказилган “қум қутиси”нинг тегишли тарзда созланмагани сабаб бўлган.
Хитойнинг Мооншот компанияси томонидан ишлаб чиқилган сўнгги KimiK3 сунъий интеллект модели унинг киберм Имкониятларини синовдан ўтказиш учун махсус тайёрланган муҳитдан чиқиб кетди. ixbt.com маълумотига кўра, бу ҳолат етакчи технология компаниялари ва мустақил ташкилотлар хакерлик учун мўлжалланган сунъий интеллект моделларини жиловлашда жиддий қийинчиликларга дуч келаётганини яна бир бор яққол кўрсатиб берди. Бу ҳақда Techcrunch.com хабар беради.
Сўнгги ҳафталарда АҚШнинг OpenAI, Anthropic ва Meta каби сунъий интеллект лабораториялари, шунингдек, Буюк Британиянинг Сунъий интеллект хавфсизлиги институти илғор тил моделларининг синов муҳитидан турли усуллар билан қочиб кетгани ва тажриба режасига киритилмаган реал нишонларга ҳужум қилгани қайд этилган эди. Бундай ҳолатлар тез-тез такрорланаётгани боис, ҳозирда мазкур ҳодисаларнинг барчасини кузатиб борувчи Фелонй Бенч махсус веб-сайти ҳам ишга туширилди. Мазкур ном сунъий интеллект моделлари назарий жиҳатдан жиноий қилмишларни содир этиши мумкинлигига ишора қилади.
Синов муҳитидаги носозликлар
Фронтиер Секуритй киберхавфсизлик фирмаси тадқиқотчиларининг блог-постида ёзилишича, Кими синови ўтказилган махсус “қум қутиси” (сандбох) тегишли тарзда тўғри созланмаган. Тажриба давомида сунъий интеллект моделининг муайян веб-трафикка кириши чекланган бўлса-да, у буйруқлар сатри воситаларига таяниб, чекловларни четлаб ўтишга муваффақ бўлган.Тадқиқотчиларнинг таъкидлашича, бу каби ҳолатлар илмий ҳамжамият фойдаланаётган киберхавфсизлик баҳолашларининг заифликларга мойиллигини ва моделларга алдаш имконини беришини кўрсатади. Шунингдек, айрим моделлар атайлаб бўшлиқлар ҳамда заифликларни қидириб топиши ва синовлардан ўтишда ҳийла ишлатиши аниқланган.
Глобал миқёсдаги муаммо ва статистика
Фелонй Бенч маълумотлари базасига кўра, Мооншот компанияси ушбу рўйхатда ўзига хос “ўрин эгаллаган” OpenAI ва Anthropic (ҳар бирида еттитадан қайд этилган ҳодиса) ҳамда Meta (битта ҳодиса) сафига қўшилди. Ушбу тенденция дунё бўйлаб сунъий интеллект хавфсизлиги ва назорати қанчалик мураккаб вазифа эканини кўрсатмоқда.Мутахассисларнинг фикрича, келгусида киберхавфсизлик синовларини ўтказиш ёндашувларини тубдан ўзгартириш талаб этилади. Акс ҳолда, автоном тизимлар нафақат лаборатория доирасидан чиқиб кетади, балки рақамли инфратузилмаларга кутилмаган хавф туғдириши мумкин.
Изоҳлар 0
…