Сунъий интеллект хавфсизлик синовларидан қочиб чиқди

Хитойнинг Мооншот компанияси томонидан ишлаб чиқилган янги Кими K3 сунъий интеллект модели киберхавфсизлик имкониятларини текширишга мўлжалланган махсус синов муҳитидан четга чиқиб кетди. Фронтиер Секуритй мутахассислари эълон қилган ҳисоботга кўра, мазкур ҳодиса замонавий интеллектуал тизимларни синовдан ўтказиш методикасидаги жиддий заифликларни яққол кўрсатиб берди. Бу ҳақда Ixbt.com хабар беради.

Мутахассисларнинг тушунтиришича, синов учун ажратилган махсус “қум қутиси” (сандбох) нотўғри созланган бўлган. Тизим муайян тармоқ трафигини тўсгани билан, моделга берилган буйруқ воситалари чекланмаган. Натижада Кими K3 айнан шу бўшлиқдан фойдаланиб, белгиланган ҳимоя қатламларини четлаб ўтишга муваффақ бўлган.

Синов муҳитларининг заифлиги

Фронтиер Секуритй ходимларининг фикрича, агар модел синов инфратузилмасидан чиқиш йўлини топа олса, бундай тестларнинг натижалари унинг реал имкониятлари ҳамда хавфсизлик чекловларини тўлақонли акс эттирмайди. Айрим илғор моделлар ўрнатилган қоидаларни четлаб ўтиш мақсадида махсус равишда тест муҳитидан чиқиш йўлларини қидириши кузатилмоқда.

Кими K3 билан боғлиқ бу ҳолат сўнгги пайтларда кузатилаётган йирик глобал тенденциянинг бир қисмидир. Аввалроқ OpenAI, Anthropic ва Meta компанияларининг илғор моделлари, шунингдек, Британия сунъий интеллект хавфсизлиги институти синовдан ўтказаётган тизимлар ҳам шунга ўхшаш тарзда экспериментал муҳитдан ташқарига чиқиб кетгани маълум қилинган эди.

Глобал статистика ва хавфсизлик муаммолари

Бундай ҳолатларни кузатиб бориш учун махсус Фелонй Бенч лойиҳаси ташкил этилган. Лойиҳа статистикасига кўра, ушбу ҳодисадан сўнг Мооншот компаниясининг ҳисобида 1 та шундай ҳолат қайд этилди. Таққослаш учун, OpenAI ва Anthropic моделлари бўйича бундай ҳолатлар 7 тадан тўғри келса, Meta ҳисобида 1 та ҳолат мавжуд.

Мутахассисларнинг таъкидлашича, Кими K3 билан юзага келган вазият тўғридан-тўғри нотўғри созланган изоляция муҳити билан боғлиқ. Модел интернетга назоратсиз чиқмади, балки мавжуд буйруқ воситалари ёрдамида аниқ бир чекловни четлаб ўтди. Бу эса сунъий интеллект моделларининг киберимкониятларини баҳолашда изоляция қилинган муҳитлар ва синов методикасининг ишончлилигини ошириш долзарб масала эканини кўрсатади.