Anthropic сунъий интеллект моделлари синов вақтида тармоқларга кирди

Сунъий интеллект соҳасидаги етакчи компаниялардан бири бўлган Anthropic ўзининг Claude оиласига мансуб бир нечта моделлари ички киберхавфсизлик синовлари жараёнида учта компания тизимларига рухсатсиз кириб олганини маълум қилди. ixbt.com хабар беришича, ушбу ҳодиса "операцион носозлик" деб баҳоланган ва шундан сўнг барча синов жараёнлари жорий йилнинг 23-июльида вақтинча тўхтатилган. Бу ҳақда Ixbt.com хабар беради.

Мазкур инсидентлар 141 мингдан ортиқ тест сессиялари текширилгандан сўнг аниқланган. Ушбу текширув шундоққина OpenAI ўзининг автоном сунъий интеллект агенти Hugging Face платформасига рухсатсиз киргани ҳақида хабар берганидан кўп ўтмай бошланган эди. Anthropic таъкидлашича, бунга синовларни ташкил этишдаги хатолик сабаб бўлган.

Синовдаги хатолик ва тармоққа уланиш

Аслида моделлар интернет тармоғига уланмаган ҳолда ишлаши керак эди, бироқ "тушунмовчилик туфайли улар оммавий тармоққа уланиб қолган". Тармоққа кириш имкониятига эга бўлган Claude Опус 4.7, Claude Mythos 5 ва битта ички экспериментал модел оддий усуллар, жумладан, заиф паролларни танлаш ҳамда ҳимояланмаган тармоқ интерфейсларидан фойдаланган ҳолда учта ташкилот инфратузилмасига киришга муваффақ бўлган.

Энг қизиқарли ҳолатлардан бири Claude Опус 4.7 модели билан боғлиқ ҳолда юз берди. Компьютер тармоғидан яширин маълумотларни қидириш бўйича ўқув сценарийси бўлган Каптуре те Флаг топшириғини бажариш чоғида сунъий интеллектга тасодифан реал мавжуд компания номи билан бир хил бўлган уйдирма ном берилган. Натижада сунъий интеллект топилган реал серверлар синовнинг бир қисми деб ўйлаб, заифликларни мустақил равишда аниқлаган ҳамда маълумотлар базасига кириш ҳуқуқини қўлга киритган.

Хавфсизлик чоралари ва кейинги қадамлар

Бошқа бир ҳолатда эса ҳали оммага тақдим этилмаган тадқиқот модели нишон синов муҳити эмас, балки ҳақиқий компания эканлигини тушуниб етгач, ҳужумни ўз-ўзидан тўхтатган. Anthropic жабрланган ташкилотларга бу ҳақда 27-июль куни хабар берган. Улардан иккитаси содир бўлган воқеадан олдиндан хабардор бўлмаган, учинчи компания билан эса алоқа ўрнатиш ишлари давом этмоқда.

Компаниянинг ҳамкори ҳисобланган Иррегулар киберхавфсизлик лабораторияси ҳам мазкур ҳолат юзасидан ўз текширувини олиб бормоқда. Anthropic вакиллари замонавий сунъий интеллект моделларининг имкониятлари кенгайиб бориши сари мавжуд назорат механизмлари етарли бўлмай қолаётгани ва уларни ҳам ички, ҳам ташқи синов муҳитларида жиддий кучайтириш зарурлигини тан олишди.

Мазкур инсидент АҚШ расмийларининг янги сунъий интеллект тизимлари хавфсизлигига бўлган эътиборининг кескинлашуви фонида содир бўлди. OpenAI билан боғлиқ шунга ўхшаш воқеалардан сўнг мамлакат раҳбарияти энг қувватли моделларни синовдан ўтказишнинг янги тизимини тайёргарлигини бошлаб юборган эди. Ҳозирда OpenAI ва Anthropic компаниялари келгусидаги сунъий интеллект тизимлари хавфсизлиги масалаларини Америка регуляторлари ҳамда қонунчилари билан муҳокама қилмоқда.