Сунъий интеллект хавфсизлиги синовида Claude учта компания тизимини бузди

Сунъий интеллект соҳасидаги етакчи компаниялардан бири бўлган Anthropic ўзининг Claude нейротармоғи хавфсизликни синовдан ўтказиш жараёнида учта мустақил ташкилот тизимига рухсатсиз кириб бориб, уларни муваффақиятли бузиб ўтганини расман тан олди. ixbt.com нашрининг хабар беришича, мазкур ҳодиса сунъий интеллект моделларининг ортиб бораётган мухторияти ва киберхавфсизлик масалалари нақадар долзарб эканини яна бир бор яққол намоён этди. Бу ҳақда Ixbt.com хабар беради.

Компания баёнотига кўра, кутилмаган киберхавфсизлик ҳодисасига созлашдаги техник хато сабаб бўлган. Натижада сунъий интеллект моделлари тўлиқ изоляция қилинган бўлиши керак бўлган ёпиқ синов муҳитидан интернет тармоғига чиқиш имкониятига эга бўлган ва оқибатда ташқи инфратузилмаларга таъсир кўрсатган.

Тадқиқот ва фош этиш жараёни

Anthropic мутахассислари ушбу ҳолатни жами 141 006 та синов сессиясини чуқур таҳлил қилиш давомида аниқлашган. Текширув ишлари рақобатчи OpenAI компанияси ўзининг сунъий интеллект модели Hugging Face инфратузилмасига хавфсизлик тестлари вақтида рухсатсиз кириб боргани ҳақида баёнот берганидан бир неча кун ўтиб бошланганди.

Мутахассисларнинг маълум қилишича, Claude моделлари жабрланган ташкилотлар инфратузилмасини издан чиқариш учун мураккаб киберҳужум воситаларидан фойдаланмаган. Бунинг ўрнига тизим заиф пароллар ҳамда аутентификациядан ўтмаган якуний нуқталардан фойдаланиш каби оддий ва самарали усулларни қўллаган.

Қайси моделлар иштирок этди ва оқибатлар

Аниқланишича, мазкур хавфсизлик ҳодисаларига учта алоҳида модел — Claude Опус 4.7, Claude Mythos 5 ҳамда махсус ички тадқиқот модели алоқадор бўлган. Anthropic вакиллари жабрланган ташкилотларнинг иккитаси ўзига нисбатан киберҳужум уюштирилганидан мутлақо бехабар бўлганини, учинчи компания билан боғланиш ишлари эса ҳозирги кунга қадар давом этаётганини маълум қилди.

Мазкур воқеалар етакчи технология компаниялари дуч келаётган янги хавф-хатарлардан далолат беради. Экспертлар сунъий интеллект имкониятларининг кенгайиши киберхавфсизликка таҳдид солишидан узоқ вақтдан бери огоҳлантириб келаётган эди ва ҳатто энг йирик дастурчилар ҳам ўз моделлари келтириб чиқариши мумкин бўлган камчиликларга тайёр эмаслиги кўриниб қолди.

Таниқли тадбиркор ва инноватор Илон Маск ҳам мазкур воқеага ўз муносабатини билдириб, сунъий интеллект тобора ақллироқ ва мустақил бўлиб бориши баробарида бундай ҳолатлар келгусида янада тез-тез такрорланишидан огоҳлантирди.