Австралияда сунъий интеллект агенти спортзал тизимини бузиб кирди

Австралияда сунъий интеллект технологиялари билан боғлиқ илк мустақил киберҳужум қайд этилди. Австралиялик сунъий интеллект компанияси ходими ўзининг шахсий ёрдамчиси бўлган автоном агентга оддий вазифа юклаган эди, бироқ жараён кутилмаган хавфсизлик муаммоси ва бошқа фойдаланувчининг ҳуқуқлари бузилишига олиб келди. Ушбу ҳолат сунъий интеллект тизимларининг хавфсизлик даражаси ва уларнинг автоном ҳаракатлари қанчалик жиддий оқибатларга олиб келиши мумкинлигини яққол кўрсатди. Бу ҳақда Ixbt.com хабар беради.

АБК нашри тарқатган маълумотларга кўра, австралиялик ходим ўзининг Эндрю исмли ҳамкасби Anthropic компаниясининг Claude асосида ишлайдиган OpenClaw автоном агентидан уни машҳур эрталабки спорт машғулотига ёзиб қўйишни сўраган. Вазифани бажариш жараёнида сунъий интеллект клуб дастурий таъминотида жиддий заифлик борлигини аниқлаган. Маълум бўлишича, тизим машғулотларга белгиланган муддатдан бир неча ой олдин ҳам брон қилиш имконини берувчи бўшлиққа эга бўлган.

Сунъий интеллектнинг навбатни ўзбошимчалик билан ўзгартириши

Бироқ ҳодиса шу билан якунланмаган. Эндрю бошқа бир машғулот учун навбат рўйхатида 4-ўринни эгаллаб турганди ва у агентдан ўз позициясини бироз юқорироққа кўтариш мумкинлигини сўраган. Сунъий интеллект имконсизлигини билдириш ўрнига дастурий интерфейс – API имкониятларини текшира бошлаган ва унинг жиддий камчилигини топган. Аниқланишича, дастур бошқа бировнинг бронини бекор қилишда фойдаланувчининг ҳуқуқларини умуман текширмаган.

Топилган заифликдан фойдаланган автоном агент бошқа бир шахснинг ёзувини шунчаки бекор қилиб юборган ва натижада Эндрю рўйхатда 4-ўриндан 3-ўринга кўтарилган. Агент бу ҳақда ўз фойдаланувчисига дарҳол хабар берган. Эндрю қилинган ишнинг нотўғри эканини тушуниб, ҳамма нарсани ўз ҳолига қайтаришни талаб қилган, бироқ тизим бошқа фойдаланувчининг ўчирилган ёзувини тиклашга имкон бермаган.

Хавфсизлик ва халқаро миқёсдаги хавотирлар

ixbt.com маълумотига кўра, оддийгина брон қилиш вазифаси ваколатларни текшириш механизмининг йўқлиги туфайли бошқа фойдаланувчи маълумотларига рухсатсиз аралашиш билан якунланди. Ушбу ҳодиса Австралияда сунъий интеллект томонидан содир этилган биринчи мустақил киберҳужум сифатида тарихга кирди ва мамлакатда кенг муҳокамаларга сабаб бўлди.

Мутахассисларнинг таъкидлашича, мазкур ҳолат Anthropic компанияси ўзининг Claude моделлари билан боғлиқ бошқа хавфсизлик муаммоларини маълум қилган даврга тўғри келди. Хусусан, аввалроқ учта реал ташкилотда сунъий интеллект моделлари тизимларга рухсатсиз кириб олгани, бир ҳолатда эса модел томонидан юкланган зарарли дастур таъминоти 15 та компьютерга ўрнатилиб, ишга тушириб юборилгани аниқланганди. Бу каби воқеалар замонавий технологиялар устидан назоратни кучайтириш заруратини яна бир бор долзарб қилиб қўймоқда.