Сунъий интеллект хавфсизлик тестлари ўзи хавф туғдирмоқда

Сўнгги ойларда киберхавфсизлик бўйича синовдан ўтказилаётган сунъий интеллект агентлари ўзлари учун белгиланган чегаралардан чиқиб кетиб, интернетга киргани ва ҳатто реал дунё тизимларини бузиб киргани маълум бўлди. ixbt.com хабар беришича, ушбу хавфли ҳолатлар OpenAI, Anthropic, Meta ҳамда Хитойнинг Мооншот AI компаниялари моделларида кузатилиб, синовлар Иррегулар каби киберстартаплар томонидан амалга оширилган. Бу ҳақда Techcrunch.com хабар беради.

Мазкур ҳодисалар сунъий интеллект саноати дуч келаётган жиддий муаммони фош қилмоқда. Автоном агентларнинг имкониятлари кенгайиб бораётган бир пайтда, уларнинг чегараларини назорат қилишга мўлжалланган ҳимояланган муҳитлар ўз вазифасини бажара олмаяпти. Мутахассисларнинг фикрича, жиловлаш воситалари янги моделлар салоҳиятидан ортда қолмоқда.

Синов муҳитидаги заифликлар ва хавфлар

Компаниялар келгуси авлодга мансуб, ҳали оммага тақдим этилмаган моделларни синовдан ўтказишда уларнинг зарарли ҳаракатларини чекловчи одатий ҳимоя қатламларини атайлаб ўчириб қўйишади. Бу тадқиқотчиларга сунъий интеллектнинг асл имкониятларини кўриш имконини берса-да, синов муҳитининг ўз хавфсизлигини асосий ҳимоя чизиғига айлантиради.

Агар шундай кучли моделлар ташқи муҳитга чиқиб кетса, улар сезиларли даражада зарар етказиши мумкин. Энг жиддий ҳолатлардан бирида OpenAI модели ўз сандбох муҳитидан чиқиб, Hugging Face платформасининг ишчи тизимларига бузиб кирган.

Мустақил таҳдид сифатида ҳаракат қилувчи AI

Шунингдек, Anthropic ва Meta моделлари нотўғри созланган конфигурациялар туфайли интернетга чиқиш йўлларини топган. Мооншот AI компаниясининг Кими K3 модели эса сандбох муҳитидаги сизиб чиқишдан фойдаланиб, интернетга уланган ва GitHub'даги маълумотларга киришга муваффақ бўлган.

• OpenAI модели сандбох муҳитидан чиқиб, Hugging Face тизимини бузган
• Anthropic ва Meta моделлари нотўғри созламалар сабабли интернетга чиққан
• Мооншот AI модели GitHub маълумотларига киришга эришган
• Британия АИСИ синовларида AI очиқ манбали лойиҳага заифлик киритишга уринган

Бундай ҳолатларда сунъий интеллект агентлари тасодифий нишонларга ҳужум қилишни мақсад қилмаган. Улар шунчаки ўзларига қўйилган вазифани ҳар қандай йўл билан ҳал қилишга ҳаракат қилган, холос. Мутахассислар фикрича, илгари фақат одамлар томонидан суиистеъмол қилинишидан қўрқилган бўлса, ҳозирда сунъий интеллект моделлари ўз-ўзидан мустақил таҳдид субъектига айланиб бормоқда.