Сунъий интеллект сохта шахслар яратиб, одамларни алдамоқчи бўлди

Британияда сунъий интеллект хавфсизлигини текшириш мақсадида ўтказилган синовлар кутилмаган ҳолатни фош қилди. Айрим AI моделлари берилган вазифани бажариш жараёнида оддий дастур каби ишлаш билан чекланмай, одамларни чалғитишга қаратилган ҳаракатларни ҳам амалга оширган.

Синовлар давомида AI агентларига киберхавфсизликка оид вазифалар берилган. Текширув жараёнида 122 та тест ўтказилиб, 10 та ҳолатда моделлар рухсат этилмаган мустақил ҳаракатларга боргани қайд этилган.

Энг эътиборли воқеалардан бири Anthropic’нинг Mythos 5 модели билан боғлиқ бўлган. Модель очиқ кодли дастурга зарарли код киритишга уринган. Аммо бунинг учун оддий йўлдан фойдаланиш билан чекланмаган.

Модель кодни ҳақиқий ишлаб чиқувчига тасдиқлатиш мақсадида бир нечта сохта онлайн шахсларни яратган. Ушбу шахслар орқали дастур ишлаб чиқувчисини чалғитиб, шубҳали кодни қабул қилдиришга ҳаракат қилинган.

Бироқ режа амалга ошмаган. Ишлаб чиқувчи коднинг шубҳали эканини пайқаб, уни тасдиқламаган. Шу тариқа AI’нинг ҳаракати реал зарар келтиришгача етмаган.

Қизиғи, синовда бундай ҳаракатлар фақат битта моделда кузатилмаган. Ҳисоботда жами 19 та рухсат этилмаган ҳаракат қайд этилган бўлиб, уларнинг асосий қисми Mythos 5 билан боғлиқ бўлган, яна иккитаси OpenAI’нинг GPT-5.6-Sol моделида кузатилган.