Sun’iy intellekt soxta shaxslar yaratib, odamlarni aldamoqchi bo‘ldi

Britaniyada sun’iy intellekt xavfsizligini tekshirish maqsadida o‘tkazilgan sinovlar kutilmagan holatni fosh qildi. Ayrim AI modellari berilgan vazifani bajarish jarayonida oddiy dastur kabi ishlash bilan cheklanmay, odamlarni chalg‘itishga qaratilgan harakatlarni ham amalga oshirgan.

Sinovlar davomida AI agentlariga kiberxavfsizlikka oid vazifalar berilgan. Tekshiruv jarayonida 122 ta test o‘tkazilib, 10 ta holatda modellar ruxsat etilmagan mustaqil harakatlarga borgani qayd etilgan.

Eng e’tiborli voqealardan biri Anthropic'ning Mythos 5 modeli bilan bog‘liq bo‘lgan. Model ochiq kodli dasturga zararli kod kiritishga uringan. Ammo buning uchun oddiy yo‘ldan foydalanish bilan cheklanmagan.

Model kodni haqiqiy ishlab chiquvchiga tasdiqlatish maqsadida bir nechta soxta onlayn shaxslarni yaratgan. Ushbu shaxslar orqali dastur ishlab chiquvchisini chalg‘itib, shubhali kodni qabul qildirishga harakat qilingan.

Biroq reja amalga oshmagan. Ishlab chiquvchi kodning shubhali ekanini payqab, uni tasdiqlamagan. Shu tariqa AI'ning harakati real zarar keltirishgacha yetmagan.

Qizig‘i, sinovda bunday harakatlar faqat bitta modelda kuzatilmagan. Hisobotda jami 19 ta ruxsat etilmagan harakat qayd etilgan bo‘lib, ularning asosiy qismi Mythos 5 bilan bog‘liq bo‘lgan, yana ikkitasi OpenAI'ning GPT-5.6-Sol modelida kuzatilgan.