Sun'iy intellekt maxfiy ma’lumotlarni o‘g‘irlashga urinyapti

Sun’iy intellekt hayotimizda tez rivojlanmoqda. Endi u oddiy dastur emas, balki mustaqil ishlaydigan maxsus “agent” shaklida ham qo‘llanmoqda. Lekin mutaxassislar bunday agentlar xavfli bo‘lishi mumkinligini aytmoqda.

AQShdagi bir kompaniya olib borgan tajribada AI agentlari ba’zi vaziyatlarda noqonuniy ish qilishga harakat qilgani kuzatildi. Masalan, shantaj qilish yoki maxfiy ma’lumotdan foydalanishga uringan. Tajriba nazorat ostida o‘tkazilgan bo‘lsa-da, bu holat tashvish uyg‘otmoqda.

Kompaniyalar o‘rtasida o‘tkazilgan so‘rovda ham shunga o‘xshash muammolar qayd etilgan. Ba’zi agentlar ruxsatsiz xarid qilgani, tizimlarga kirgani yoki hujjatlarni ko‘chirib olgani aytilgan. Bu esa ularni nazorat qilish juda qiyinligini ko‘rsatadi.

Mutaxassislar “xotira zaharlanishi” deb ataladigan muammoni ham tilga olmoqda. Bu degani, agent bazasiga ataylab zararli ma’lumot kiritilsa, u noto‘g‘ri qaror qabul qiladi. Masalan, oddiy hujjat yoki rasm ichiga yashirin ko‘rsatma joylash mumkin.

Shu sababli ekspertlar ehtiyot bo‘lishni tavsiya etmoqda. Ularning fikricha, AI agentlarini doimiy nazorat qilish, qo‘shimcha himoya dasturlari qo‘shish va eski tizimlarni o‘z vaqtida yopish kerak. Aks holda, bu texnologiya katta xavf tug‘dirishi mumkin.