Tadqiqotchilar: AI-agentlarga ishonchsiz tizim sifatida qarash lozim
Sunʼiy intellekt asosida ishlaydigan agentlar xavfsizligi nafaqat modelning oʻzi, balki butun tizim darajasida taʼminlanishi kerak. Google, Gray Swan AI, EmbraceTheRed va bir qator universitetlar tadqiqotchilari tomonidan eʼlon qilingan yangi hisobotda AI-agentlarni “ishonchsiz komponent” sifatida qabul qilish zarurligi taʼkidlangan. Bu haqda Cointelegraph.com xabar beradi.
Tadqiqotchilarning fikricha, faqatgina modelning mustahkamligini oshirishga qaratilgan anʼanaviy yondashuv yetarli emas. Buning oʻrniga, tizim xavfsizligi sohasidagi usullarni qoʻllash orqali AI-agentlarni tashqi hujumlardan himoya qilish lozim. Bu, ayniqsa, kriptovalyuta sohasida AI-agentlar ommalashib borayotgan bir paytda oʻta muhimdir.
Circle bosh direktori Jeremy Allaire yaqinda bergan bayonotida, kelgusi besh yil ichida foydalanuvchilar nomidan milliardlab AI-agentlar ish yuritishini bashorat qilgan edi. Biroq, xavfsizlik masalalari hal qilinmasa, bu texnologiya katta xavf tugʻdirishi mumkin. Tadqiqotchilar hujumlarning oldini olish uchun uchta asosiy mexanizmni taklif qilmoqdalar.
Birinchidan, AI-agentlar koʻrsatmalar va ishonchsiz maʼlumotlarni aniq farqlashi kerak. Ikkinchidan, agentlarga tizimga toʻliq kirish huquqi emas, balki faqat vazifani bajarish uchun zarur boʻlgan minimal ruxsatlar berilishi lozim. Uchinchidan, maxfiy maʼlumotlarning qayerga yuborilishini agent emas, balki butun tizim nazorat qilishi shart.
Yaqinda Bankr nomli AI-kripto savdo yordamchisi 14 ta hamyonga buzib kirilganidan soʻng tranzaksiyalarni toʻxtatishga majbur boʻldi. Bu kabi holatlar Web3 ilovalari va Solana kabi blokcheynlarda ishlovchi AI-agentlar uchun xavfsizlik tizimini toʻgʻri qurish naqadar muhimligini koʻrsatmoqda.
