Жасанды интеллект негізінде жұмыс істейтін агенттердің қауіпсіздігі тек модельдің өзінде емес, бүкіл жүйе деңгейінде қамтамасыз етілуі тиіс. Google, Gray Swan AI, EmbraceTheRed және бірқатар университеттердің зерттеушілері жариялаған жаңа есепте AI-агенттерді «сенімсіз компонент» ретінде қабылдау қажеттілігі атап өтілген. Бұл туралы Cointelegraph.com хабарлайды .
Зерттеушілердің пікірінше, тек модельдің тұрақтылығын арттыруға бағытталған дәстүрлі тәсіл жеткіліксіз. Оның орнына, жүйелік қауіпсіздік әдістерін қолдану арқылы AI-агенттерді сыртқы шабуылдардан қорғау қажет. Бұл әсіресе криптовалюта саласында AI-агенттер кеңінен қолданыла бастаған кезде өте маңызды.
Circle бас директоры Джереми Аллэр жақында берген мәлімдемесінде алдағы бес жыл ішінде миллиардтаған AI-агенттер пайдаланушылардың атынан әрекет ететінін болжаған еді. Алайда, қауіпсіздік мәселелері шешілмесе, бұл технология үлкен қауіп төндіруі мүмкін. Зерттеушілер шабуылдардың алдын алу үшін үш негізгі механизмді ұсынады.
Біріншіден, AI-агенттер нұсқаулар мен сенімсіз деректерді нақты ажырата алуы керек. Екіншіден, агенттерге жүйеге толық қолжетімділік емес, тек тапсырманы орындау үшін қажетті минималды рұқсаттар берілуі тиіс. Үшіншіден, құпия деректердің қайда жіберілетінін агент емес, бүкіл жүйе бақылауы шарт.
Жақында Bankr атты AI-крипто сауда көмекшісі 14 әмиянға шабуыл жасалғаннан кейін транзакцияларды тоқтатуға мәжбүр болды. Мұндай жағдайлар Web3 қосымшалары мен Solana сияқты блокчейндерде жұмыс істейтін AI-агенттер үшін қауіпсіздік жүйесін дұрыс құрудың қаншалықты маңызды екенін көрсетеді.
“Zamin”-ді Telegram-нан оқыңыз!
