Тадқиқотчилар: AI-агентларга ишончсиз тизим сифатида қараш лозим
Сунъий интеллект асосида ишлайдиган агентлар хавфсизлиги нафақат моделнинг ўзи, балки бутун тизим даражасида таъминланиши керак. Google, Грай Сван AI, ЭмбрасеТеРед ва бир қатор университетлар тадқиқотчилари томонидан эълон қилинган янги ҳисоботда AI-агентларни “ишончсиз компонент” сифатида қабул қилиш зарурлиги таъкидланган. Бу ҳақда Cointelegraph.com хабар беради.
Тадқиқотчиларнинг фикрича, фақатгина моделнинг мустаҳкамлигини оширишга қаратилган анъанавий ёндашув етарли эмас. Бунинг ўрнига, тизим хавфсизлиги соҳасидаги усулларни қўллаш орқали AI-агентларни ташқи ҳужумлардан ҳимоя қилиш лозим. Бу, айниқса, криптовалюта соҳасида AI-агентлар оммалашиб бораётган бир пайтда ўта муҳимдир.
Circle бош директори Жеремй Аллаире яқинда берган баёнотида, келгуси беш йил ичида фойдаланувчилар номидан миллиардлаб AI-агентлар иш юритишини башорат қилган эди. Бироқ, хавфсизлик масалалари ҳал қилинмаса, бу технология катта хавф туғдириши мумкин. Тадқиқотчилар ҳужумларнинг олдини олиш учун учта асосий механизмни таклиф қилмоқдалар.
Биринчидан, AI-агентлар кўрсатмалар ва ишончсиз маълумотларни аниқ фарқлаши керак. Иккинчидан, агентларга тизимга тўлиқ кириш ҳуқуқи эмас, балки фақат вазифани бажариш учун зарур бўлган минимал рухсатлар берилиши лозим. Учинчидан, махфий маълумотларнинг қаерга юборилишини агент эмас, балки бутун тизим назорат қилиши шарт.
Яқинда Банкр номли AI-крипто савдо ёрдамчиси 14 та ҳамёнга бузиб кирилганидан сўнг транзакцияларни тўхтатишга мажбур бўлди. Бу каби ҳолатлар Web3 иловалари ва Solana каби блокчейнларда ишловчи AI-агентлар учун хавфсизлик тизимини тўғри қуриш нақадар муҳимлигини кўрсатмоқда.
