Microsoft сунъий интеллект агентларини назорат қилишнинг янги усулини тақдим этди

Сунъий интеллект агентларининг имкониятлари кенгайиб бораётган бир пайтда, корхоналар уларни турли иш жараёнлари ва маҳсулотларга жорий этишда янги муаммога дуч келмоқда. Асосий масала — агентнинг турли муҳитларда айнан белгиланган вазифани бажаришини таъминлашдир. Microsoft ушбу муаммони ҳал қилиш учун Агент Контрол Спецификатион (АКС) деб номланган янги очиқ кодли стандартни эълон қилди. Бу стандарт дастурчиларга AI агентларининг хатти-ҳаракатларини янада изчил ва аниқ назорат қилиш имконини беради. Бу ҳақда Techcrunch.com хабар беради.

АКС спецификацияси дастурчилар, мувофиқлик ва хавфсизлик гуруҳларига агентлар амал қилиши керак бўлган шахсий сиёсатларни белгилаш имконини беради. Ушбу қоидалар агент нима қилиши мумкинлиги, нима тақиқланганлиги, қачон инсон тасдиғи талаб қилиниши ва кейинчалик кўриб чиқиш учун қандай далиллар қайд этилиши кераклигини белгилайди. Агент бирор топшириқни бажараётганда, унинг белгиланган чегаралардан чиқиб кетмаслиги бир нечта “тутиб қолиш нуқталари”да текшириб борилади.

Ҳозирги вақтда дастурчилар AI хатти-ҳаракатларини назорат қилиш учун тизим кўрсатмалари (сйстем промпт), илова кодидаги махсус текширувлар ёки классификаторлардан фойдаланмоқда. Бироқ, бу ёндашувлар кўпинча тарқоқ назорат тизимларини юзага келтириб, уларни аудит қилиш ва турли платформаларда қайта ишлатишни қийинлаштиради. АКС ушбу назорат механизмларини умумий бошқарув қатламига бирлаштиришни мақсад қилган.

Microsoft маълумотларига кўра, ушбу спецификация агент иш жараёнининг бир неча босқичида — маълумот олишдан олдин, воситани чақиришдан олдин ва кейин, шунингдек, фойдаланувчига якуний жавоб юборилишидан олдин хавфсизликни текшириш имконини беради. Сиёсат файллари алоҳида ҳужжат сифатида ёзилгани сабабли, улар агент билан бирга пакетланиши ва турли фреймворклар ҳамда муҳитларда бир хил хавфсизлик қоидаларига амал қилинишини таъминлаши мумкин.

Янги АКС стандарти ҳозирда LangChain, OpenAI Агентс SDK, Anthropic Агентс SDK, АутоГен, КревAI ва Семантик Кернел каби машҳур платформалар учун плагинларга эга SDK кўринишида тақдим этилмоқда. Бу эса дастурчиларга ўзларининг мавжуд AI лойиҳаларига юқори даражадаги бошқарув ва хавфсизлик қатламини осонлик билан қўшиш имконини беради.