Microsoft sunʼiy intellekt agentlarini nazorat qilishning yangi usulini taqdim etdi

Sunʼiy intellekt agentlarining imkoniyatlari kengayib borayotgan bir paytda, korxonalar ularni turli ish jarayonlari va mahsulotlarga joriy etishda yangi muammoga duch kelmoqda. Asosiy masala — agentning turli muhitlarda aynan belgilangan vazifani bajarishini taʼminlashdir. Microsoft ushbu muammoni hal qilish uchun Agent Control Specification (ACS) deb nomlangan yangi ochiq kodli standartni eʼlon qildi. Bu standart dasturchilarga AI agentlarining xatti-harakatlarini yanada izchil va aniq nazorat qilish imkonini beradi. Bu haqda Techcrunch.com xabar beradi.

ACS spetsifikatsiyasi dasturchilar, muvofiqlik va xavfsizlik guruhlariga agentlar amal qilishi kerak boʻlgan shaxsiy siyosatlarni belgilash imkonini beradi. Ushbu qoidalar agent nima qilishi mumkinligi, nima taqiqlanganligi, qachon inson tasdigʻi talab qilinishi va keyinchalik koʻrib chiqish uchun qanday dalillar qayd etilishi kerakligini belgilaydi. Agent biror topshiriqni bajarayotganda, uning belgilangan chegaralardan chiqib ketmasligi bir nechta “tutib qolish nuqtalari”da tekshirib boriladi.

Hozirgi vaqtda dasturchilar AI xatti-harakatlarini nazorat qilish uchun tizim koʻrsatmalari (system prompt), ilova kodidagi maxsus tekshiruvlar yoki klassifikatorlardan foydalanmoqda. Biroq, bu yondashuvlar koʻpincha tarqoq nazorat tizimlarini yuzaga keltirib, ularni audit qilish va turli platformalarda qayta ishlatishni qiyinlashtiradi. ACS ushbu nazorat mexanizmlarini umumiy boshqaruv qatlamiga birlashtirishni maqsad qilgan.

Microsoft maʼlumotlariga koʻra, ushbu spetsifikatsiya agent ish jarayonining bir necha bosqichida — maʼlumot olishdan oldin, vositani chaqirishdan oldin va keyin, shuningdek, foydalanuvchiga yakuniy javob yuborilishidan oldin xavfsizlikni tekshirish imkonini beradi. Siyosat fayllari alohida hujjat sifatida yozilgani sababli, ular agent bilan birga paketlanishi va turli freymvorklar hamda muhitlarda bir xil xavfsizlik qoidalariga amal qilinishini taʼminlashi mumkin.

Yangi ACS standarti hozirda LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI va Semantic Kernel kabi mashhur platformalar uchun plaginlarga ega SDK koʻrinishida taqdim etilmoqda. Bu esa dasturchilarga oʻzlarining mavjud AI loyihalariga yuqori darajadagi boshqaruv va xavfsizlik qatlamini osonlik bilan qoʻshish imkonini beradi.