Microsoft, yapay zeka ajanlarını kontrol etmek için yeni bir yöntem sundu

Yapay zeka ajanlarının yetenekleri genişledikçe, işletmeler bunları iş akışlarına ve ürünlerine entegre ederken yeni zorluklarla karşılaşıyor. Temel sorun, ajanın farklı ortamlarda tam olarak belirlenen görevi yerine getirmesini sağlamaktır. Microsoft, bu sorunu çözmek için Agent Control Specification (ACS) adlı yeni bir açık kaynak standardı duyurdu. Bu standart, geliştiricilerin AI ajanlarının davranışlarını daha tutarlı ve hassas bir şekilde kontrol etmelerini sağlıyor. Bu konuda Techcrunch.com haber veriyor.

ACS spesifikasyonu; geliştiricilerin, uyumluluk ve güvenlik ekiplerinin ajanların uyması gereken kişisel politikaları belirlemesine olanak tanır. Bu kurallar, ajanın ne yapabileceğini, nelerin yasak olduğunu, ne zaman insan onayı gerektiğini ve daha sonra incelenmek üzere hangi kanıtların kaydedilmesi gerektiğini tanımlar. Bir ajan görevini yerine getirirken, belirlenen sınırların dışına çıkmaması birkaç "yakalama noktası"nda kontrol edilir.

Şu anda geliştiriciler, AI davranışlarını kontrol etmek için sistem komutları (system prompt), uygulama kodundaki özel kontroller veya sınıflandırıcılar kullanıyor. Ancak bu yaklaşımlar genellikle dağınık kontrol sistemlerine yol açarak denetimlerini ve farklı platformlarda yeniden kullanılmalarını zorlaştırıyor. ACS, bu kontrol mekanizmalarını ortak bir yönetim katmanında birleştirmeyi amaçlıyor.

Microsoft'a göre bu spesifikasyon, güvenlik kontrollerinin ajan iş akışının birkaç aşamasında (veri almadan önce, araç çağırmadan önce ve sonra, ayrıca kullanıcıya nihai yanıt gönderilmeden önce) yapılmasını sağlar. Politika dosyaları ayrı bir belge olarak yazıldığından, ajanla birlikte paketlenebilir ve farklı çerçevelerde ve ortamlarda aynı güvenlik kurallarına uyulmasını sağlayabilirler.

Yeni ACS standardı şu anda LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI ve Semantic Kernel gibi popüler platformlar için eklentilere sahip bir SDK biçiminde sunulmaktadır. Bu, geliştiricilerin mevcut AI projelerine yüksek düzeyde yönetim ve güvenlik katmanını kolayca eklemelerine olanak tanır.