Microsoft présente une nouvelle méthode pour contrôler les agents d'IA

Alors que les capacités des agents d'IA se développent, les entreprises sont confrontées à un nouveau défi lors de leur intégration dans divers flux de travail et produits. Le problème principal est de garantir qu'un agent exécute exactement la tâche assignée dans différents environnements. Microsoft a annoncé une nouvelle norme open source appelée Agent Control Specification (ACS) pour résoudre ce problème. Cette norme permet aux développeurs de contrôler le comportement des agents d'IA de manière plus cohérente et précise. C'est ce que rapporte Techcrunch.com rapporte ceci.

La spécification ACS permet aux développeurs, aux équipes de conformité et de sécurité de définir des politiques personnalisées que les agents doivent respecter. Ces règles définissent ce qu'un agent peut faire, ce qui est interdit, quand une approbation humaine est requise et quelles preuves doivent être enregistrées pour un examen ultérieur. Lorsqu'un agent exécute une tâche, il est vérifié à plusieurs « points d'interception » pour s'assurer qu'il ne dépasse pas les limites définies.

Actuellement, les développeurs utilisent des invites système (system prompts), des vérifications personnalisées dans le code de l'application ou des classificateurs pour contrôler le comportement de l'IA. Cependant, ces approches conduisent souvent à des systèmes de contrôle fragmentés, difficiles à auditer et à réutiliser sur différentes plateformes. ACS vise à consolider ces mécanismes de contrôle dans une couche de gestion commune.

Selon Microsoft, cette spécification permet d'effectuer des contrôles de sécurité à plusieurs étapes du flux de travail de l'agent : avant la récupération des données, avant et après l'appel d'un outil, ainsi qu'avant l'envoi d'une réponse finale à l'utilisateur. Comme les fichiers de politique sont écrits sous forme de documents séparés, ils peuvent être regroupés avec l'agent pour garantir le respect de règles de sécurité cohérentes dans différents frameworks et environnements.

La nouvelle norme ACS est actuellement fournie sous forme de SDK avec des plugins pour des plateformes populaires telles que LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI et Semantic Kernel. Cela permet aux développeurs d'ajouter facilement une couche de contrôle et de sécurité de haut niveau à leurs projets d'IA existants.