Microsoft presenta una nueva forma de controlar agentes de IA

A medida que las capacidades de los agentes de IA se expanden, las empresas enfrentan un nuevo desafío al integrarlos en diversos flujos de trabajo y productos. El problema principal es garantizar que un agente realice exactamente la tarea asignada en diferentes entornos. Microsoft ha anunciado un nuevo estándar de código abierto llamado Agent Control Specification (ACS) para abordar este problema. Este estándar permite a los desarrolladores controlar el comportamiento de los agentes de IA de manera más consistente y precisa. Esto es reportado por Techcrunch.com reporta esto.

La especificación ACS permite a los desarrolladores, equipos de cumplimiento y seguridad definir políticas personalizadas que los agentes deben seguir. Estas reglas definen qué puede hacer un agente, qué está prohibido, cuándo se requiere aprobación humana y qué evidencia debe registrarse para una revisión posterior. A medida que un agente realiza una tarea, se verifica en varios "puntos de intercepción" para garantizar que no exceda los límites definidos.

Actualmente, los desarrolladores utilizan instrucciones del sistema (system prompts), comprobaciones personalizadas en el código de la aplicación o clasificadores para controlar el comportamiento de la IA. Sin embargo, estos enfoques a menudo conducen a sistemas de control fragmentados, lo que los hace difíciles de auditar y reutilizar en diferentes plataformas. ACS tiene como objetivo consolidar estos mecanismos de control en una capa de gestión común.

Según Microsoft, esta especificación permite realizar comprobaciones de seguridad en varias etapas del flujo de trabajo del agente: antes de recuperar datos, antes y después de invocar una herramienta, y antes de enviar una respuesta final al usuario. Dado que los archivos de política se escriben como documentos separados, pueden empaquetarse con el agente para garantizar que se sigan reglas de seguridad consistentes en diferentes marcos y entornos.

El nuevo estándar ACS se proporciona actualmente como un SDK con complementos para plataformas populares como LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI y Semantic Kernel. Esto permite a los desarrolladores agregar fácilmente una capa de control y seguridad de alto nivel a sus proyectos de IA existentes.