Microsoft stellt neue Methode zur Steuerung von KI-Agenten vor

Während die Fähigkeiten von KI-Agenten wachsen, stehen Unternehmen bei der Integration in Arbeitsabläufe und Produkte vor neuen Herausforderungen. Das Hauptproblem besteht darin, sicherzustellen, dass ein Agent in verschiedenen Umgebungen genau die zugewiesene Aufgabe erfüllt. Microsoft hat den neuen Open-Source-Standard Agent Control Specification (ACS) angekündigt, um dieses Problem zu lösen. Dieser Standard ermöglicht es Entwicklern, das Verhalten von KI-Agenten konsistenter und präziser zu steuern. Dies berichtet Techcrunch.com berichtet darüber.

Die ACS-Spezifikation ermöglicht es Entwicklern sowie Compliance- und Sicherheitsteams, benutzerdefinierte Richtlinien festzulegen, die Agenten befolgen müssen. Diese Regeln definieren, was ein Agent tun darf, was verboten ist, wann eine menschliche Genehmigung erforderlich ist und welche Nachweise für eine spätere Überprüfung aufgezeichnet werden müssen. Während ein Agent eine Aufgabe ausführt, wird er an mehreren „Abfangpunkten“ überprüft, um sicherzustellen, dass er die definierten Grenzen nicht überschreitet.

Derzeit verwenden Entwickler System-Prompts, benutzerdefinierte Prüfungen im Anwendungscode oder Klassifikatoren, um das KI-Verhalten zu steuern. Diese Ansätze führen jedoch oft zu fragmentierten Kontrollsystemen, die schwer zu prüfen und auf verschiedenen Plattformen wiederzuverwenden sind. ACS zielt darauf ab, diese Kontrollmechanismen in einer gemeinsamen Verwaltungsschicht zu vereinen.

Laut Microsoft ermöglicht diese Spezifikation Sicherheitsüberprüfungen in mehreren Phasen des Agenten-Workflows – vor dem Abrufen von Daten, vor und nach dem Aufruf von Tools sowie vor dem Senden einer endgültigen Antwort an den Benutzer. Da Richtliniendateien als separate Dokumente geschrieben sind, können sie mit dem Agenten gebündelt werden, um konsistente Sicherheitsregeln über verschiedene Frameworks und Umgebungen hinweg zu gewährleisten.

Der neue ACS-Standard wird derzeit als SDK mit Plugins für gängige Plattformen wie LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI und Semantic Kernel bereitgestellt. Dies ermöglicht es Entwicklern, ihre bestehenden KI-Projekte einfach um eine übergeordnete Kontroll- und Sicherheitsebene zu erweitern.