Patronus AI sammelt 50 Millionen Dollar zum Testen von AI-Agenten

Heutzutage entwickeln sich Technologien der künstlichen Intelligenz (AI) von der einfachen Beantwortung von Fragen hin zu Agenten, die komplexe und mehrstufige Aufgaben unabhängig ausführen können. Bevor man diesen Agenten jedoch verantwortungsvolle Aufgaben wie Finanzanalysen oder Reisebuchungen überträgt, bleibt die Überprüfung ihrer Zuverlässigkeit eines der dringendsten Probleme. Das Startup Patronus AI, gegründet von ehemaligen Meta AI-Forschern, hat 50 Millionen Dollar eingesammelt, um genau dieses Problem zu lösen. Dies berichtet Techcrunch.com Nachrichten berichtet.

Diese Mittel, die im Rahmen einer von Greenfield Partners angeführten Series-B-Finanzierungsrunde mobilisiert wurden, erhöhten das Gesamtkapital des Unternehmens auf 70 Millionen Dollar. An der Runde beteiligten sich auch große Investoren wie Notable Capital, Lightspeed, Datadog und Samsung. Dieses hohe Interesse belegt die enorme Nachfrage nach den Lösungen von Patronus AI.

Digitale Welten und Stresstests

Patronus AI erstellt mithilfe seiner "digitalen Weltmodelle" Kopien von Websites und internen Systemen. In diesen simulierten Umgebungen werden AI-Agenten unter verschiedenen unerwarteten Szenarien Stresstests unterzogen. Dieser Prozess ähnelt der Methode von Unternehmen wie Waymo beim Testen autonomer Fahrzeuge: Bevor das Auto auf die Straße geht, bereitet es sich in einer virtuellen Welt auf gefährliche Situationen vor, wie schlechtes Wetter oder ein Kind, das plötzlich auf die Straße läuft.

Derzeit nutzen viele AI-Labore verschiedene Benchmarks, um die Fähigkeiten ihrer Modelle zu demonstrieren. Ein hoher Score garantiert jedoch nicht immer, dass die künstliche Intelligenz komplexe Aufgaben in der realen Welt fehlerfrei ausführt. Das von Patronus AI entwickelte System erkennt, wenn Agenten versuchen zu "schummeln" – also versuchen, Ergebnisse über Abkürzungen zu erreichen, ohne die Aufgabe vollständig zu lösen – und zwingt sie zur korrekten Arbeitsweise.

Glenn Solomon, Managing Director von Notable Capital, betonte, dass die Einnahmen von Patronus AI im vergangenen Jahr um das 15-fache gestiegen sind. Derzeit sind fast alle führenden AI-Labore und viele aufstrebende Startups Kunden des Unternehmens. Dies zeigt, wie groß der Marktbedarf an AI-Sicherheit und Zuverlässigkeit ist.

In der aktuellen Phase bietet Patronus AI Simulationsumgebungen primär für die Softwareentwicklung und den Finanzsektor an. Laut Mitgründer Anand Kannappan ist dies erst der Anfang, und in Zukunft werden digitale Testfelder für viele weitere Branchen geschaffen. Dies ermöglicht eine tiefere und sicherere Integration von AI-Agenten in unser tägliches Leben.