Während große Unternehmen versuchen, Fehler in ihren Systemen für künstliche Intelligenz (KI) zu beheben, sind Governance und Kontrolle zu zentralen Herausforderungen geworden. Einige Firmen verfolgen dabei einen zweigleisigen Ansatz: Ein erstes Modell verarbeitet Anfragen, während ein zweites das erste vor Fehlern schützt. Das Startup ZeroDrift, das am Dienstag eine Investition in Höhe von 10 Millionen Dollar bekannt gab, ist genau in diesem Bereich tätig. Dies berichtet Techcrunch.com berichtet .
Das ZeroDrift-System schaltet sich zwischen KI-Modelle und Endnutzer, um Nachrichten zu identifizieren und zu ersetzen, die gegen Compliance-Vorgaben verstoßen. Ein KI-System zu entwickeln, um die Fehler eines anderen zu korrigieren, mag seltsam erscheinen, doch die Architektur von ZeroDrift bietet mehrere Vorteile. Das System läuft über herkömmliche Software, die Standards wie SOC 2 oder GDPR anwendet, und erst nachdem eine Nachricht markiert wurde, überarbeitet das LLM (Large Language Model) sie.
Laut CEO Kumesh Aroomoogan bestimmt das System genau, welche Branche reguliert ist und welche Regel verletzt wurde, woraufhin das LLM die Nachricht sicher gestaltet. Wichtig ist, dass dieser Prozess mit geringerer Latenz und höherer Zuverlässigkeit arbeitet als Standardmodelle großer Labore wie OpenAI oder Anthropic.
Obwohl die Technologie derzeit hauptsächlich für Chatbots konzipiert ist, wird erwartet, dass sie in Zukunft auch Nachrichten innerhalb automatisierter Systeme überwacht, die für das menschliche Auge unsichtbar sind. Die Beteiligung von Investoren wie a16z Speedrun und Reign Ventures unterstreicht die hohe Nachfrage nach diesem Produkt. Aroomoogan betonte, dass die Investitionsrunde in rekordverdächtigen drei Wochen abgeschlossen wurde.
Lesen Sie „Zamin“ auf Telegram!
