Alors que les grandes entreprises tentent de corriger les failles de leurs systèmes d'intelligence artificielle (IA), la gouvernance et le contrôle sont devenus des enjeux majeurs. Certaines sociétés adoptent une approche à double volet : un premier modèle traite les requêtes, tandis qu'un second protège le premier contre les erreurs. La startup ZeroDrift, qui a annoncé mardi une levée de fonds de 10 millions de dollars, opère précisément dans ce domaine. C'est ce que rapporte Techcrunch.com rapporte .
Le système ZeroDrift se place entre les modèles d'IA et les utilisateurs finaux pour identifier et remplacer les messages non conformes aux exigences de conformité. Construire un système d'IA pour corriger les erreurs d'un autre peut sembler étrange, mais l'architecture de ZeroDrift offre plusieurs avantages. Le système fonctionne via des logiciels traditionnels appliquant des normes telles que SOC 2 ou le RGPD, et ce n'est qu'une fois le message signalé que le LLM (grand modèle de langage) le réédite.
Selon le PDG Kumesh Aroomoogan, le système identifie précisément le secteur réglementé et la règle enfreinte, après quoi le LLM sécurise le message. Il est important de noter que ce processus fonctionne avec une latence plus faible et une fiabilité supérieure aux modèles standards des grands laboratoires comme OpenAI ou Anthropic.
Bien que cette technologie soit actuellement destinée principalement aux chatbots, elle devrait à l'avenir surveiller les messages au sein de systèmes automatisés invisibles à l'œil humain. La présence d'investisseurs tels qu'a16z Speedrun et Reign Ventures témoigne de la forte demande pour ce produit. Aroomoogan a souligné que le tour de table a été bouclé en un temps record de trois semaines.
Lisez “Zamin” sur Telegram !
