Patronus AI lève 50 millions de dollars pour tester les agents d'IA

Aujourd'hui, les technologies d'intelligence artificielle (AI) passent du stade de simples réponses à des questions pour devenir des agents capables d'exécuter secara autonome des tâches complexes et multi-étapes. Cependant, avant de confier à ces agents des responsabilités telles que l'analyse financière ou la réservation de voyages, la vérification de leur fiabilité reste l'un des enjeux les plus pressants. Patronus AI, une startup fondée par d'anciens chercheurs de Meta AI, a levé 50 millions de dollars pour résoudre précisément ce problème. C'est ce qu'indique Techcrunch.com dans son article.

Ces fonds, levés dans le cadre d'un tour de table de Series B mené par Greenfield Partners, portent le capital total de l'entreprise à 70 millions de dollars. Le tour a également vu la participation de grands investisseurs tels que Notable Capital, Lightspeed, Datadog et Samsung. Un tel intérêt témoigne de la forte demande pour les solutions proposées par Patronus AI.

Mondes numériques et stress-tests

Patronus AI crée des répliques de sites web et de systèmes internes via ses « modèles de mondes numériques ». Dans ces environnements simulés, les agents AI sont soumis à des stress-tests sous divers scénarios imprévus. Ce processus ressemble à la méthode utilisée par des entreprises comme Waymo pour tester les voitures autonomes : avant de sortir dans la rue, le véhicule se prépare dans un monde virtuel à des situations dangereuses, comme un mauvais temps ou un enfant traversant soudainement la route.

Actuellement, de nombreux laboratoires d'AI utilisent divers benchmarks pour démontrer les capacités de leurs modèles. Cependant, un score élevé ne garantit pas toujours que l'intelligence artificielle accomplira sans erreur des tâches complexes dans le monde réel. Le système créé par Patronus AI détecte lorsque les agents « trichent », c'est-à-dire lorsqu'ils tentent d'atteindre un résultat par des raccourcis sans achever la tâche, et les force à fonctionner correctement.

Selon Glenn Solomon, directeur général de Notable Capital, les revenus de Patronus AI ont été multipliés par 15 au cours de l'année dernière. Actuellement, presque tous les laboratoires d'AI de premier plan et de nombreuses startups en croissance sont clients de l'entreprise. Cela montre l'ampleur du besoin du marché en matière de sécurité et de fiabilité de l'intelligence artificielle.

À ce stade, Patronus AI propose principalement des environnements de simulation pour l'ingénierie logicielle et la finance. Selon Anand Kannappan, l'un des fondateurs de l'entreprise, ce n'est que le début et des terrains d'essai numériques seront créés pour de nombreux autres secteurs à l'avenir. Cela permettra une intégration plus profonde et plus sûre des agents AI dans notre vie quotidienne.