Limiter les erreurs de l'IA : Pramaana Labs lève 27 millions de dollars

Alors que les technologies d'IA continuent d'évoluer, les grandes entreprises sont confrontées à des problèmes de fiabilité lors de l'intégration de ces systèmes dans les processus métier réels. La startup Pramaana Labs, qui vise à résoudre ce problème, a levé 27 millions de dollars dans un tour de table mené par Khosla Ventures. Le projet a également vu la participation de fonds prestigieux tels qu'Accel, Boldcap, Nexus Venture Partners, Premji Invest et Unbound. C'est ce qu'indique Techcrunch.com dans son article.

L'objectif principal de Pramaana Labs est d'éliminer les « hallucinations » (invention de fausses informations) et les erreurs du système en combinant l'IA avec une précision mathématique. Selon TechCrunch, la startup utilisera les fonds pour développer des systèmes d'AI sécurisés pour des secteurs où les erreurs coûtent cher, tels que le droit, la pharmacologie et la déclaration fiscale.

Précision mathématique et approche déterministe

Bien que les LLM (grands modèles de langage) populaires aujourd'hui se distinguent par leur flexibilité, ils peuvent souvent produire des résultats illogiques. Pramaana Labs installe une couche de vérification spéciale (deterministic layer) au-dessus de ces modèles. Cette couche est basée sur le langage de programmation open source LEAN, utilisé pour vérifier les preuves mathématiques, et contrôle les réponses de l'IA selon des règles strictes.

Ranjan Rajagopalan, fondateur et PDG de l'entreprise, souligne que le code fiscal ou les normes juridiques possèdent des règles aussi strictes que les mathématiques. « Si vous disposez d'une version codée de ces règles, les conclusions logiques seront précises et immuables », déclare-t-il. Cette approche permet de garantir que les résultats de l'IA sont légalement et scientifiquement corrects, tout en préservant sa capacité de communication fluide.

Supervision d'experts et plans futurs

Pramaana Labs crée des systèmes de vérification de style LEAN distincts pour chaque secteur. Les experts les plus prestigieux au monde ont été mobilisés pour le projet. Par exemple, Danny Werfel, ancien commissaire de l'Internal Revenue Service (IRS) des États-Unis, travaille comme conseiller pour le système fiscal. Les travaux dans les domaines de la cybersécurité et de la pharmacie sont supervisés par des professeurs des universités IIT Delhi, IIT Madras et UC Berkeley.

Dans le contexte de l'Ouzbékistan, de tels systèmes de vérification sont également cruciaux pour l'intégration de l'IA dans les services publics, la fiscalité et le système bancaire. En effet, dans les questions financières et juridiques, même une petite erreur commise par l'AI peut entraîner des conséquences graves. Des startups comme Pramaana Labs visent précisément à briser ce mur de méfiance.

Selon Ranjan Rajagopalan, les problèmes les plus complexes du monde ne sont pas insolubles, mais non systématisés. « Dans tout domaine touchant à la santé, aux finances ou à la liberté humaine, il existe des règles. Notre tâche est maintenant de transformer ces règles en code », conclut-il. Cette technologie permettra aux entreprises, à l'avenir, d'utiliser l'IA non plus comme une simple expérience, mais comme un outil de travail fondamental.