Pangram lève 9 millions de dollars pour lutter contre le contenu généré par l'IA

À l'heure où Internet est inondé de données générées par l'intelligence artificielle et de faible qualité, Pangram, une startup basée à New York, a levé 9 millions de dollars pour développer de nouveaux outils destinés à différencier les textes humains de ceux de l'IA. Selon ixbt.com et TechCrunch, ce tour de table a été mené par Menlo Ventures avec la participation de Haystack, ScOp, Script Capital et Cadenza. C'est ce qu'annonce Techcrunch.com rapporte .

Cette réussite financière coïncide avec le lancement par la startup de son détecteur de texte Pangram 4 de nouvelle génération et d'un modèle de détection d'images par IA nommé Pangram Image. L'entreprise affirme que son nouveau modèle de détection de texte peut identifier avec une précision de plus de 99 % les contenus écrits par l'IA ou créés en collaboration entre l'homme et l'IA. Il peut également démasquer facilement les programmes spéciaux imitant l'écriture humaine.

Les menaces de l'IA et l'histoire de la création de la nouvelle startup

Pangram a été fondée il y a deux ans par Max Spero et Bradley Amy, diplômés de l'Université Stanford. Après le lancement de ChatGPT, Internet a été submergé de bots, de contenus SEO générés par l'IA pour manipuler les moteurs de recherche et de diverses campagnes de désinformation en ligne. Ce sont précisément ces problèmes qui ont poussé les jeunes spécialistes à créer ce service.

Selon Max Spero, il est extrêmement important qu'un lecteur sache si le texte qui lui est présenté a été écrit par l'intelligence artificielle ou non. Comprendre la source d'un texte change particulièrement l'approche des lecteurs à son égard. Si un texte a été rédigé à l'aide de l'IA, il faut garder à l'esprit qu'il y a un risque élevé d'erreurs ou d'informations fabriquées.

Mécanisme de fonctionnement de la technologie et projets futurs

Le système Pangram est essentiellement un modèle d'apprentissage automatique à grande échelle entraîné sur des dizaines de millions de documents humains précis. Pour chaque document, la startup a créé des miroirs synthétiques reproduisant le sujet, la longueur et le ton, mais écrits par des modèles de langage avancés. Par conséquent, le modèle étudie les différences stylistiques et les décisions prises par l'IA, réussissant à identifier avec une haute précision si un texte est le produit de l'intelligence artificielle.

L'activité de cette startup ne se limite pas à la recherche de textes entièrement rédigés par l'IA. Elle peut également différencier les cas où l'IA a été utilisée partiellement pour la création de textes, c'est-à-dire lorsque l'auteur a écrit le contenu lui-même avant de l'améliorer à l'aide de l'IA. Selon les experts, l'utilisation de l'IA est acceptable à condition que l'auteur en informe ouvertement les lecteurs.

Aujourd'hui, l'utilisation généralisée des outils d'IA s'accompagne d'effets secondaires négatifs. Alors que certains politiciens s'exposent au ridicule à cause d'erreurs commises par l'IA dans leurs discours, certains avocats font face à des amendes et des sanctions en raison de fausses citations générées par ChatGPT. De telles situations obligent non seulement les particuliers, mais aussi diverses institutions à imposer des règles et des restrictions plus strictes à l'égard du contenu de l'IA.