Lancement de la startup DetectifAI pour détecter les voix générées par l'IA

Le développement rapide des technologies d'IA offre non seulement de nouvelles opportunités, mais aussi des outils dangereux pour la cybercriminalité. Pour lutter contre l'une de ces menaces, la fraude par deepfake vocal, la société DetectifAI basée à San Francisco a présenté ses nouveaux développements. La raison principale de la création de cette startup est un incident désagréable survenu dans la famille de la fondatrice, et la technologie vise à protéger les gens contre la falsification vocale. C'est ce que rapporte Techcrunch.com rapporte .

Selon ixbt.com, il y a deux ans, le grand-père de Tarini Padmanabhuni a été victime d'escrocs. Une personne l'a appelé en se faisant passer pour son petit-fils, affirmant qu'il avait été enlevé et qu'une rançon était nécessaire pour le libérer. Le grand-père a payé sans se rendre compte que la voix avait été falsifiée par l'IA. Cet incident a attiré l'attention de la fondatrice sur les problèmes de sécurité personnelle et d'identification vocale.

Selon le FBI, les Américains ont perdu près de 900 millions de dollars l'année dernière à cause de fraudes assistées par l'IA, soit une augmentation de 24 % par rapport à l'année précédente. Les personnes de plus de 60 ans ont subi deux fois plus de pertes que celles âgées de 50 à 59 ans. Cela montre que la demande d'outils de protection dans ce domaine augmente rapidement.

Une solution d'IA dédiée aux smartphones

Bien qu'il existe aujourd'hui des entreprises comme Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety et Nuance pour détecter les deepfakes vocaux, la plupart fonctionnent sur des serveurs cloud. Padmanabhuni souligne que les produits existants dépendent de serveurs distants et que les fabricants de téléphones ne peuvent pas les intégrer directement dans les appareils, laissant ainsi l'utilisateur sans protection.

Au lieu de réduire les grands modèles cloud, DetectifAI a développé des modèles d'IA compacts capables de fonctionner directement sur le système d'exploitation du smartphone dès le départ. Cette solution permet de déterminer instantanément si une voix a été générée par l'IA lors d'appels, de messages vocaux ou d'autres enregistrements audio, sans qu'aucune donnée ne quitte l'appareil.

Concurrence sur le marché et projets futurs

L'entreprise prévoit d'intégrer son logiciel en tant que composant essentiel des appareils en le concédant sous licence aux fabricants de téléphones. Actuellement, la startup dessert plus de 100 000 appels par mois en Inde pour des institutions financières. Ces appels sont effectués par des agents d'IA spécialisés dans le recouvrement de créances et la vérification de documents de crédit, utilisant des fonctions de détection de deepfakes et de vérification d'identité à chaque étape.

Tarini Padmanabhuni travaille dans le domaine de la programmation et de l'apprentissage automatique depuis l'âge de 12 ans. Elle a étudié les systèmes cyber-physiques à l'Institut de technologie de Manipal en Inde et a été la plus jeune chef d'équipe de la première voiture de course autonome d'Inde lors de la compétition internationale d'ingénierie Formula Student.