Lanzamiento de la startup DetectifAI para detectar voces generadas por IA

El rápido desarrollo de las tecnologías de IA ofrece no solo nuevas oportunidades, sino también herramientas peligrosas para la ciberdelincuencia. Para combatir una de estas amenazas, el fraude de deepfake de voz, la empresa DetectifAI con sede en San Francisco presentó sus nuevos desarrollos. La razón principal de la fundación de esta startup fue un incidente desagradable ocurrido en la familia de la fundadora, y la tecnología tiene como objetivo proteger a las personas contra la falsificación de voz. Esto es lo que informa Techcrunch.com informa .

Según ixbt.com, hace dos años, el abuelo de Tarini Padmanabhuni fue víctima de estafadores. Una persona lo llamó haciéndose pasar por su nieto, diciendo que lo habían secuestrado y que necesitaba dinero de rescate para liberarlo. El abuelo pagó sin darse cuenta de que la voz había sido falsificada mediante IA. Este incidente centró la atención de la fundadora en los problemas de seguridad personal y la identificación de voz.

Según el FBI, los estadounidenses perdieron casi 900 millones de dólares el año pasado debido a fraudes asistidos por IA, un aumento del 24% respecto al año anterior. Las personas mayores de 60 años sufrieron el doble de pérdidas que las de 50 a 59 años. Esto demuestra que la demanda de herramientas de protección en este sector está aumentando drásticamente.

Una solución de IA dedicada para smartphones

Aunque hoy en día existen empresas como Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety y Nuance para detectar deepfakes de voz, la mayoría opera en servidores en la nube. Padmanabhuni señala que los productos existentes dependen de servidores remotos y los fabricantes de teléfonos no pueden instalarlos directamente en los dispositivos, dejando al usuario desprotegido.

En lugar de reducir modelos grandes de la nube, DetectifAI desarrolló modelos de IA compactos capaces de ejecutarse directamente en el sistema operativo del smartphone desde el principio. Esta solución permite determinar instantáneamente si una voz fue creada por IA durante llamadas, mensajes de voz y otras grabaciones de audio, sin que ningún dato salga del dispositivo.

Competencia en el mercado y planes futuros

La empresa planea convertir su software en una parte integral del dispositivo licenciándolo a los fabricantes de teléfonos. Actualmente, la startup presta servicios a más de 100 000 llamadas al mes en la India para instituciones financieras. Estas llamadas son realizadas por agentes de IA dedicados al cobro de deudas y verificación de documentos de crédito, utilizando funciones de detección de deepfakes y verificación de identidad en cada proceso.

Tarini Padmanabhuni trabaja en el campo de la programación y el aprendizaje automático desde los 12 años. Estudió sistemas ciberfísicos en el Instituto de Tecnología de Manipal en la India y fue la líder de equipo más joven del primer coche de carreras autónomo de la India en la competición internacional de ingeniería Formula Student.