KI-Stimmenerkennungs-Startup DetectifAI gestartet

Die rasante Entwicklung von KI-Technologien bietet nicht nur neue Möglichkeiten, sondern auch gefährliche Werkzeuge für Cyberkriminalität. Um eine dieser Bedrohungen, den Betrug durch Audio-Deepfakes, zu bekämpfen, hat das in San Francisco ansässige Unternehmen DetectifAI seine neuen Entwicklungen vorgestellt. Der Hauptgrund für die Gründung dieses Startups war ein unangenehmer Vorfall in der Familie der Gründerin; die Technologie zielt darauf ab, Menschen vor Stimmfälschungen zu schützen. Dies berichtet Techcrunch.com berichtet.

Laut ixbt.com wurde der Großvater von Tarini Padmanabhuni vor zwei Jahren Opfer von Betrügern. Der Anrufer gab sich als sein Enkel aus, behauptete, er sei entführt worden und forderte ein Lösegeld. Der Großvater zahlte das Geld, ohne zu bemerken, dass die Stimme mittels KI gefälscht worden war. Dieser Vorfall lenkte die Aufmerksamkeit der Gründerin auf die persönliche Sicherheit und das Problem der Stimmverifizierung.

Nach Angaben des FBI verloren Amerikaner im letzten Jahr fast 900 Millionen Dollar durch KI-gestützte Betrügereien, was einem Anstieg von 24 % gegenüber dem Vorjahr entspricht. Insbesondere Senioren über 60 waren doppelt so stark betroffen wie die 50- bis 59-Jährigen. Dies zeigt, dass die Nachfrage nach Schutzmaßnahmen in diesem Bereich drastisch steigt.

KI-Lösung speziell für Smartphones

Obwohl es bereits Unternehmen wie Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety und Nuance gibt, die Audio-Deepfakes erkennen, arbeiten die meisten davon auf Cloud-Servern. Padmanabhuni betont, dass bestehende Produkte auf Remote-Server angewiesen sind und Telefonhersteller sie nicht direkt in Geräte integrieren können, wodurch der Nutzer ungeschützt bleibt.

Anstatt große Cloud-Modelle zu verkleinern, hat DetectifAI von Grund auf kompakte KI-Modelle entwickelt, die direkt auf Smartphone-Betriebssystemen laufen können. Diese Lösung ermöglicht es, bei Anrufen, Sprachnachrichten und anderen Audioaufnahmen sofort zu erkennen, ob eine Stimme KI-generiert ist, ohne dass Daten das Gerät verlassen.

Marktwettbewerb und Zukunftspläne

Das Unternehmen plant, seine Software an Telefonhersteller zu lizenzieren, um sie zu einem festen Bestandteil der Geräte zu machen. Derzeit betreut das Startup in Indien monatlich über 100.000 Anrufe für Finanzinstitute. Diese Anrufe werden von KI-Agenten durchgeführt, die im Bereich Forderungsmanagement und Kreditprüfung tätig sind, wobei bei jedem Vorgang Funktionen zur Deepfake-Erkennung und Identitätsprüfung genutzt werden.

Tarini Padmanabhuni ist seit ihrem 12. Lebensjahr in der Programmierung und im Bereich Machine Learning tätig. Sie studierte kybernetisch-physikalische Systeme am Manipal Institute of Technology in Indien und war die jüngste Teamleiterin für die erste fahrerlose Rennwagenabteilung Indiens beim internationalen Ingenieurswettbewerb Formula Student.