Yapay zeka seslerini tespit eden DetectifAI girişimi başlatıldı

Yapay zeka teknolojilerinin hızla gelişmesi, sadece yeni fırsatlar değil, aynı zamanda siber suçlar için de tehlikeli araçlar sunuyor. Bu tehditlerden biri olan sesli deepfake dolandırıcılığıyla mücadele etmek amacıyla San Francisco merkezli DetectifAI şirketi yeni geliştirmelerini tanıttı. Bu girişimin kurulmasının temel nedeni, kurucunun ailesinin yaşadığı talihsiz bir olaydır ve teknoloji, insanları ses taklitçiliğinden korumayı amaçlamaktadır. Bu konuda Techcrunch.com haber veriyor.

ixbt.com'un verilerine göre, iki yıl önce Tarini Padmanabhuni'nin dedesi dolandırıcıların kurbanı oldu. Onu arayan kişi kendisini torunu olarak tanıtarak kaçırıldığını ve kurtarılması için fidye gerektiğini söyledi. Dede, bu sesin yapay zeka yardımıyla taklit edildiğini fark etmeden parayı ödedi. Bu durum, kurucunun dikkatini kişisel güvenlik ve ses ayırt etme sorununa çekti.

ABD Federal Soruşturma Bürosu (FBI) verilerine göre, Amerikalılar geçen yıl yapay zeka destekli dolandırıcılıklar nedeniyle yaklaşık 900 milyon dolar kaybetti ve bu rakam bir önceki yıla göre yüzde 24 arttı. Özellikle 60 yaş üstü yaşlılar, 50-59 yaş grubuna göre iki kat daha fazla zarar gördü. Bu durum, söz konusu alanda koruma araçlarına olan talebin hızla arttığını gösteriyor.

Akıllı telefonlar için özel yapay zeka çözümü

Günümüzde sesli deepfake'leri tespit eden Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ve Nuance gibi şirketler bulunmasına rağmen, bunların çoğu bulut sunucularında çalışmaktadır. Padmanabhuni, mevcut ürünlerin uzak sunuculara dayandığını ve telefon üreticilerinin bunları doğrudan cihazlara entegre edemediğini, sonuç olarak kullanıcının savunmasız kaldığını belirtiyor.

DetectifAI ise büyük bulut modellerini küçültmek yerine, en başından itibaren akıllı telefon işletim sisteminde doğrudan çalışabilen kompakt yapay zeka modelleri geliştirdi. Bu çözüm, aramalar, sesli mesajlar ve diğer ses kayıtları sırasında sesin yapay zeka tarafından oluşturulup oluşturulmadığını, hiçbir veriyi cihaz dışına çıkarmadan anında tespit etmeyi sağlıyor.

Pazardaki rekabet ve gelecek planları

Şirket, yazılımını telefon üreticilerine lisanslayarak cihazın temel bir parçası haline getirmeyi planlıyor. Şu anda girişim, Hindistan'daki finans kuruluşları için ayda 100 binden fazla çağrıya hizmet veriyor. Bu çağrılar, borç tahsilatı ve kredi belgelerini doğrulama ile uğraşan yapay zeka temsilcileri tarafından gerçekleştiriliyor ve her süreçte deepfake tespiti ile kimlik doğrulama işlevleri kullanılıyor.

Tarini Padmanabhuni, 12 yaşından beri programlama ve makine öğrenimi alanında faaliyet göstermektedir. Hindistan'daki Manipal Teknoloji Enstitüsü'nde siber-fiziksel sistemler alanında eğitim almış ve öğrenciler arasındaki Formula Student uluslararası mühendislik yarışmasında, Hindistan'ın ilk sürücüsüz yarış otomobili bölümünde en genç takım lideri olmuştur.