Apple ve Google'a yapay zeka ile kıyafetleri "çıkaran" uygulamaları kaldırma talimatı verildi

ABD'nin San Francisco şehri yetkilileri, Apple ve Google'dan uygulama mağazalarındaki insanların fotoğraflarını dijital olarak değiştirerek onları çıplak gösteren (nudify) düzinelerce uygulamayı derhal kaldırmalarını talep etti. Bu önlem, yapay zeka kullanılarak oluşturulan ve insan onurunu zedeleyen deepfake içeriklerine karşı mücadelenin önemli bir parçası olarak görülüyor. Bu haberi Techcrunch.com aktarıyor. bildiriyor.

Kaliforniya eyalet yasalarına göre, rıza dışı oluşturulan pornografik deepfake içeriklerinin yayılmasına yardımcı olmak veya bu tür süreçleri kasten kolaylaştırmak cezai sorumluluk doğurmaktadır. TechCrunch'ın haberine göre, San Francisco savcılığı her iki teknoloji devini de bu yasa dışı uygulamalar üzerinden gelir elde etmekle ve kullanıcı güvenliğini ihmal etmekle suçluyor.

Teknoloji devlerinin sorumluluğu ve finansal çıkarlar

San Francisco Şehir Savcısı David Chiu, Apple ve Google'a gönderdiği resmi mektupta, bu platformların kadınların ve kız çocuklarının haklarını ihlal eden uygulamalardan milyonlarca dolar komisyon topladığını vurguladı. Şirketler bazı sorunlu uygulamaları kaldırmış olsa da, savcılık onları bu tür içeriklerin ortaya çıkmasını önlemede yeterince aktif olmamakla suçladı.

Edinilen bilgilere göre, Tech Transparency Project (TTP) kuruluşu, bu yılın Ocak ve Nisan aylarında Apple ve Google mağazalarında düzinelerce benzer uygulamanın bulunduğuna dair bir rapor sundu. Bu raporlarda, şirketlerin sadece bu uygulamaları barındırmakla kalmayıp, aynı zamanda uygulama içi satın almalar için ödeme işlemlerini gerçekleştirerek yasa dışı ticaretten kâr elde ettikleri belirtildi.

Hukuki sonuçlar ve güvenlik önlemleri

Kaliforniya'da 2025 yılında yürürlüğe girecek yeni bir yasa, mağdurlara bu tür materyallerin yayılmasına yardımcı olan üçüncü taraf platformlara karşı tazminat davası açma imkanı tanıyor. Savcı David Chiu, Wired dergisine verdiği röportajda, Apple ve Google'ın yasa ihlalleri nedeniyle ciddi para cezalarıyla karşı karşıya kalabileceği konusunda uyardı.

Deepfake teknolojileriyle ilgili sorunlar daha önce ağırlıklı olarak ünlü kadınlar ve sanatçılar etrafında gözlemlenirken, günümüzde bu tür uygulamalar açık ağdaki herhangi bir fotoğrafı hedef alma imkanı sunuyor. Bu durum, sıradan kullanıcıların, özellikle de reşit olmayan kız çocuklarının güvenliğine ciddi bir tehdit oluşturuyor. Yetkililer, şirketlere bu sorunu çözmeleri ve rapor vermeleri için 28 günlük bir süre tanıdı.

Yapay zeka ile oluşturulan sahte içeriklerin ve dolandırıcılık vakalarının arttığı bir dönemde, küresel teknoloji pazarındaki bu tür kararlı önlemler dijital güvenlik kültürünün oluşturulmasında büyük önem taşıyor. Apple ve Google henüz bu taleplere ilişkin resmi bir açıklama yapmadı.