Apple und Google zur Entfernung von KI-gestützten 'Nudify'-Apps aufgefordert

Behörden in San Francisco, USA, haben Apple und Google dazu aufgefordert, sofort Dutzende Apps aus ihren App-Stores zu entfernen, die Fotos von Personen digital verändern und sie entkleidet darstellen (Nudify). Diese Maßnahme ist ein wichtiger Teil des Kampfes gegen KI-generierte Deepfake-Inhalte, die die Menschenwürde verletzen. Dies berichtet Techcrunch.com berichtet .

Nach kalifornischem Recht ist die Unterstützung der Verbreitung von pornografischen Deepfakes ohne Zustimmung oder die vorsätzliche Erleichterung solcher Prozesse strafbar. Laut TechCrunch wirft die Staatsanwaltschaft von San Francisco beiden Tech-Giganten vor, von diesen illegalen Apps zu profitieren und die Sicherheit der Nutzer zu vernachlässigen.

Verantwortung und finanzielle Interessen der Tech-Giganten

Der City Attorney von San Francisco, David Chiu, betonte in einem offiziellen Schreiben an Apple und Google, dass diese Plattformen Millionen von Dollar an Provisionen von Apps einnehmen, die die Rechte von Frauen und Mädchen verletzen. Obwohl die Unternehmen einige problematische Apps entfernt haben, warf die Staatsanwaltschaft ihnen vor, nicht aktiv genug gegen das Entstehen solcher Inhalte vorzugehen.

Es wurde bekannt, dass die Organisation Tech Transparency Project (TTP) zwischen Januar und April dieses Jahres einen Bericht über das Vorhandensein Dutzender solcher Apps in den Stores von Apple und Google vorgelegt hat. Diese Berichte besagen, dass die Unternehmen die Apps nicht nur hosteten, sondern durch die Abwicklung von In-App-Käufen auch von den illegalen Verkäufen profitierten.

Rechtliche Konsequenzen und Sicherheitsmaßnahmen

Ein neues Gesetz, das 2025 in Kalifornien in Kraft tritt, wird es Opfern ermöglichen, zivilrechtliche Klagen gegen Drittplattformen einzureichen, die bei der Verbreitung solcher Materialien geholfen haben. In einem Interview mit Wired warnte Staatsanwalt David Chiu, dass Apple und Google mit hohen Geldstrafen für Verstöße rechnen müssen.

Während Probleme im Zusammenhang mit Deepfake-Technologien früher hauptsächlich berühmte Frauen und Künstler betrafen, ermöglichen solche Apps heute, jedes beliebige Foto aus dem offenen Netzwerk ins Visier zu nehmen. Dies stellt eine ernsthafte Bedrohung für die Sicherheit normaler Nutzer, insbesondere minderjähriger Mädchen, dar. Die Behörden haben den Unternehmen eine Frist von 28 Tagen gesetzt, um eine Lösung zu finden und Bericht zu erstatten.

In einer Zeit, in der KI-generierte gefälschte Inhalte und Betrugsfälle auch in Usbekistan zunehmen, sind solche strengen Maßnahmen auf dem globalen Technologiemarkt von großer Bedeutung für die Gestaltung einer digitalen Sicherheitskultur. Bisher haben Apple und Google nicht offiziell auf diese Forderungen reagiert.