Apple et Google sommés de supprimer les applications d'IA permettant de « déshabiller » les personnes

Les autorités de San Francisco ont exigé qu'Apple et Google suppriment immédiatement de leurs boutiques d'applications des dizaines de programmes utilisant l'IA pour modifier numériquement des photos et déshabiller les personnes (nudify). Cette mesure est un élément clé de la lutte contre les contenus deepfake créés par IA qui portent atteinte à la dignité humaine. C'est ce que rapporte Techcrunch.com rapporte l'information.

Selon la législation de l'État de Californie, faciliter la diffusion de deepfakes pornographiques créés sans consentement ou faciliter intentionnellement de tels processus est passible de poursuites pénales. Selon TechCrunch, le bureau du procureur de San Francisco accuse les deux géants technologiques de tirer profit de ces applications illégales et de négliger la sécurité des utilisateurs.

Responsabilité des géants technologiques et intérêts financiers

Dans une lettre officielle adressée à Apple et Google, le procureur de San Francisco, David Chiu, a souligné que ces plateformes percevaient des millions de dollars de commissions sur des applications qui violent les droits des femmes et des filles. Bien que les entreprises aient supprimé certains programmes problématiques, le bureau du procureur les accuse de ne pas agir suffisamment pour empêcher l'apparition de tels contenus.

Il a été rapporté que l'organisation Tech Transparency Project (TTP) a présenté un rapport en janvier et avril de cette année indiquant la présence de dizaines d'applications de ce type sur les boutiques d'Apple et de Google. Ces rapports indiquent que les entreprises non seulement hébergent ces applications, mais tirent également profit de ce commerce illégal en traitant les paiements pour les achats intégrés.

Conséquences juridiques et mesures de sécurité

Une nouvelle loi californienne, qui entrera en vigueur en 2025, permettra aux victimes d'intenter des poursuites civiles contre les plateformes tierces ayant aidé à diffuser de tels contenus. Dans une interview accordée à Wired, le procureur David Chiu a averti qu'Apple et Google pourraient faire face à de lourdes amendes pour ces infractions.

Alors que les problèmes liés aux technologies deepfake concernaient auparavant principalement des femmes célèbres et des artistes, ces applications permettent désormais de cibler n'importe quelle photo sur le réseau public. Cela constitue une menace sérieuse pour la sécurité des utilisateurs ordinaires, en particulier des mineures. Les autorités ont fixé un délai de 28 jours aux entreprises pour résoudre ce problème et rendre compte de leurs actions.

À une époque où les contenus falsifiés par IA et les cas de fraude augmentent, ces mesures strictes sur le marché technologique mondial sont essentielles pour façonner une culture de la sécurité numérique. Pour l'instant, Apple et Google n'ont pas fait de déclaration officielle concernant ces exigences.