Apple y Google obligados a eliminar aplicaciones de IA que «desnudan» a las personas

Las autoridades de San Francisco han exigido a Apple y Google que eliminen inmediatamente de sus tiendas de aplicaciones decenas de programas que utilizan IA para modificar digitalmente fotos y desnudar a las personas (nudify). Esta medida es una parte crucial de la lucha contra el contenido deepfake creado por IA que vulnera la dignidad humana. Así lo informa Techcrunch.com informa al respecto.

Según la legislación del estado de California, facilitar la distribución de deepfakes pornográficos creados sin consentimiento o facilitar intencionadamente dichos procesos conlleva responsabilidad penal. Según TechCrunch, la fiscalía de San Francisco acusa a ambos gigantes tecnológicos de obtener beneficios a través de estas aplicaciones ilegales y de ignorar la seguridad de los usuarios.

Responsabilidad de los gigantes tecnológicos e intereses financieros

En una carta oficial enviada a Apple y Google, el fiscal de San Francisco, David Chiu, destacó que estas plataformas han recaudado millones de dólares en comisiones de aplicaciones que violan los derechos de mujeres y niñas. Aunque las empresas han eliminado algunos programas problemáticos, la fiscalía las acusa de no ser lo suficientemente activas para prevenir la aparición de dicho contenido.

Se ha informado que la organización Tech Transparency Project (TTP) presentó un informe en enero y abril de este año sobre la existencia de decenas de estas aplicaciones en las tiendas de Apple y Google. Estos informes indican que las empresas no solo alojan estas aplicaciones, sino que también se benefician del comercio ilegal al procesar los pagos de las compras integradas.

Consecuencias legales y medidas de seguridad

Una nueva ley en California, que entrará en vigor en 2025, permitirá a las víctimas presentar demandas civiles contra plataformas de terceros que hayan ayudado a difundir dicho material. En una entrevista con Wired, el fiscal David Chiu advirtió que Apple y Google podrían enfrentarse a graves multas por estas infracciones.

Si bien los problemas relacionados con las tecnologías deepfake se observaban anteriormente principalmente en torno a mujeres famosas y artistas, ahora estas aplicaciones permiten atacar cualquier foto en la red abierta. Esto supone una grave amenaza para la seguridad de los usuarios comunes, especialmente de las menores de edad. Las autoridades han dado a las empresas un plazo de 28 días para resolver este problema e informar al respecto.

En un momento en que el contenido falso creado por IA y los casos de fraude están aumentando, estas medidas estrictas en el mercado tecnológico mundial son fundamentales para formar una cultura de seguridad digital. Hasta ahora, Apple y Google no han emitido una respuesta oficial sobre estas demandas.