YouTube da un paso importante en su lucha contra la desinformación generada por IA al ampliar su programa de protección contra deepfakes. La popular plataforma de intercambio de videos anunció que comenzará a probar su avanzada tecnología de reconocimiento facial en un grupo más amplio de figuras públicas. Esta nueva fase de la iniciativa ha sido diseñada específicamente para proteger a periodistas, funcionarios públicos y candidatos políticos de videos falsos maliciosos generados por IA que podrían dañar su reputación o difundir información falsa.
Para participar en este innovador programa de seguridad, las personas elegibles deben presentar una fotografía clara de su pasaporte oficial y un breve video verificado. Estos datos iniciales permiten a la compleja red neuronal de YouTube analizar y memorizar profundamente la estructura facial única del participante. Una vez entrenado, el sistema escanea automáticamente el contenido nuevo a lo largo de su vasta red y busca activamente videos generados por IA no autorizados que manipulen o utilicen incorrectamente el rostro de la persona registrada.
Cuando el sistema automatizado detecta contenido sospechoso, notifica inmediatamente a la víctima. A continuación, la persona tiene la opción de revisar el video marcado y enviar una solicitud formal para su eliminación de la plataforma. Sin embargo, la compañía enfatiza que presentar una solicitud de eliminación no garantiza la supresión inmediata del contenido. YouTube se asegura de revisar cada queja cuidadosamente, manteniéndose comprometido con el equilibrio entre la protección personal y la libertad de expresión.
Cada solicitud de eliminación es examinada cuidadosamente por el equipo de moderación de YouTube según las normas comunitarias vigentes y la política de contenido de la plataforma. Si el video marcado se considera una parodia, una obra satírica o tiene un valor artístico importante o de interés público, se puede permitir que permanezca en línea a pesar del uso del rostro de la persona. Este enfoque delicado busca prevenir el mal uso de la herramienta de protección con fines de censura.
Esta expansión representa una evolución importante en la estrategia de moderación de contenido de YouTube. El año pasado, medidas similares de protección contra deepfakes se implementaron solo para creadores de contenido que eran miembros activos del Programa de Socios de YouTube. Al aplicar estas importantes medidas de protección a figuras públicas y funcionarios gubernamentales, el gigante tecnológico reconoce las graves consecuencias reales de la tecnología deepfake, especialmente en una época donde verificar la realidad digital se vuelve cada vez más difícil.
¡Lee “Zamin” en Telegram!
