El consejo asesor de contenido independiente de Meta ha expresado su preocupación por el creciente número de contenidos falsos generados por IA en las redes sociales. Los miembros del consejo señalaron que la empresa no está tomando medidas suficientes para combatir dicha desinformación. Al respecto bbc.com informa.
Esto fue provocado por un video generado por IA que se difundió en Facebook en junio del año pasado. Subido por una página de noticias falsas en Filipinas, el video mostraba a las fuerzas iraníes causando graves daños a la ciudad israelí de Haifa. A pesar de que el video obtuvo rápidamente casi 1 millón de visitas, Meta no lo etiquetó ni lo eliminó.
Actualmente, Meta confía en gran medida en que los propios usuarios reconozcan que están subiendo productos de IA o en las quejas de otros. Inicialmente, la empresa evaluó que el video mencionado no violaba las reglas, ya que no representaba una amenaza física. Sin embargo, el consejo asesor criticó duramente este enfoque, afirmando que el sistema para detectar videos falsos es extremadamente débil, especialmente durante conflictos militares y crisis.
El consejo advirtió que los videos falsos sobre conflictos globales afectan negativamente la capacidad de las personas para distinguir la verdad de la falsedad y generan desconfianza hacia toda la información. Por lo tanto, se requiere que Meta etiquete de manera activa y rápida el contenido peligroso generado por IA.
Tras las críticas, Meta declaró que colocaría una etiqueta especial en el video dentro de siete días y seguiría las recomendaciones del consejo en casos similares en el futuro. Como recordatorio, Meta estableció este consejo asesor semiindependiente en 2020 para garantizar la moderación de contenido en sus plataformas como Facebook, Instagram y WhatsApp.
¡Lee “Zamin” en Telegram!
