En China crece otro peligro durante los desastres: los videos falsos de IA

En los últimos meses, mientras China lucha contra desastres naturales, el país se enfrenta a otro grave problema: la propagación generalizada de videos falsos creados mediante inteligencia artificial (IA). La situación posterior al tifón «Noul», que llegó al territorio del país el fin de semana, ha convertido este problema en un asunto aún más urgente.

Tras las fuertes tormentas e inundaciones, en las redes sociales circularon numerosas fotos y videos que no se corresponden con la realidad. Entre ellos hay imágenes falsas de cadáveres arrastrados por el agua, videos que aseguran que zonas que en realidad no sufrieron daños se encuentran inundadas, así como secuencias falsificadas deliberadamente sobre operaciones de rescate.

La difusión de videos falsos sobre cortes de energía eléctrica en algunas regiones provocó pánico entre la población, lo que llevó a la gente a comprar masivamente productos de reserva de emergencia.

En algunos casos, los videos falsos se elaboraron utilizando acontecimientos reales. Por ejemplo, a principios de julio, tras una inundación en la ciudad de Hechi, en la región autónoma de Guangxi, cientos de serpientes escaparon de una granja especial. Tras este incidente, se difundieron imágenes falsas en las redes sociales afirmando que también se habían liberado cocodrilos en el río.

Mientras continúan las evacuaciones a gran escala y las complejas operaciones de rescate, el gobierno no desea que aumente el pánico entre la población. Las autoridades señalan que las tecnologías de IA en las que China invierte miles de millones de dólares se están convirtiendo ahora, en manos de ciertas personas, en una herramienta para engañar al público.

Según Xuan Zhixuan, uno de los jefes del departamento de ciberseguridad de la policía de la provincia de Zhejiang, muchos creadores de contenido buscan conseguir más suscriptores a través de noticias sensacionalistas sobre desastres. En su opinión, cuanto más sensacional o exagerado sea el contenido, más visualizaciones y «me gusta» se pueden acumular. Por esta razón, algunos falsifican deliberadamente la información para llamar la atención de la gente.

En las últimas semanas se han tomado una serie de medidas contra las personas que elaboraron noticias y videos falsos. Se espera que algunas se enfrenten a responsabilidades penales, mientras que a otras se les han impuesto multas o sanciones administrativas.

Sin embargo, los expertos advierten que la desinformación difundida con la ayuda de la IA podría alcanzar un nivel sin precedentes. Chen Bin, profesor de la Escuela del Partido del Comité Central del Partido Comunista, destaca que la inteligencia artificielle ha reducido drásticamente las barreras técnicas para la producción de información falsa. Ya no se requieren conocimientos especiales: mediante una simple solicitud se pueden generar textos, imágenes, audios y videos de apariencia confiable pero totalmente falsos en poco tiempo.

Según Gao Fupin, profesor de la Universidad de Ciencias Políticas y Derecho de China Oriental, diversos factores motivan la difusión de tales materiales. Algunos lo toman como una broma, mientras que otros actúan por beneficio personal o para aumentar el tráfico en internet. Otro sector tiene como objetivo generar miedo e inestabilidad en la sociedad.

Señala que algunos usuarios de internet piensan que pueden permanecer en el anonimato en el espacio en línea o que no pueden ser identificados. En realidad, los organismos encargados de hacer cumplir la ley están vigilando de cerca estas situaciones.

Los expertos también proponen la idea de colocar marcas especiales en el contenido generado por IA. Sin embargo, el problema radica en que estas marcas pueden ser editadas y eliminadas fácilmente después.

Por su parte, Xu Xiaoke, profesor de la Universidad Normal de Pekín, destacó la necesidad de reforzar los sistemas de verificación de geolocalización, marcas de tiempo y fuentes de imagen. Al mismo tiempo, señaló que las tecnologías para detectar materiales creados por IA van actualmente por detrás de las tecnologías para crearlos.

Según él, este proceso se asemeja permanentemente al juego del «gato y el ratón». Por lo tanto, es erróneo pensar que la tecnología por sí sola identificará todos los materiales falsos con solo pulsar un botón.

El gobierno chino continúa invirtiendo fuertemente en el sector de la inteligencia artificial con el fin de convertir al país en la principal potencia tecnológica del mundo. En 2017, la IA fue declarada la principal fuerza impulsora del desarrollo del país. Hoy en día, según la agencia de noticias oficial, en el país operan más de 6 000 empresas de inteligencia artificial.

En opinión del profesor Xu, en estas circunstancias China debe formar una infraestructura de información confiable. Este sistema debe incluir plataformas de advertencia oficial, interfaces de emergencia y fuentes de información rápida para los medios de comunicación.

Sin embargo, en algunos casos, el hecho de que las propias fuentes oficiales hayan minimizado la información sobre desastres naturales ha provocado una disminución de la confianza pública. Por ejemplo, en julio, ante una gran grieta en el muro de la presa de Liulan, cerca de Nanning, se recomendó a los periodistas locales cubrirla no como una «ruptura», sino como una «apertura» o «fisura». Posteriormente, este desastre causó la muerte de al menos 26 personas.

Este no es el primer caso. En 2021, funcionarios locales de la provincia de Henan fueron acusados de ocultar o minimizar la información sobre 139 ciudadanos fallecidos.

Según los expertos, son precisamente este tipo de situaciones las que debilitan la confianza pública y brindan a las personas con malas intenciones la oportunidad de difundir información falsa con facilidad.

Al mismo tiempo, la policía insta a la población a confiar únicamente en fuentes oficiales y verificadas en situaciones de emergencia. Gao Kai, representante de la Oficina de Seguridad Pública de Ningbo, señala que se debe mirar con escepticismo los informes sobre desastres de origen desconocido y basarse en la información oficial.

Según afirmó, internet no es una zona sin ley. Los organismos encargados de hacer cumplir la ley supervisan constantemente las redes sociales, especialmente las plataformas de videos cortos, a través de grupos especiales y tomarán medidas estrictas contra los infractores.

La Administración del Ciberespacio de China también anunció el 23 julio el inicio de una redada a nivel nacional contra la información falsa relacionada con inundaciones y otros desastres en todo el país. Se presta especial atención a las estadísticas falsas, los videos montados, los eventos escenificados, la presentación de imágenes históricas como si fueran nuevos acontecimientos y las declaraciones falsas en nombre de las autoridades. Asimismo, se ordenó a las plataformas de redes sociales un control más estricto del contenido.

En opinión del profesor Gao Fupin, la solución más eficaz al problema es educar a la población en alfabetización mediática y aplicar estrictamente la legislación. Señala que la IA en sí misma no es un peligro: la cuestión principal es con qué propósito la utilizan las personas.

Sin embargo, el profesor Chen Bin opina diferente. Según él, las tecnologías de inteligencia artificial se están desarrollando mucho más rápido que el marco legal. A medida que surjan nuevas preguntas jurídicas, la desinformación propagada a través de la IA podría seguir siendo un problema grave durante mucho tiempo.

Por su parte, Peter Pang, abogado que opera en Shanghái y Washington, destacó que no solo las personas que crearon materiales falsos, sino también las empresas que desarrollaron los programas de IA y las plataformas que los distribuyeron deben rendir cuentas legales.

Según las conclusiones de los expertos, en el futuro las elecciones, la salud pública, los conflictos armados, los desastres naturales y otros temas relacionados con la vida de los ciudadanos podrían convertirse en los ámbitos más peligrosos para la información falsa difundida mediante IA. Por ello, los gobiernos y las plataformas de internet deben prepararse con antelación y no después de que el problema se haya propagado.