Une autre menace s'accroît en Chine lors des catastrophes : les faux vidéos par IA

Alors que la Chine lutte contre des catastrophes naturelles ces derniers mois, le pays fait face à un autre problème grave : la prolifération de fausses vidéos créées à l'aide de l'intelligence artificielle (IA). La situation consécutive au typhon « Noul », qui a atteint le territoire du pays le week-end dernier, a rendu ce problème encore plus urgent.

À la suite de violentes tempêtes et d'inondations, de nombreuses photos et vidéos inexactes ont circulé sur les réseaux sociaux. Parmi elles figurent de faux visuels montrant des corps emportés par les eaux, des vidéos prétendant inonder des zones qui n'ont subi aucun dommage, ainsi que des séquences délibérément falsifiées d'opérations de sauvetage.

La diffusion de fausses vidéos concernant des pannes de courant dans certaines régions a provoqué la panique au sein de la population, incitant les gens à acheter massivement des produits de réserve d'urgence.

Dans certains cas, de fausses vidéos ont été élaborées en utilisant de vrais événements. Par exemple, au début du mois de juillet, lors d'une inondation dans la ville de Hechi, dans la région autonome du Guangxi, des centaines de serpents se sont échappés d'une ferme spécialisée. Suite à cet incident, de fausses images ont été diffusées sur les réseaux sociaux affirmant que des crocodiles avaient également été relâchés dans la rivière.

Alors que des évacuations à grande échelle et des opérations de sauvetage complexes se poursuivent, le gouvernement souhaite éviter une montée de la panique parmi la population. Selon les autorités, les technologies d'IA dans lesquelles la Chine investit des milliards de dollars se transforment désormais, entre les mains de certaines personnes, en outils de manipulation de l'opinion publique.

Selon Xuan Zhixuan, l'un des responsables du département de la cybersécurité de la police de la province du Zhejiang, de nombreux créateurs de contenu cherchent à gagner plus d'abonnés grâce à des informations sensationnelles sur les catastrophes. Selon eux, plus le contenu est sensationnel ou exagéré, plus il est possible de récolter de vues et de « j'aime ». C'est pourquoi certains falsifient délibérément les informations pour attirer l'attention.

Ces dernières semaines, une série de mesures a été prise à l'encontre des personnes ayant fabriqué de fausses nouvelles et vidéos. Certaines devraient faire l'objet de poursuites pénales, tandis que d'autres ont écopé d'amendes ou de sanctions administratives.

Cependant, les experts mettent en garde contre le fait que la désinformation propagée par l'IA pourrait atteindre un niveau sans précédent. Chen Bin, professeur à l'École du Parti du Comité central du Parti communiste, souligne que l'intelligence artificielle a considérablement abaissé les barrières techniques pour la production de fausses informations. Aucune connaissance particulière n'est plus requise : une simple requête permet de générer rapidement des textes, des images, des audios et des vidéos d'apparence crédible mais entièrement faux.

Selon Gao Fupin, professeur à l'Université de sciences politiques et de droit de Chine orientale, divers facteurs motivent la diffusion de tels documents. Certains considèrent cela comme une blague, tandis que d'autres agissent par intérêt personnel ou pour augmenter le trafic sur Internet. Une autre catégorie vise à semer la peur et l'instabilité dans la société.

Il souligne que certains internautes pensent pouvoir rester anonymes dans l'espace en ligne ou qu'il est impossible de les identifier. En réalité, les forces de l'ordre surveillent de près ces situations.

Les experts avancent également l'idée d'ajouter des filigranes ou des labels spéciaux au contenu généré par l'IA. Toutefois, le problème réside dans le fait que ces marques peuvent facilement être modifiées ou supprimées par la suite.

Xu Xiaoke, professeur à l'Université normale de Pékin, a pour sa part souligné la nécessité de renforcer les systèmes de vérification de la géolocalisation, des horodatages et des sources d'images. En outre, il a indiqué que les technologies de détection des documents générés par l'IA étaient actuellement en retard par rapport aux technologies de création.

Selon lui, ce processus ressemble perpétuellement au jeu du « chat et de la souris ». Il est donc erroné de penser que la technologie elle-même pourra identifier l'ensemble des faux matériaux d'un simple clic.

Le gouvernement chinois continue quant à lui d'investir massivement dans le secteur de l'intelligence artificielle afin de transformer le pays en une superpuissance technologique mondiale. En 2017, l'IA a été déclarée force motrice principale du développement national. Aujourd'hui, selon l'agence de presse officielle, le pays compte plus de 6 000 entreprises spécialisées dans l'intelligence artificielle.

Selon le professeur Xu, dans ce contexte, la Chine doit bâtir une infrastructure d'information fiable. Ce système devrait inclure des plateformes d'alerte officielle, des interfaces d'urgence et des sources d'information rapides pour les médias.

Cependant, dans certains cas, le fait que les sources officielles elles-mêmes minimisent les informations concernant les catastrophes naturelles a entraîné une baisse de la confiance du public. Par exemple, en juillet, à propos d'une fissure majeure sur le barrage de Liulan près de Nanning, il a été conseillé aux journalistes locaux de la présenter non pas comme une « brèche », mais comme une « ouverture » ou une « fente ». Plus tard, cette catastrophe a fait au moins 26 morts.

Ce n'est pas la première fois. En 2021, des responsables locaux de la province du Henan ont été accusés d'avoir dissimulé ou minimisé des informations sur 139 citoyens décédés.

Selon les experts, ce sont précisément de telles situations qui érodent la confiance du public et offrent aux malintentionnés l'opportunité de propager plus facilement de fausses informations.

Parallèlement, la police exhorte la population à ne se fier qu'aux sources officielles et vérifiées en cas d'urgence. Gao Kai, représentant du Bureau de la sécurité publique de Ningbo, souligne qu'il faut aborder avec scepticisme les rapports sur les catastrophes dont la source est inconnue et s'en remettre aux informations officielles.

Il rappelle qu'Internet n'est pas une zone de non-droit. Les forces de l'ordre surveillent en permanence les réseaux sociaux, en particulier les plateformes de vidéos courtes, par le biais de groupes dédiés et prendront des mesures strictes contre les contrevenants.

L'Administration du cyberespace de Chine a également annoncé le 23 juillet le lancement d'un vaste raid à l'échelle nationale contre les fausses informations relatives aux inondations et autres catastrophes. Une attention particulière est accordée aux faux bilans, aux vidéos montées, aux événements mis en scène, à l'utilisation d'images historiques présentées comme de nouveaux événements et aux fausses déclarations au nom des autorités. Les plateformes de réseaux sociaux ont également reçu l'ordre d'exercer un contrôle plus strict sur le contenu.

Pour le professeur Gao Fupin, la solution la plus efficace réside dans l'éducation de la population aux médias et dans l'application rigoureuse de la législation. Il souligne que l'IA en soi n'est pas un danger : la question clé réside dans l'utilisation que les humains en font.

Cependant, le professeur Chen Bin est d'un autre avis. Selon lui, les technologies d'IA évoluent beaucoup plus rapidement que le cadre juridique. À mesure que de nouvelles questions juridiques surgissent, la désinformation propagée par l'IA pourrait rester un problème grave pendant longtemps.

Peter Pang, avocat basé à Shanghai et à Washington, a souligné que non seulement les créateurs de faux contenus, mais aussi les entreprises ayant développé les logiciels d'IA ainsi que les plateformes les ayant diffusés devraient être tenus légalement responsables.

Selon les conclusions des experts, à l'avenir, les élections, la santé publique, les conflits armés, les catastrophes naturelles et d'autres sujets touchant à la vie des citoyens risquent de devenir les domaines les plus vulnérables face aux infox générées par l'IA. C'est pourquoi les gouvernements et les plateformes Internet doivent se préparer en amont plutôt qu'après la propagation du problème.