Le conseil de surveillance indépendant de Meta a exprimé son inquiétude face au nombre croissant de faux contenus générés par l'IA sur les réseaux sociaux. Les membres du conseil ont noté que l'entreprise ne prend pas de mesures suffisantes pour lutter contre cette désinformation. À ce sujet bbc.com rapporte.
Cela a été provoqué par une vidéo générée par l'IA qui s'est propagée sur Facebook en juin de l'année dernière. Mise en ligne par une fausse page d'actualités aux Philippines, la vidéo montrait les forces iraniennes causant de graves dégâts à la ville israélienne de Haïfa. Bien que la vidéo ait rapidement recueilli près d'un million de vues, Meta ne l'a ni étiquetée ni supprimée.
Actuellement, Meta s'en remet largement aux utilisateurs eux-mêmes pour reconnaître qu'ils téléchargent des produits d'IA ou aux plaintes d'autres personnes. L'entreprise avait initialement estimé que la vidéo susmentionnée ne violait pas les règles puisqu'elle ne présentait pas de menace physique. Cependant, le conseil de surveillance a vivement critiqué cette approche, affirmant que le système de détection des fausses vidéos est extrêmement faible, en particulier lors de conflits militaires et de crises.
Le conseil a averti que les fausses vidéos sur les conflits mondiaux affectent négativement la capacité des gens à distinguer le vrai du faux et engendrent la méfiance envers toutes les informations. Par conséquent, Meta est tenue d'étiqueter activement et rapidement les contenus dangereux générés par l'IA.
Suite aux critiques, Meta a déclaré qu'elle placerait une étiquette spéciale sur la vidéo dans les sept jours et suivrait les recommandations du conseil dans des cas similaires à l'avenir. Pour rappel, Meta a créé ce conseil de surveillance semi-indépendant en 2020 pour assurer la modération du contenu sur ses plateformes telles que Facebook, Instagram et WhatsApp.
Lisez “Zamin” sur Telegram !
