La police canadienne au cœur d'une polémique après l'usage d'une image générée par AI

La police de Vancouver a fait l'objet de vives critiques après avoir publié sur les réseaux sociaux une image générée par intelligence artificielle (AI) pour illustrer une saisie de drogues. L'utilisation de la technologie par les forces de l'ordre pour présenter des preuves a suscité une méfiance et des débats passionnés au sein du public. C'est ce que rapporte Ixbt.com dans son article.

L'image publiée sur le compte officiel du réseau social X était censée montrer l'argent liquide et les stupéfiants saisis. Bien que l'image paraisse réaliste au premier abord, des utilisateurs attentifs ont rapidement remarqué des erreurs typiques des modèles génératifs. Notamment, des billets de 50 dollars portaient l'inscription « 20 dollars », et l'un des billets de 100 dollars affichait simplement « 00 » à la place de la valeur nominale.

Le sergent Adam Donaldson de la police de Vancouver a commenté la situation lors d'une interview avec CTV News. Selon lui, l'AI a été utilisée pour effacer les noms des accusés et masquer les données personnelles sur la photo. Cependant, cette explication n'a pas convaincu le public, car la photo originale n'était qu'un simple ensemble de preuves avec des notes au marqueur sur du carton.

Crise de confiance et erreurs de l'AI

Cet incident a mis en évidence une fois de plus les risques liés à l'utilisation des technologies génératives dans les activités des forces de l'ordre. Les utilisateurs des réseaux sociaux ont accusé la police de miner la confiance envers le processus d'enquête. Selon les experts, même de petites modifications pourraient influencer la décision d'un jury lors d'un procès ou remettre en question l'authenticité des preuves.

Par la suite, les représentants de la police ont supprimé l'image traitée par AI pour la remplacer par la photo originale dont les données personnelles avaient été recadrées (crop). Cependant, la suppression et la modification du post ont engendré encore plus de commentaires ironiques et de doutes parmi les utilisateurs.

Ces dernières années, on observe une augmentation mondiale de l'utilisation de ChatGPT et d'autres réseaux neuronaux par les policiers pour remplir des documents, analyser des données de surveillance et même traiter des preuves. L'incident de Vancouver prouve que de telles méthodes entraînent non seulement des erreurs techniques, mais aussi des problèmes fondamentaux concernant la transparence du système juridique.

Ce sujet est également pertinent pour les utilisateurs ouzbeks, car les preuves numériques et leur intégrité deviennent une partie essentielle de la jurisprudence moderne. Les spécialistes soulignent la nécessité d'élaborer une éthique et des règles strictes concernant l'utilisation des technologies génératives par les forces de l'ordre.