Reddit utilise la technologie LLM pour lutter contre l'intelligence artificielle

La prolifération des spams générés par l'intelligence artificielle est devenue un problème majeur pour les grandes plateformes. Le réseau social Reddit a annoncé le déploiement de la technologie Large Language Models (LLM) pour combattre cette menace. Il s'agit d'une approche consistant à « combattre le feu par le feu », la plateforme utilisant désormais des algorithmes plus intelligents pour détecter les contenus générés par des bots. C'est ce que rapporte Techcrunch.com rapporte .

Ces dernières années, la popularité de ChatGPT et d'autres réseaux neuronaux a permis à des acteurs malveillants de créer des quantités sans précédent de contenus indésirables. Alors que les anciens filtres bloquaient facilement les textes répétitifs, les messages rédigés par des modèles LLM modernes se distinguent par leur ressemblance frappante avec le langage humain. Selon Reddit, la plateforme bloque environ 23 millions de vues de spam chaque jour et identifie plus de 25 000 nouveaux posts et commentaires indésirables.

Une nouvelle étape dans la lutte technologique

Reddit souligne sur son blog que les outils mis à jour permettent de détecter des « modèles de comportements frauduleux subtils et coordonnés » que les anciens systèmes ne pouvaient pas repérer. Cela s'est avéré particulièrement efficace contre les tentatives de création artificielle de buzz (hype) ou de campagnes publicitaires clandestines. Entre janvier et mars de cette année, l'entreprise a réussi à réduire l'exposition des utilisateurs au spam de 20 % par rapport au dernier trimestre de l'année précédente.

D'autres grandes plateformes adoptent des approches différentes. Par exemple, YouTube, Meta et Instagram autorisent la publication de contenus générés par l'IA sous certaines conditions. TikTok permet aux utilisateurs de configurer la quantité de contenu AI qu'ils souhaitent voir dans leurs flux. Reddit, quant à lui, se concentre sur la sécurité des utilisateurs et la propreté de la plateforme.

Facteur humain et risques futurs

L'introduction de la technologie LLM aide à identifier plus rapidement non seulement le spam, mais aussi les discours de haine (hate speech) et d'autres types de contenus enfreignant les règles. Cependant, les experts du secteur avertissent qu'il est dangereux de ne compter que sur les algorithmes. Pour obtenir les résultats les plus efficaces, les systèmes d'intelligence artificielle doivent impérativement fonctionner sous la supervision de modérateurs humains.

Cette nouvelle est également pertinente pour les utilisateurs de réseaux sociaux dans le segment ouzbek. Le renforcement de la lutte contre le spam sur les plateformes mondiales garantit également un accès à des informations plus fiables et de meilleure qualité pour l'audience locale. L'expérience de Reddit montre que les problèmes causés par la technologie ne peuvent être résolus que par une technologie encore plus avancée.