Reddit utiliza tecnología LLM para combatir la inteligencia artificial

La proliferación de spam creado mediante inteligencia artificial se ha convertido en un problema grave para las grandes plataformas. La red social Reddit anunció que ha implementado la tecnología Large Language Models (LLM) para combatir esta amenaza. Se trata de un método de «combatir el fuego con fuego», donde la plataforma utiliza algoritmos más inteligentes para detectar contenido generado por bots. Así lo informa Techcrunch.com informa .

En los últimos años, la popularidad de ChatGPT y otras redes neuronales ha permitido a actores malintencionados crear cantidades sin precedentes de contenido spam. Mientras que los filtros anteriores bloqueaban fácilmente textos repetitivos, los mensajes escritos por modelos LLM modernos destacan por su gran similitud con el lenguaje humano. Según Reddit, la plataforma bloquea diariamente unos 23 millones de visualizaciones de spam e identifica más de 25 000 nuevos posts y comentarios no deseados.

Una nueva etapa en la lucha tecnológica

Reddit destaca en su blog que las herramientas actualizadas permiten detectar «patrones de comportamiento fraudulento sutiles y coordinados» que los sistemas antiguos no podían identificar. Esto ha demostrado ser especialmente eficaz contra intentos de generar artificialmente popularidad (hype) o campañas publicitarias encubiertas. Entre enero y marzo de este año, la empresa logró reducir la exposición de los usuarios al spam en un 20 % en comparación con el último trimestre del año anterior.

Otras grandes plataformas abordan este problema de diferentes maneras. Por ejemplo, YouTube, Meta e Instagram permiten publicar contenido generado por IA bajo ciertas condiciones. TikTok ofrece a los usuarios la posibilidad de configurar cuánto contenido de IA desean ver en sus feeds. Reddit, por su parte, se centra en la seguridad de los usuarios y la limpieza de la plataforma.

El factor humano y los riesgos futuros

La introducción de la tecnología LLM ayuda a identificar más rápidamente no solo el spam, sino también los discursos de odio (hate speech) y otros tipos de contenido que infringen las normas. Sin embargo, los expertos del sector advierten que es peligroso depender únicamente de los algoritmos. Para lograr resultados óptimos, los sistemas de inteligencia artificial deben trabajar bajo la supervisión de moderadores humanos.

Esta noticia también es relevante para los usuarios de redes sociales en el segmento de Uzbekistán. El fortalecimiento de la lucha contra el spam en plataformas globales garantiza que la audiencia local reciba información más fiable y de mayor calidad. La experiencia de Reddit demuestra que los problemas causados por la tecnología solo pueden resolverse con tecnología aún más avanzada.