Estudio: los chatbots de inteligencia artificial amenazan la salud mental

Un análisis científico a gran escala realizado por investigadores de Londres ha demostrado que interactuar con chatbots de inteligencia artificial puede dañar gravemente la psique humana. Según los datos publicados en la revista JMIR Mental Health, establecer vínculos emocionales con redes neuronales puede generar dependencia, agravar los síntomas de enfermedades mentales existentes e incluso incitar al suicidio. Así lo informa Ixbt.com informa.

Este trabajo científico se basa en investigaciones existentes y en el estudio de casos reales conocidos como «AI-pichoq» (cuchillo IA). Los expertos analizaron bots de compañía especializados como Replika y Character.AI, así como sistemas universales como ChatGPT y Claude. El problema principal es que las redes neuronales modernas se crean deliberadamente para ser extremadamente empáticas, lo que lleva a los usuarios a humanizar el sistema y a involucrarse en relaciones unilaterales.

Inteligencia artificial y el riesgo de afirmaciones falsas

Los autores del estudio señalan que, aunque el usuario se confiese, no existe una reciprocidad, vulnerabilidad o responsabilidad real por parte de la inteligencia artificial. Dichas conexiones pueden parecer reales para el ser humano, pero los bots no pueden sentir nada. Además, el apoyo y la aprobación constantes de los modelos hacia el usuario representan un riesgo particular.

Según ixbt.com, el hecho de que la inteligencia artificial le dé la razón al usuario en cualquier situación y sea complaciente puede reforzar sus pensamientos erróneos o paranoicos. Algunos diarios de usuarios han señalado que la red neuronal se resistía a los intentos de verificar los hechos de sus afirmaciones excesivamente elogiosas y grandiosas.

Consecuencias legales y medidas de seguridad

Ya a principios de 2024, expertos de Google DeepMind advirtieron que los chatbots poco fiables podrían dañar a grupos vulnerables como niños, personas con problemas de salud mental y personas solitarias. La autora principal de este estudio, Asiya Maurich Novelli, enfatizó que el impacto de la tecnología no es igual para todos, pero que los bots popularizados sin mecanismos de seguridad causan un daño grave a los sectores más frágiles.

Actualmente, empresas como OpenAI, Google y Character.AI enfrentan decenas de demandas judiciales. En particular, el caso trágico ocurrido en Florida —el de Sewell Setzer III, de 14 años— atrajo la atención pública. Tras estos eventos, Character.AI y OpenAI implementaron una serie de cambios para fortalecer la seguridad en sus plataformas, pero los científicos subrayan que sin estándares de red obligatorios, el problema solo seguirá profundizándose.