La inteligencia artificial engaña a los humanos: un estudio revela un riesgo inesperado

Con el desarrollo de las tecnologías modernas, los sistemas de inteligencia artificial (AI) se están convirtiendo en una parte integral de nuestra vida cotidiana. Sin embargo, un nuevo estudio realizado por científicos de tres prestigiosas universidades de Francia e Italia ha presentado conclusiones preocupantes. Resulta que confiar en los consejos de la AI deteriora significativamente la capacidad de una persona para evaluar objetivamente sus propios conocimientos. Así lo informa Ixbt.com reporta el medio.

Durante el experimento, se estudió la correlación entre la confianza de los participantes en sus conocimientos y sus resultados reales. Los resultados mostraron que las personas que utilizaron la ayuda de la AI tuvieron dificultades para admitir que estaban equivocadas y tendieron a aceptar respuestas incorrectas como verdaderas. Lo más curioso es que, aunque su confianza en sus respuestas aumentó drásticamente, su nivel de precisión disminuyó.

La confianza aumenta, la precisión disminuye

Los investigadores hicieron preguntas complejas a los participantes y los dividieron en dos grupos. Los miembros del grupo que trabajaron sin la ayuda de la AI admitieron abiertamente no saber la respuesta en el 44 % de los casos. Sin embargo, en el grupo que utilizó los consejos del sistema, esta cifra cayó a solo el 3 %. Es decir, en lugar de admitir su ignorancia, las personas prefirieron confiar ciegamente en la información incorrecta proporcionada por la AI.

Las cifras son aún más sorprendentes: el nivel de precisión de quienes respondieron con la ayuda de la AI cayó del 27 % al 9 %, pero su confianza en estar en lo cierto aumentó en promedio del 30 % al 76 %. Según ixbt.com, en el experimento se utilizaron deliberadamente preguntas en las que los modelos de AI modernos pueden confundirse. Por ejemplo, se preguntaron detalles visuales como el color del uniforme deportivo de los personajes de la película "Bend It Like Beckham".

Los incentivos financieros tampoco ayudaron

Los científicos utilizaron el modelo Step 3.5 Flash en el experimento, ya que se determinó que este modelo suele fallar en este tipo de tareas. Los autores del estudio también intentaron motivar a los participantes con una recompensa económica por una respuesta correcta. Incluso con un beneficio financiero, la situación no cambió significativamente: la proporción de quienes admitieron no saber aumentó del 3 % al 8 % y la precisión solo subió un 16 %. Estas cifras siguieron siendo mucho más bajas que los resultados del grupo sin AI.

Según los científicos, la capacidad de una persona para decir "no lo sé" es crucial, ya que implica comprender los límites de sus propios conocimientos. La presencia constante de la inteligencia artificial y su capacidad para responder instantáneamente a cualquier pregunta está apagando el deseo humano de admitir sus propias dudas. Esto conduce a una disminución de las habilidades de pensamiento crítico.

Este problema puede ser especialmente peligroso para niños y jóvenes cuyo pensamiento crítico aún no está completamente formado. Se advierte que una confianza excesiva en los sistemas de AI podría, en el futuro, eliminar por completo la capacidad de las personas para verificar la información y reconocer sus propios errores. Los autores del estudio instan a no perder la vigilancia al utilizar la tecnología.