La directora de Signal advierte: los chatbots de AI no son tus amigos

Meredith Whittaker, presidenta del mensajero Signal, hizo una declaración seria sobre los riesgos de confiar excesivamente en las tecnologías de AI y de entregarles datos personales. Según ella, sistemas como ChatGPT o Claude no son confidentes cercanos ni interlocutores conscientes, sino herramientas que procesan bases de datos masivas. Esto fue detallado en una entrevista con Bloomberg, reportado por Techcrunch.com informa .

Meredith Whittaker subrayó que se opone rotundamente a equiparar la AI con la conciencia humana. «No son tus amigos. No son seres conscientes ni interlocutores con sentimientos», señaló. La directora de Signal admitió que a veces utiliza estas tecnologías para formatear documentos, pero afirmó que nunca les hace preguntas ni confía sus procesos de pensamiento a las máquinas.

Cuestión de privacidad y control

Durante la entrevista, también se discutió la previsión de Mustafa Suleyman, jefe de Microsoft AI, sobre el uso de Microsoft Copilot para realizar compras navideñas. Para Whittaker, delegar tales tareas a la AI implica otorgar acceso total a las tarjetas bancarias, el historial del navegador, los mensajes privados y la dirección personal del usuario. Desde la perspectiva de la seguridad digital, esto es un riesgo enorme.

La directora de Signal teme que tales sistemas puedan monitorear conversaciones en grupos familiares y enviar mensajes en nombre del usuario. Señaló que un sistema con acceso amplio a múltiples aplicaciones y servicios anula la privacidad. En el contexto de Signal, tales casos podrían actuar como una «backdoor» (puerta trasera), debilitando el sistema de seguridad.

Whittaker mencionó que se toma muy en serio su proceso de pensamiento y escritura. No quiere que el proceso de generar nuevas ideas sea eclipsado por sistemas que simplemente resumen datos existentes. En su opinión, las respuestas de la AI suelen ser un promedio de la información disponible en Internet, lo que puede matar el enfoque creativo único del ser humano.

Esta advertencia también es relevante para los usuarios uzbekos. Mientras el uso de ChatGPT y otros bots se populariza en el país, confiar datos personales, datos bancarios y correspondencia confidencial a sistemas de terceros puede abrir la puerta al cibercrimen. Como señaló la directora de Signal, por muy conveniente que sea la tecnología, no debe violar los límites personales.

En conclusión, Meredith Whittaker instó a los usuarios a ser cautelosos con los «asistentes inteligentes» ofrecidos por los gigantes digitales. Según ella, la única forma de mantener la privacidad es no proporcionar todos los datos abiertamente a la AI y utilizar sus capacidades únicamente como una herramienta técnica.