Las conversaciones de usuarios de Claude se filtraron en la búsqueda de Google

La seguridad de los servicios de IA y la privacidad de los usuarios han vuelto a ser el centro de un serio debate. Según información difundida por la publicación 404 Media y usuarios de redes sociales, se descubrió que una parte desconocida de los chats públicos en la red neuronal Claude y de las miniaplicaciones Artifacts creadas por los usuarios se indexó públicamente en el motor de búsqueda de Google. Esta situación generó graves preocupaciones sobre la seguridad de los datos personales, informa Techcrunch.com informa .

El problema resultó estar relacionado con la función « share chat » (compartir chat) del servicio. Esta función permite a los usuarios compartir sus proyectos o conversaciones con otros mediante un enlace especial. Aunque la interfaz advierte que cualquier persona con el enlace puede verlo, muchos no imaginaron que esta información quedaría abierta a todo Internet y terminaría en los motores de búsqueda.

Divulgación de datos confidenciales

Las observaciones realizadas por las publicaciones TechCrunch y Futurism demostraron que entre las páginas indexadas por el motor de búsqueda había contenidos muy sensibles y confidenciales. En particular, se detectaron el informe médico detallado de un paciente real, resultados de ensayos clínicos con nombres de pacientes, así como nombres y números de teléfono de alumnos de primaria. También se reveló que documentos de empresas destinados exclusivamente a uso interno quedaron visibles para el público.

Además, entre los documentos de Artifacts expuestos se encontraron varios códigos de programación, notas de trabajo y textos de contenido erótico generados por inteligencia artificial. Según la revista Fortune, en una de estas conversaciones se mostraba que Claude había creado contenido explícito en contra de sus propias normas, lo que infringe la política de Anthropic.

Respuesta de las empresas y solución del problema

En un comentario para TechCrunch, los representantes de Anthropic afirmaron que dichos enlaces solo aparecen en los resultados de búsqueda si los propios usuarios los publican en foros o redes sociales donde los motores de búsqueda pueden verlos. Según la portavoz de la empresa, Ami Roterman, no comparten catálogos de chats ni mapas de sitio con motores de búsqueda como Google, pero si un usuario comparte información públicamente, puede ser archivada por servicios de terceros.

Por su parte, Ned Adriance, representante de Google, subrayó que el motor de búsqueda no controla la popularidad de las páginas web y que los motores de búsqueda siempre siguen las directrices establecidas por los propietarios de los sitios. Detectada el sábado por un usuario de Reddit y ampliamente difundida el lunes, esta falla fue solucionada rápidamente. Las búsquedas de prueba realizadas a partir del lunes no dieron ningún resultado, lo que demuestra que el problema se resolvió con éxito.