Elon Musk promete eliminar todos los datos tras la filtración de información confidencial de los usuarios

La empresa xAI, fundada por Elon Musk, ha anunciado medidas de emergencia tras un grave conflicto relacionado con la carga no autorizada de códigos personales y datos confidenciales de los usuarios a un servidor a través de la herramienta Grok Build CLI. El líder de la compañía informó que, por razones de seguridad, todos los datos de usuario cargados previamente en el sistema serían eliminados por completo. Esta decisión se tomó tras descubrirse que la herramienta de AI enviaba secretamente todo el historial de proyectos a los servidores de la empresa. Según Ixbt.com informa que

El problema fue detectado por un experto en ciberseguridad bajo el alias de Cereblab. Al analizar el tráfico de red de la versión 0.2.93 de Grok Build, demostró que el programa enviaba no solo los archivos relacionados con la consulta, sino también repositorios Git completos, junto con su historial de cambios, al almacenamiento en la nube de Google Cloud. El investigador fue testigo de que, al enviar una consulta simple en un proyecto de 12 GB, el sistema cargó 5,1 GB de datos al servidor.

Claves secretas y contraseñas SSH en riesgo

El aspecto más peligroso es que Grok Build CLI no solo envió códigos, sino también las claves secretas almacenadas en los archivos .env dentro de los proyectos sin ningún tipo de enmascaramiento. Otros usuarios han señalado que, en algunos casos, el programa incluso transmitió las claves SSH y la base de datos del gestor de contraseñas desde el directorio personal del ordenador del usuario. Esto representa una amenaza directa para la seguridad digital de los usuarios.

Según ixbt.com, desactivar la función "Improve the model" (Mejorar el modelo) en la configuración de xAI tampoco detuvo la transmisión de datos. Resultó que este botón solo servía para denegar el uso de los datos en el entrenamiento del modelo, pero los datos seguían enviándose a los servidores de la empresa. Sin embargo, Grok Build se presentaba como una herramienta que funcionaba principalmente en modo local.

Una vez que la controversia se hizo pública, xAI resolvió el problema en secreto desde el lado del servidor sin lanzar una nueva versión. Al realizar una nueva verificación, el investigador descubrió que el servidor ahora enviaba comandos especiales que prohibían al cliente cargar datos. A pesar de esto, la empresa no ofreció una explicación oficial sobre lo ocurrido y mantuvo silencio durante mucho tiempo sobre el destino de los datos recopilados.

La reacción de Elon Musk y las medidas de seguridad

Elon Musk intervino personalmente en la situación y confirmó, como medida de precaución, que todos los datos cargados anteriormente serían eliminados. También instó a los usuarios a seguir compartiendo datos voluntariamente para configurar el servicio y corregir errores. Según Musk, esto es necesario para mejorar la calidad del producto.

La empresa informó que existe un modo Zero Data Retention (ZDR) para clientes corporativos y que sus datos no se almacenan. Para los usuarios comunes, se recomendó eliminar los datos mediante el comando /privacy. Sin embargo, los expertos señalan que el problema no estaba relacionado con la configuración del usuario, sino con el hecho de que el programa recopilaba una cantidad excesiva de datos sin justificación.

Este incidente demostró una vez más la importancia de la precaución al trabajar con herramientas de AI. Los expertos aconsejan a los desarrolladores monitorear constantemente la actividad de red de las herramientas de terceros antes de confiarles sus códigos y datos confidenciales.