Anthropic marca los textos generados por AI con firmas especiales

Anthropic, una de las empresas líderes del sector de la AI, ha anunciado que sus redes neuronales, incluidos los modelos Claude, añadirán firmas digitales especiales a los textos generados. Según Techcrunch.com, esta decisión busca adaptarse plenamente a las estrictas normas de la Unión Europea sobre la AI.

El Código de Transparencia de la Ley de la Unión Europea sobre la AI entró en vigor el 2 de agosto de este año. Este documento exige a los proveedores de AI marcar los contenidos creados o editados por ordenador mediante métodos que permitan a otros sistemas reconocerlos fácilmente. Por ello, Anthropic se vio obligada a actualizar su política.

¿Cómo funciona la nueva tecnología

Según la página de soporte actualizada de la empresa, todos los modelos lanzados después del 2 de agosto añadirán automáticamente firmas digitales a los textos y archivos. Para los archivos se utiliza la tecnología C2PA, considerada un estándar abierto, mientras que para los textos se activan métodos ocultos a nivel del modelo.

Los expertos señalan que estas firmas digitales se incorporan directamente al texto. Como resultado, aunque el usuario copie la información y la traslade a otro lugar, la firma se mueve junto con el texto e incluso puede resistir determinados procesos de edición. Por ahora, se desconoce cuánto deberán modificar los usuarios un texto para eliminar por completo esta firma.

Cambios a escala industrial

El sistema de marcado digital se aplicará a la API de la plataforma Claude, la aplicación Claude y diversos servicios como Claude Code, Claude Cowork y Claude Tag. Anthropic planea ampliar gradualmente esta compatibilidad a los modelos antiguos.

En los últimos tiempos, los grandes gigantes tecnológicos y las plataformas se apresuran a marcar los contenidos generados por AI para evitar las objeciones de los usuarios y posibles problemas legales. En particular, la semana pasada la plataforma musical Suno también anunció que marcaría las pistas creadas por su sistema.

Google, Meta, Microsoft, OpenAI, Black Forest Labs y Synthesia también se han comprometido a cumplir este Código de Transparencia de la Unión Europea. Según los expertos, estas iniciativas facilitarán considerablemente distinguir en el futuro los contenidos auténticos de los generados por AI en el entorno digital.