Anthropic marque les textes générés par l’AI avec des signatures spéciales

Anthropic, l’une des entreprises leaders du secteur de l’AI, a annoncé que ses réseaux neuronaux, notamment les modèles Claude, ajouteront des signatures numériques spéciales aux textes générés. Selon Techcrunch.com, cette décision vise à s’aligner pleinement sur les règles strictes de l’Union Européenne en matière d’AI.

Le Code de transparence de la Loi de l’Union Européenne sur l’AI est entré en vigueur le 2 août de cette année. Ce document exige des fournisseurs d’AI qu’ils marquent les contenus créés ou modifiés par ordinateur au moyen de méthodes permettant à d’autres systèmes de les reconnaître facilement. Anthropic a donc été contrainte de mettre à jour sa politique.

Comment fonctionne la nouvelle technologie

Selon la page d’assistance mise à jour de l’entreprise, tous les modèles lancés après le 2 août ajoutent automatiquement des signatures numériques aux textes et aux fichiers. Pour les fichiers, la technologie C2PA, considérée comme un standard ouvert, est utilisée, tandis que des méthodes furtives au niveau du modèle sont activées pour les textes.

Selon les experts, ces signatures numériques sont intégrées directement au texte. Ainsi, même si l’utilisateur copie l’information et la déplace ailleurs, la signature se déplace avec le texte et peut résister à certains processus de modification. On ignore encore dans quelle mesure les utilisateurs devront modifier un texte pour supprimer complètement cette signature.

Des changements à l’échelle du secteur

Le système de marquage numérique sera déployé dans l’API de la plateforme Claude, l’application Claude, ainsi que dans divers services comme Claude Code, Claude Cowork et Claude Tag. Anthropic prévoit d’étendre progressivement cette prise en charge aux anciens modèles.

Ces derniers temps, les grands groupes technologiques et les plateformes se dépêchent de marquer les contenus générés par l’AI afin d’éviter les objections des utilisateurs et d’éventuels problèmes juridiques. La semaine dernière, la plateforme musicale Suno a notamment annoncé qu’elle marquerait également les morceaux créés par son système.

Google, Meta, Microsoft, OpenAI, Black Forest Labs et Synthesia se sont également engagés à respecter ce Code de transparence de l’Union Européenne. Selon les experts, de telles initiatives permettront à l’avenir de distinguer beaucoup plus facilement les contenus authentiques de ceux générés par l’AI dans l’environnement numérique.