Anthropic kennzeichnet KI-generierte Texte mit speziellen Markierungen

Anthropic, eines der führenden Unternehmen im Bereich der künstlichen Intelligenz, hat angekündigt, von seinen neuronalen Netzen, darunter den Claude-Modellen, erstellte Texte mit speziellen digitalen Markierungen zu versehen. Laut ixbt.com soll dieser Schritt die vollständige Anpassung an die strengen Vorschriften der Europäischen Union zur künstlichen Intelligenz gewährleisten. Techcrunch.com berichtet .

Der Transparenzkodex im Rahmen des Gesetzes der Europäischen Union über künstliche Intelligenz ist am 2. August dieses Jahres in Kraft getreten. Das Dokument verpflichtet KI-Entwickler, computergenerierte oder bearbeitete Inhalte mit Methoden zu kennzeichnen, die es anderen Systemen ermöglichen, sie problemlos zu erkennen. Deshalb musste Anthropic seine Richtlinien aktualisieren.

Wie funktioniert die neue Technologie?

Laut der aktualisierten Support-Seite des Unternehmens versehen alle nach dem 2. August veröffentlichten Modelle Texte und Dateien automatisch mit digitalen Markierungen. Für Dateien kommt der offene C2PA-Standard zum Einsatz, während für Texte auf Modellebene verborgene Methoden aktiviert werden.

Experten zufolge werden diese digitalen Markierungen direkt in den Text eingebettet. Selbst wenn ein Nutzer die Informationen kopiert und an einen anderen Ort verschiebt, wandert die Markierung daher mit dem Text weiter und kann sogar bestimmte Bearbeitungsvorgänge überstehen. Unklar ist bislang, wie stark Nutzer den Text verändern müssten, um die Markierung vollständig zu entfernen.

Veränderungen auf Branchenebene

Das digitale Kennzeichnungssystem wird auf die Claude-Plattform-API, die Claude-App sowie verschiedene Dienste wie Claude Code, Claude Cowork und Claude Tag angewendet. Anthropic plant, diese Unterstützung im Laufe der Zeit auch auf ältere Modelle auszuweiten.

In letzter Zeit beeilen sich große Technologiekonzerne und Plattformen, KI-generierte Inhalte zu kennzeichnen, um Nutzerbeschwerden und mögliche rechtliche Probleme zu vermeiden. Insbesondere kündigte die Musikplattform Suno vergangene Woche an, auch in ihrem System erstellte Tracks zu kennzeichnen.

Auch führende Unternehmen wie Google, Meta, Microsoft, OpenAI, Black Forest Labs und Synthesia haben sich verpflichtet, den Transparenzkodex der Europäischen Union einzuhalten. Experten zufolge werden solche Initiativen künftig die Unterscheidung zwischen echten und von künstlicher Intelligenz erstellten Inhalten im digitalen Umfeld deutlich erleichtern.