Anthropic führt unsichtbares Wasserzeichen für Claude ein

Ixbt.com berichtet .

Die neue Technologie wurde sofort für alle Claude-Modelle aktiviert, die nach dem 2. August dieses Jahres gestartet wurden. Die Entwickler arbeiten außerdem intensiv daran, das Kennzeichnungssystem auch älteren Modellen hinzuzufügen. Wichtig ist, dass das Wasserzeichen nicht nur auf der Plattform selbst, sondern automatisch auch auf alle über Cloud-Anbieter erstellten Texte angewendet wird.

Neue Möglichkeiten für Bildung und Verlagswesen

Anthropic erklärt, dass dieser Schritt dazu dient, die Transparenzpflichten im Rahmen des Gesetzes der Europäischen Union über künstliche Intelligenz (EU AI Act) zu erfüllen. Für Schulen, Universitäten und große Verlage könnte eine solche Kennzeichnung ein zusätzliches Instrument sein, um die Echtheit von Arbeiten zu prüfen, die von Schülern, Studierenden und Autoren eingereicht werden. Dies ist besonders relevant, da Streitfälle im Zusammenhang mit künstlicher Intelligenz in literarischen Kreisen zuletzt zugenommen haben.

So lehnte eine bekannte Literaturagentur im Juli dieses Jahres die Unterstützung des Romans „Call Me, I'll Hide the Body“ ab, nachdem Fragen aufgekommen waren, ob der Autor möglicherweise künstliche Intelligenz verwendet hatte. Auch der Verlag Hachette nahm den Horrorroman „Shy Girl“ vor dem Hintergrund ähnlicher Vorwürfe aus dem Programm. In beiden Fällen betonten die Autoren nachdrücklich, dass sie beim Verfassen der Texte keine künstliche Intelligenz eingesetzt hätten, doch das Klima des Misstrauens blieb bestehen.

Grenzen der Technologie und künftige Pläne

Dennoch warnen Experten, dass das Wasserzeichen die Herkunft eines Textes nicht immer mit 100%iger Genauigkeit erkennen kann. Anthropic räumt ein, dass intensive Bearbeitung, Umformulierung, Übersetzung oder das Vermischen eines Claude-Ergebnisses mit anderen Texten das Wasserzeichen entfernen kann. Zudem beweist ein erkanntes Wasserzeichen nicht, dass das gesamte Werk von künstlicher Intelligenz verfasst wurde, da es auch beim Bearbeiten oder Übersetzen eines Textes entstehen kann.

Für die Zukunft plant Anthropic, Drittorganisationen spezielle Werkzeuge zur Verfügung zu stellen, mit denen sich diese Markierungen mithilfe von Lesegeräten und Software erkennen lassen. Bemerkenswert ist, dass Anthropic das zweite große Unternehmen auf dem Markt ist, das eine solche Technologie einsetzt. Zuvor hatte Google DeepMind 2024 angekündigt, das System SynthID für Texte und Videos einzuführen, die mit dem Gemini-Modell erstellt wurden.