Компания Anthropic внедрила невидимый водяной знак для Claude

На фоне стремительного развития технологий искусственного интеллекта и расширения их возможностей по созданию текстов всё более актуальными становятся вопросы авторского права и достоверности. По данным иксбт.ком, компания Anthropic внедрила в свои модели Claude нового поколения специальный «невидимый водяной знак», который не влияет на содержание и читаемость текста. Ожидается, что нововведение станет важным шагом в выявлении контента, созданного с помощью искусственного интеллекта, и установлении его первоисточника. Об этом Иксбт.ком сообщает .

Новая технология автоматически активировалась во всех моделях Claude, запущенных после 2 августа текущего года. Кроме того, разработчики сейчас активно работают над добавлением этой системы маркировки в более старые модели. Важно, что знак автоматически распространяется не только на тексты, созданные непосредственно на платформе, но и на весь контент, сгенерированный через облачных провайдеров.

Новые возможности для образования и издательской отрасли

Anthropic подчёркивает, что этот шаг предпринят для выполнения обязательств по обеспечению прозрачности в рамках Закона Европейского союза об искусственном интеллекте (ЭУ AI Акт). Для школ, университетов и крупных издательств такая маркировка может стать дополнительным инструментом проверки подлинности работ, представленных учащимися и авторами. В последнее время в литературной среде участились споры, связанные с использованием искусственного интеллекта.

В частности, в июле текущего года известное литературное агентство отказалось поддерживать роман «Калл Ме, И'лл Хиде те Бодй» из-за вопросов о возможном использовании писателем искусственного интеллекта. Издательство Хачетте также сняло с публикации хоррор-роман «Шй Гирл» на фоне аналогичных обвинений. В обоих случаях авторы категорически заявляли, что не использовали искусственный интеллект при создании текста, однако атмосфера недоверия сохранилась.

Ограничения технологии и планы на будущее

Тем не менее специалисты предупреждают, что водяной знак не всегда может со стопроцентной точностью указать происхождение текста. Как признаёт Anthropic, интенсивное редактирование, перефразирование, перевод или смешивание результата Claude с другими текстами могут удалить этот знак. Кроме того, обнаруженный водяной знак не доказывает, что произведение полностью написано искусственным интеллектом, поскольку он может появиться и в процессе редактирования или перевода текста.

В будущем Anthropic планирует предоставить сторонним организациям специальные инструменты, позволяющие выявлять такие знаки с помощью средств чтения и программного обеспечения. Стоит отметить, что Anthropic стала второй крупной компанией на рынке, применившей подобную технологию. До этого Google DeepMind объявила о внедрении системы СйнтИД для текстов и видео, созданных с помощью модели Gemini, в 2024 году.