Anthropic помечает тексты искусственного интеллекта специальными метками

Одна из ведущих компаний в сфере искусственного интеллекта Anthropic сообщила, что добавляет специальные цифровые метки в тексты, созданные её нейросетями, включая модели Claude. Как сообщает издание Иксбт.ком, этот шаг предпринимается для полного соответствия строгим правилам Европейского союза в области искусственного интеллекта. Об этом Techcrunch.ком сообщает .

Кодекс прозрачности в рамках Закона Европейского союза об искусственном интеллекте вступил в силу 2 августа текущего года. Этот документ требует от разработчиков искусственного интеллекта помечать созданный или отредактированный с помощью компьютера контент способами, которые позволяют другим системам легко его распознавать. В связи с этим компании Anthropic пришлось обновить свою политику.

Как работает новая технология?

Согласно обновлённой странице поддержки компании, все модели, выпущенные после 2 августа, автоматически снабжают тексты и файлы цифровыми метками. Для файлов применяется технология К2ПА, считающаяся открытым стандартом, а для текстов запускаются скрытые методы на уровне модели.

По словам специалистов, эти цифровые метки встраиваются непосредственно в текст. В результате даже при копировании и переносе информации пользователем в другое место метка перемещается вместе с текстом и может сохраняться даже после определённых операций редактирования. Пока неизвестно, насколько сильно пользователям придётся изменить текст, чтобы полностью удалить из него эту метку.

Изменения на уровне индустрии

Система цифровой маркировки будет применяться к API платформы Claude, приложению Claude, а также различным сервисам, таким как Claude Коде, Claude Коворк и Claude Таг. Со временем Anthropic планирует расширить эту поддержку и на старые модели.

В последнее время крупные технологические гиганты и платформы спешат маркировать контент, созданный искусственным интеллектом, чтобы предотвратить недовольство пользователей и возможные юридические проблемы. В частности, на прошлой неделе музыкальная платформа Suno также объявила, что будет помечать треки, созданные в её системе.

Кроме того, такие ведущие организации, как Google, Meta, Microsoft, OpenAI, Блак Форест Лабс и Сйнтесиа, взяли на себя обязательство соблюдать этот Кодекс прозрачности Европейского союза. По мнению экспертов, подобные инициативы в будущем значительно упростят различение настоящего контента и материалов, созданных искусственным интеллектом, в цифровой среде.