В то время как инструменты для создания изображений с помощью искусственного интеллекта становятся популярнее и совершеннее, определение подлинности снимков стало сложнее, чем когда-либо. Во вторник OpenAI объявила о двух новых мерах по борьбе с этой проблемой. Компания присоединилась к открытому стандарту C2PA, который добавляет в метаданные четкую отметку о том, что изображение создано ИИ. Об этом сообщает Techcrunch.com .
OpenAI также внедряет невидимый водяной знак под названием SynthID в сотрудничестве с Google. Хотя его сложнее обнаружить, этот знак крайне трудно удалить, даже если злоумышленники попытаются скрыть следы. Новые меры защиты пока применяются только к изображениям, созданным через продукты OpenAI, и не влияют на контент из других источников.
Кроме того, OpenAI представляет общедоступный инструмент верификации, позволяющий проверять оба сигнала. Это дает пользователям возможность легко узнать, было ли изображение создано с помощью ИИ. Изначально инструмент будет работать только с продуктами OpenAI, но в будущем компания планирует расширить его охват на другие платформы.
Коалиция C2PA, основанная в 2021 году, является некоммерческой организацией, специализирующейся на снижении негативного влияния ИИ-изображений на социальную среду. Хотя стандарт C2PA принят продуктами Google, его применение в индустрии пока неоднородно. Поскольку метаданные можно изменить, использование их в сочетании с более надежными системами, такими как SynthID, считается более эффективным.
Водяной знак SynthID, разработанный Google, предназначен для сохранения даже после создания скриншотов, изменения размера или цифровых манипуляций. OpenAI отмечает, что в то время как водяные знаки устойчивы к трансформациям, метаданные предоставляют больше информации. Эти две системы вместе создают более надежный уровень защиты для определения происхождения изображения.
Читайте «Zamin» в Telegram!
