Alors que les outils de génération d'images par IA deviennent plus populaires et sophistiqués, vérifier l'authenticité d'une image est devenu plus difficile que jamais. Mardi, OpenAI a annoncé deux nouvelles mesures pour lutter contre ce problème. L'entreprise a rejoint le standard ouvert C2PA, qui ajoute une étiquette claire aux métadonnées indiquant qu'une image a été créée par une IA. C'est ce que rapporte Techcrunch.com .
OpenAI met également en œuvre un filigrane invisible appelé SynthID en collaboration avec Google. Bien qu'il soit plus difficile à détecter, ce signe est très complexe à supprimer, même si des acteurs malveillants tentent de dissimuler leurs traces. Les nouvelles protections ne s'appliquent actuellement qu'aux images créées via les produits OpenAI et n'affectent pas le contenu provenant d'autres outils.
De plus, OpenAI introduit un outil de vérification public permettant de tester les deux signaux. Cela permet aux utilisateurs de vérifier facilement si une image a été créée à l'aide d'une IA. Initialement, cet outil ne concernera que les produits OpenAI, mais l'entreprise prévoit de l'étendre à d'autres plateformes à l'avenir.
Fondée en 2021, la coalition C2PA est une organisation à but non lucratif spécialisée dans la réduction de l'impact négatif des images générées par IA sur l'environnement social. Bien que le standard C2PA soit adopté par les produits Google, son application à l'échelle de l'industrie n'est pas encore uniforme. Comme les métadonnées peuvent être modifiées, l'utilisation conjointe avec des systèmes plus robustes comme SynthID est considérée comme plus efficace.
Le filigrane SynthID, développé par Google, est conçu pour persister même après des captures d'écran, des redimensionnements ou des manipulations numériques. OpenAI note que si les filigranes sont résistants aux transformations, les métadonnées fournissent plus de contexte. Ensemble, ces deux systèmes créent une couche de protection plus solide pour déterminer la provenance d'une image.
Lisez “Zamin” sur Telegram !
