A medida que las herramientas de generación de imágenes por IA se vuelven más populares y sofisticadas, verificar la autenticidad de una imagen se ha vuelto más difícil que nunca. El martes, OpenAI anunció dos nuevas medidas para combatir este problema. La empresa se ha unido al estándar abierto C2PA, que añade una etiqueta clara a los metadatos indicando que una imagen fue creada por IA. Esto es reportado por Techcrunch.com .
OpenAI también está implementando una marca de agua invisible llamada SynthID en colaboración con Google. Aunque es más difícil de detectar, esta marca es muy compleja de eliminar, incluso si actores malintencionados intentan ocultar sus huellas. Las nuevas protecciones actualmente solo se aplican a imágenes creadas a través de productos de OpenAI y no afectan el contenido de otras herramientas.
Además, OpenAI está introduciendo una herramienta de verificación pública que permite comprobar ambas señales. Esto permite a los usuarios probar fácilmente si una imagen fue creada usando IA. Inicialmente, esta herramienta solo se aplicará a productos de OpenAI, pero la empresa planea expandirla para cubrir otras plataformas en el futuro.
Fundada en 2021, la coalición C2PA es una organización sin fines de lucro dedicada a reducir el impacto negativo de las imágenes de IA en el entorno social. Aunque el estándar C2PA ha sido adoptado por productos de Google, su implementación en la industria aún no es uniforme. Dado que los metadatos pueden ser alterados, el uso conjunto con sistemas más robustos como SynthID se considera más efectivo.
La marca de agua SynthID, desarrollada por Google, está diseñada para persistir incluso después de capturas de pantalla, cambios de tamaño o manipulaciones digitales. OpenAI señala que, si bien las marcas de agua son resistentes a las transformaciones, los metadatos proporcionan más contexto. Juntos, estos dos sistemas crean una capa de protección más sólida para determinar la procedencia de una imagen.
¡Lee “Zamin” en Telegram!
