Da Tools zur KI-Bildgenerierung immer beliebter und ausgefeilter werden, ist die Überprüfung der Echtheit eines Bildes schwieriger denn je. Am Dienstag kündigte OpenAI zwei neue Maßnahmen zur Bekämpfung dieses Problems an. Das Unternehmen ist dem offenen Standard C2PA beigetreten, der Metadaten um einen klaren Hinweis ergänzt, dass ein Bild von einer KI erstellt wurde. Dies berichtet Techcrunch.com .
OpenAI führt zudem in Zusammenarbeit mit Google ein unsichtbares Wasserzeichen namens SynthID ein. Obwohl es schwerer zu erkennen ist, lässt sich dieses Zeichen nur sehr schwer entfernen, selbst wenn böswillige Akteure versuchen, ihre Spuren zu verwischen. Die neuen Schutzmaßnahmen gelten derzeit nur für Bilder, die mit OpenAI-Produkten erstellt wurden, und haben keinen Einfluss auf Inhalte anderer Tools.
Darüber hinaus stellt OpenAI ein öffentliches Verifizierungstool vor, mit dem beide Signale überprüft werden können. Dies ermöglicht es Nutzern, einfach zu testen, ob ein Bild mithilfe von KI erstellt wurde. Zunächst wird dieses Tool nur für OpenAI-Produkte gelten, aber das Unternehmen plant, es in Zukunft auf andere Plattformen auszuweiten.
Die 2021 gegründete C2PA-Koalition ist eine gemeinnützige Organisation, die sich darauf spezialisiert hat, die negativen Auswirkungen von KI-Bildern auf das soziale Umfeld zu verringern. Obwohl der C2PA-Standard von Google-Produkten übernommen wurde, ist seine branchenweite Anwendung noch nicht einheitlich. Da Metadaten verändert werden können, gilt die Kombination mit robusteren Systemen wie SynthID als effektiver.
Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch nach Screenshots, Größenänderungen oder digitalen Manipulationen erhalten bleibt. OpenAI stellt fest, dass Wasserzeichen zwar resistent gegen Transformationen sind, Metadaten jedoch mehr Kontext bieten. Zusammen bilden diese beiden Systeme eine robustere Schutzschicht zur Bestimmung der Bildherkunft.
Lesen Sie „Zamin“ auf Telegram!
