Yapay zeka destekli görsel oluşturma araçları popülerleşip mükemmelleştikçe, bir görselin gerçekliğini tespit etmek her zamankinden daha zor hale geldi. Salı günü OpenAI, bu sorunla mücadele etmek için iki yeni önlem duyurdu. Şirket, görselin yapay zeka tarafından oluşturulduğuna dair meta verilere net bir işaret ekleyen C2PA adlı açık standarda katıldı. Bu haberi Techcrunch.com veriyor.
OpenAI ayrıca Google ile iş birliği içinde SynthID adlı görünmez bir filigran (watermark) uygulamaya koyuyor. Tespit edilmesi daha zor olsa da, kötü niyetli kişiler izlerini gizlemeye çalışsa bile bu işareti kaldırmak oldukça zordur. Yeni koruma önlemleri şimdilik sadece OpenAI ürünleri aracılığıyla oluşturulan görseller için geçerlidir ve diğer araçlardan gelen içerik akışını etkilememektedir.
Buna ek olarak OpenAI, her iki sinyali de doğrulamaya olanak tanıyan halka açık bir doğrulama aracı sunuyor. Bu, kullanıcıların bir görselin yapay zeka yardımıyla oluşturulup oluşturulmadığını kolayca test etmelerini sağlıyor. Başlangıçta bu araç sadece OpenAI ürünleri için geçerli olacak, ancak şirket gelecekte bunu diğer platformları da kapsayacak şekilde genişletmeyi planlıyor.
2021 yılında kurulan C2PA koalisyonu, yapay zeka görsellerinin sosyal çevre üzerindeki olumsuz etkilerini azaltmaya odaklanan kar amacı gütmeyen bir kuruluştur. C2PA standardı Google ürünleri tarafından benimsenmiş olsa da, sektördeki kullanımı henüz standart değildir. Meta veriler değiştirilebildiği için, SynthID gibi daha sağlam sistemlerle birlikte kullanılması daha etkili kabul edilmektedir.
Google tarafından geliştirilen SynthID filigranı, ekran görüntüsü alma, yeniden boyutlandırma veya dijital manipülasyonlardan sonra bile korunacak şekilde tasarlanmıştır. OpenAI, filigranların dönüşümlere karşı dirençli olduğunu, meta verilerin ise daha fazla bilgi sağladığını belirtiyor. Bu iki sistem birlikte, görselin kökenini belirlemede daha güçlü bir koruma katmanı oluşturuyor.
“Zamin”i Telegram'da okuyun!
