Çin'de afetler sırasında yeni bir tehlike büyüyor: Yapay zeka sahte videoları

Son aylarda Çin doğal afetlerle mücadele ederken, ülkeyi bir diğer ciddi sorun daha tehdit ediyor: Yapay zeka (YZ) kullanılarak üretilen sahte videoların hızla yayılması. Hafta sonu ülkeyi vuran 'Noul' tayfununun ardından yaşanan durum, bu sorunu daha da güncel hâle getirdi.

Şiddetli tayfunlar ve sellerin ardından sosyal medyada gerçeği yansıtmayan çok sayıda fotoğraf ve video yayımlandı. Bunlar arasında suda sürüklenen cesetlerin yer aldığı sahte görseller, aslında zarar görmemiş bölgelerin sular altında kaldığını iddia eden videolar ve arama kurtarma çalışmaları hakkında bilerek manipüle edilmiş görüntüler de bulunuyor.

Bazı bölgelerde elektrik kesintileri yaşandığına dair yalan videoların yayılması halk arasında paniğe yol açtı; insanlar acil durum yedek malzemelerini toplu halde satın almaya başladı.

Bazı durumlarda ise sahte videolar gerçek olaylardan yararlanılarak hazırlandı. Örneğin temmuz ayı başlarında Guangxi eyaletindeki Hengzhou şehrinde yaşanan sel felaketi sırasında yüzlerce yılan özel bir çiftlikten kaçmıştı. Bu olayın ardından sosyal medyada nehre timsahların da salıverildiğine dair sahte görseller yayımlandı.

Geniş çaplı tahliyeler ve karmaşık kurtarma çalışmaları devam ederken hükümet halk arasında paniğin büyümesini istemiyor. Yetkililere göre, Çin'in milyarlarca dolar yatırım yaptığı yapay zeka teknolojileri artık bazı kişilerin elinde kamuoyunu yanıltma aracına dönüşüyor.

Zhejiang eyaleti polisinin siber güvenlik birimi yöneticilerinden Xuan Zhixuan'a göre, birçok içerik üreticisi afetlerle ilgili sansasyonel haberler yoluyla daha fazla abone toplamayı amaçlıyor. Onlara göre içerik ne kadar sansasyonel veya abartılı olursa, o kadar çok izlenme ve beğeni toplanabiliyor. Bu nedenle bazıları insanların dikkatini çekmek için bilgileri bilinçli olarak tahrif ediyor.

Son haftalarda sahte haber ve video üreten kişilere yönelik bir dizi önlem alındı. Bazılarının cezai sorumluluğa celtilmesi beklenirken, diğerlerine para cezaları veya idari cezalar uygulandı.

Uzmanlar ise yapay zeka yardımıyla yayılan dezenformasyonun görülmemiş boyutlara ulaşabileceği konusunda uyarıyor. Komünist Parti Merkez Parti Okulu profesörlerinden Chen Bin'in vurguladığı gibi, yapay zeka yalan haber üretimindeki teknik engelleri keskin bir şekilde azalttı. Artık özel bir bilgi gerekmiyor; basit bir komutla metin, görsel, ses ve videoları son derece inandırıcı, ancak tamamen sahte bir şekilde kısa sürede üretmek mümkün.

Doğu Çin Siyaset Bilimi ve Hukuk Üniversitesi Profesörü Gao Fuping'e göre, bu tür materyallerin yayılmasına çeşitli faktörler neden oluyor. Kimi bunu şaka olarak görürken, kimi kişisel çıkar veya internetteki trafiğini artırmak için hareket ediyor. Bir başka kesim ise toplumda korku ve istikrarsızlık yaratmayı amaçlıyor.

Uzmana göre bazı internet kullanıcıları çevrim içi alanda anonim kalabileceklerini veya tespit edilemeyeceklerini düşünüyor. Oysa kolluk kuvvetleri bu tür durumları yakından takip ediyor.

Uzmanlar ayrıca yapay zeka ile üretilen içeriklere özel filigranlar veya işaretler konulması önerisini de gündeme getiriyor. Ancak sorun şu ki, bu işaretler daha kolaylıkla düzenlenip kaldırılabilir.

Pekin Normal Üniversitesi Profesörü Xu Xiaoke ise coğrafi konum, zaman damgası ve görüntü kaynağını doğrulama sistemlerinin daha da güçlendirilmesi gerektiğini belirtti. Bununla birlikte, şu anda yapay zeka ile üretilen materyalleri tespit eden teknolojilerin, onları üreten teknolojilerin gerisinde kaldığını ifade etti.

Ona göre bu süreç sürekli bir 'kedi-fare oyunu'na benziyor. Bu nedenle teknolojinin kendisinin bir tuşa basarak tüm sahte materyalleri hemen tespit edeceğini düşünmek yanlış olur.

Çin hükümeti ise ülkeyi dünyanın önde gelen teknoloji ülkesi haline getirmek amacıyla yapay zeka sektörüne büyük yatırımlar yapmaya devam ediyor. 2017 yılında yapay zeka, ülke kalkınmasının temel itici gücü olarak ilan edilmişti. Günümüzde devlet resmi haber ajansının verilerine göre ülkede 6 binden fazla yapay zeka şirketi faaliyet gösteriyor.

Profesör Xu'ya göre bu koşullarda Çin güvenilir bir bilgi altyapısı oluşturmalıdır. Bu sisteme resmi uyarı platformları, acil durum arayüzleri ve medya için hızlı bilgi kaynakları dahil edilmelidir.

Ancak bazı durumlarda resmi kaynakların kendisinin de doğal afetlerle ilgili bilgileri yumuşatarak sunması kamu güveninin azalmasına yol açtı. Örneğin temmuz ayında Nanning yakınlarındaki Lulan Barajı duvarındaki büyük çatlak hakkında yerel gazetecilere bunun bir 'delinme' değil, 'açıklık' veya 'yırtık' olarak haberleştirilmesi tavsiye edilmişti. Daha sonra bu felaket sonucunda en az 26 kişi hayatını kaybetti.

Bu ilk olay değil. 2021 yılında Henan eyaletinde yerel yetkililer, 139 hayatını kaybeden vatandaşla ilgili bilgileri gizlemek veya küçümsemekle suçlanmıştı.

Uzmanlara göre tam da bu tür durumlar kamusal güvenin zayıflamasına ve kötü niyetli kişilerin sahte bilgileri kolayca yaymasına zemin hazırlıyor.

Bununla birlikte polis, halkı acil durumlarda yalnızca resmi ve doğrulanmış kaynaklara inanmaya çağırıyor. Ningbo Kamu Güvenliği Bürosu sözcüsü Gao Kai, kaynağı belirsiz afet haberlerine şüpheyle yaklaşılması ve resmi verilere güvenilmesi gerektiğini vurguladı.

Ona göre internet kanunsuz bir bölge değil. Kolluk kuvvetleri sosyal ağları, özellikle kısa video platformlarını özel ekipler aracılığıyla sürekli denetliyor ve yasa dışı hareket edenlere karşı kesin önlemler alıyor.

Çin Siber Uzay İdaresi de 23 Temmuz'da ülke genelinde sel ve diğer afetlerle ilgili sahte bilgilere karşı kapsamlı bir operasyon başlatıldığını duyurdu. Operasyonda sahte istatistikler, kurgulanmış videolar, sahnelenmiş olaylar, tarihi görüntüleri yeni bir olaymış gibi sunma ve yetkililer adına sahte açıklamalar yapma durumlarına özel bir önem veriliyor. Ayrıca sosyal medya platformlarına içerikleri daha sıkı denetleme talimatı verildi.

Profesör Gao Fuping'e göre sorunun en etkili çözümü halkı medya okuryazarlığı konusunda eğitmek ve yasaları kararlılıkla uygulamaktır. Ona göre yapay zeka kendi başına bir tehdit değil; asıl mesele insanların onu hangi amaçla kullandığıdır.

Ancak Profesör Chen Bin farklı düşünüyor. Ona göre yapay zeka teknolojileri yasal altyapıdan çok daha hızlı gelişiyor. Yeni hukuki sorular ortaya çıktıkça, yapay zeka yoluyla yayılan dezenformasyon uzun süre ciddi bir sorun olmaya devam edebilir.

Şanghay ve Washington'da faaliyet gösteren hukukçu Peter Pang ise yalnızca sahte materyal üreten kişilerin değil, aynı zamanda yapay zeka programlarını geliştiren şirketlerin ve bunları yayan platformların da hukuki sorumluluk altına girmesi gerektiğini belirtti.

Uzmanların sonuç bildirimine göre gelecekte seçimler, halk sağlığı, silahlı çatışmalar, doğal afetler ve halkın yaşamını ilgilendiren diğer konular, yapay zeka aracılığıyla yayılan yalan haberler için en tehlikeli alanlar haline gelebilir. Bu nedenle hükümetler ve internet platformları kriz yayıldıktan sonra değil, önceden hazırlık yapmalıdır.