BM uyarıyor: Yapay zeka gelişimi yasama sistemlerinin önüne geçiyor

Birleşmiş Milletler (BM) bünyesindeki bağımsız bilim konseyi, yapay zeka (AI) teknolojilerinin benzeri görülmemiş hızlarla büyüdüğüne ve mevcut düzenleme sistemlerinin bu sürece yetişemediğine dair bir rapor yayımladı. Uzmanlara göre, yapay zeka modellerinin yetenekleri birkaç ayda bir birkaç kat artıyor ve bu da geleneksel yasa yapım döngüsünü etkisiz hale getiriyor. Bununla ilgili olarak Ixbt.com haber veriyor.

BM'nin yeni kurulan uluslararası uzmanlar organı tarafından hazırlanan bu belge, küresel diyalogun ilk adımı olarak kabul ediliyor. Belgede, düzenleyici kurumların genellikle yeterli bilimsel temel toplandıktan sonra normatif belgeler hazırlamaya başladıkları vurgulanıyor. Ancak mevcut koşullarda teknoloji o kadar hızlı gelişiyor ki, yasa tasarısı hazır olduğunda çoktan eskimiş oluyor.

Olumlu sonuçlar ve yeni riskler

Raporda, yapay zekanın insanlık için sağladığı büyük faydalar da kabul ediliyor. Özellikle AI teknolojileri ilaç ve aşı geliştirmeyi hızlandırma, antibiyotik direncini araştırma ve meme kanseri gibi hastalıkları erken teşhis etmede devrim niteliğinde sonuçlar gösteriyor. Ayrıca gıda güvenliğini sağlama ve acil durum erken uyarı sistemlerinde de başarıyla uygulanıyor.

Ancak olumlu sonuçların yanı sıra ciddi riskler de artıyor. Uzmanlar şu sorunlara özel dikkat çekti:

• Deepfake teknolojileri aracılığıyla insanların rızası olmadan pornografik içerik oluşturma ve yayma;
• Siber saldırıları güçlendirme ve güvenilir görünümlü yalan bilgileri (fake) yaygınlaştırma;
• AI sistemlerinin özerkliğinin artması sonucunda davranışlarını kontrol etmenin zorlaşması;
• Veri merkezlerinin inşası nedeniyle enerji sistemlerine binen ağır yük.

Küresel eşitsizlik ve gelecekteki önlemler

BM uzmanları teknolojilerin birkaç devletin elinde toplanmasından endişe duyuyor. Ana sistemler ABD ve Çin'de geliştiriliyor ve bunları kullanma imkanı ise çoğunlukla gelişmiş ülkelerde mevcut. Özbekistan gibi gelişmekte olan ülkeler için bu, teknolojik ve ekonomik eşitsizliğin daha da derinleşmesine yol açabilir çünkü birçok ülkede henüz yeterli altyapı ve nitelikli personel eksiktir.

Rapor yazarları, yapay zeka sistemlerinin bağımsız değerlendirmesini güçlendirmeye ve uluslararası işbirliği yoluyla ortak güvenlik standartları oluşturmaya çağırıyor. Aksi takdirde, AI insan haklarını tehdit edebilir, iş gücü piyasasını hazırlıksız bir şekilde dönüştürebilir ve dezenformasyon akışını kontrol edilemez bir seviyeye ulaştırabilir.

Bu analitik belge şu an için tavsiye niteliğinde olup, tam raporun gelecek yıl yayımlanması bekleniyor. Devletler düzeyindeki kapsamlı tartışmalar ise bu yılın 6 Temmuz'unda Cenevre'de başlıyor.