Google DeepMind lideri yapay zeka üzerinde uluslararası denetim çağrısında bulundu

Google DeepMind lideri Demis Hassabis, dünya kamuoyuna en güçlü yapay zeka (AI) modellerini halka sunmadan önce test edecek ve değerlendirecek bağımsız bir kuruluş oluşturma çağrısında bulundu. Ona göre, böyle bir yapı küresel güvenliği sağlamak için hayati önem taşıyor ve gerektiğinde tehlikeli teknolojilerin yayılmasını geçici olarak kısıtlama yetkisine sahip olmalıdır. Bu konuda Ixbt.com haber veriyor.

Hassabis, "A Framework for Frontier AI and the Dawning of a New Age" başlıklı makalesinde, gelişmiş AI sistemleri için küresel kurallar geliştirme vaktinin ertelenemeyeceğini vurguladı. Önerdiği uluslararası denetim organı, bağımsız bir uzman grubu olarak faaliyet göstererek en karmaşık modellerin toplum için güvenliğini test etmelidir. Bu girişim, teknoloji dünyasında AI gelişiminin kontrolden çıkacağına dair endişelerin arttığı bir dönemde ortaya atılıyor.

ABD liderliğinde yeni düzen

DeepMind liderine göre, bu uluslararası yapının kurulmasında ABD öncü olmalıdır. Ülkenin teknoloji pazarındaki lider konumu ve AI alanındaki devasa potansiyeli, böyle bir sorumluluğu beraberinde getiriyor. Önerilen organın; AI güvenliği uzmanları, bilim dünyasından temsilciler ve açık kaynaklı yazılım geliştiricilerinden oluşması öngörülüyor.

Axios'un haberine göre, Hassabis bu girişimi birkaç aydır ABD yönetimi, Avrupalı yetkililer ve diğer büyük AI laboratuvarlarıyla görüşüyor. Yeni kuruluşun yıl sonuna kadar faaliyete geçmesini umuyor. Ancak şu an için ne uluslararası ölçekte ne de ABD'nin kendi içinde böyle bir düzenleyici için ortak bir yasal çerçeve veya üzerinde anlaşılmış bir format bulunmuyor.

Yapay Genel Zeka (AGI) eşiğinde

Hassabis, insanlığın Yapay Genel Zeka (AGI) seviyesine yaklaştığı konusunda uyarıda bulunuyor. Bu, insanın yapabileceği hemen hemen her türlü entelektüel görevi, insanla eşit veya daha üstün bir seviyede yerine getirebilen bir sistemdir. Böyle bir teknolojik sıçramanın ekonomi ve toplumda temel değişiklikleri beraberinde getireceği kaçınılmazdır, bu yüzden denetim mekanizmalarının şimdiden oluşturulması şarttır.

Ayrıca Google DeepMind lideri, AI sistemlerinin biyolojik silah yapımında kullanılma riskine de özellikle dikkat çekti. Daha önce diğer teknoloji devlerinin liderleriyle birlikte bu alanda korumanın güçlendirilmesi gerektiğini belirtmişti. Aynı zamanda uzmanlar, iş gücü piyasasında beklenen değişikliklere de hazırlıklı olunması gerektiğini hatırlatıyor.

Şimdilik küresel bir denetim organı kurmak karmaşık bir görev olmaya devam ediyor. Farklı ülkeler AI risklerini farklı değerlendiriyor; büyük şirketler ise bir yandan düzenlemeyi desteklerken diğer yandan modellerini bir yarış içinde geliştirmeye devam ediyor. Hassabis'in teklifi, aslında en güçlü AI sistemlerinin izin verilen sınırlarını kimin ve nasıl belirlemesi gerektiğine dair önemli bir soruyu gündeme getirdi.