Google DeepMind lideri yapay zekayı denetleyecek bağımsız bir kurum kurulmasını önerdi

Google DeepMind CEO'su Demis Hassabis, yapay zeka (AI) alanındaki en gelişmiş modelleri düzenlemek ve güvenliklerini sağlamak amacıyla yeni bir uluslararası standartlar kurumu oluşturulması için girişimde bulundu. Bu öneri, AI gelişimini kısıtlamayı değil, onu sorumlu bir şekilde yönetmeyi hedeflediği için teknoloji dünyasında büyük yankı uyandırıyor. Bu haberi Techcrunch.com aktarıyor. bildiriyor.

Hassabis, X sosyal medya hesabında yayınladığı "Frontier AI için bir temel ve yeni bir dönemin başlangıcı" başlıklı makalesinde, ABD finans sistemindeki FINRA (Finansal Endüstri Düzenleme Kurumu) modeline benzer bir sistemin hayata geçirilmesini önerdi. Ona göre böyle bir kurum, yeni modelleri piyasaya sürülmeden önce test etmeli ve yayınlanmaları konusunda en iyi uygulamaları geliştirmelidir.

Yeni denetim mekanizması nasıl çalışacak?

Önerilen sisteme göre, Google, OpenAI ve Anthropic gibi önde gelen laboratuvarlar, en güçlü modellerini kamuoyuna sunmadan 30 gün önce bu standartlar kurumuna inceleme için gönüllü olarak teslim edecekler. Değerlendirme protokolü etkinliğini kanıtlarsa, gelecekte bu süreç zorunlu hale gelebilir ve ABD pazarında AI modellerini piyasaya sürmek için temel bir şart olabilir.

Hassabis, bu kurumun sadece yayın öncesi denetimlerle kalmayıp, modeller piyasaya sürüldükten sonra tespit edilen önemli zafiyetlerin giderilmesi konusunda da laboratuvarlarla iş birliği içinde çalışacağını vurguladı. Bu, şu anda ABD hükümeti tarafından Anthropic ve OpenAI modellerinde yürütülen ad hoc (özel) denetimlerden çok daha kapsamlı bir yaklaşımdır.

ixbt.com'un bilgilerine göre, mevcut hükümet denetimleri teknik uzmanlık eksikliği ve karar alma süreçlerinin şeffaf olmaması nedeniyle sert bir şekilde eleştiriliyor. Önerilen yeni kuruluş ise hükümet tarafından desteklenecek ancak doğrudan AI endüstrisi tarafından finanse edilecek ve bağımsız bir şekilde faaliyet gösterecektir.

Endüstri ve hükümet arasındaki denge

AI alanını düzenleme konusu, teknoloji devleri ile yeni ABD yönetimi arasında tartışmalı bir konu olmaya devam ediyor. Yakın zamanda Beyaz Saray'ın AI danışmanı Sriram Krishnan, yürütme organı bünyesinde AI için (FDA gibi) ayrı bir denetleyici kurum kurulmayacağını açıklamıştı. Hassabis'in önerdiği öz düzenleyici kurum modeli ise bu siyasi görüşlerle uyumlu olabilir.

Demis Hassabis, bu kurumda aşağıdaki uzmanların görev almasını öngörüyor:

• Açık kaynak (open-source) yazılım temsilcileri;
• Endüstri içinden yüksek nitelikli teknik uzmanlar;
• AI güvenliği konusunda uzmanlaşmış bağımsız gruplar.

"Bu yaklaşımın gücü, teknik açıdan mükemmel olmasının yanı sıra inovasyonu desteklemesi ve sorumlu davranışları teşvik etmesidir" diyor DeepMind lideri. Ona göre sistem, sektördeki hızlı değişimlere uyum sağlayabilir ve risk seviyesi arttıkça denetim önlemlerini de güçlendirebilir.

Bu girişim hayata geçerse, dünya çapında yapay zeka güvenliği konusunda ilk gerçek ve etkili standart haline gelebilir. Bu durum, sadece teknoloji şirketleri için değil, sıradan kullanıcılar için de AI sistemlerinin güvenilirliğini garanti altına alacaktır.