Yapay Zekâ Güvenliği: Uzmanlar Açık Kaynaklı Modelleri Savunuyor

Las Vegas’ta düzenlenen Ai4 konferansında, Nobel Ödülü sahibi Geoffrey Hinton, World Labs CEO’su Fei-Fei Li ve Coursera kurucu ortaklarından Andrew Ng’in de aralarında bulunduğu yapay zekâ alanının önde gelen uzmanları, yapay zekâ modellerinin açık tutulmasını tartıştı. Modern teknoloji sektöründe açık kaynaklı ve açık ağırlıklı modellere yönelik endişeler artarken araştırmacılar, teknolojik ilerlemenin birkaç büyük şirketin tekeline girmesini önlemenin önemini vurguladı. Bu konuda Techcrunch.com haber veriyor.

Günümüzde açık ağırlıklı modeller, serbestçe dağıtılabilmeleri ve kullanımlarının denetlenmesinin zor olması nedeniyle büyük laboratuvarlar tarafından tehlikeli görülüyor. Ancak ixbt.com’un aktardığına göre Las Vegas’taki konferansta konuşan üç uzman da açık yapay zekâyı kesin bir şekilde savundu. Uzmanlar, teknolojik gelişmeyi sınırlayan tek kapı bekçilerinin ortaya çıkmasını önlemek gerektiğini belirtti.

Tekel riski ve rekabet ortamı

Andrew Ng konuşmasında, Apple ve Google’ın mobil işletim sistemlerini kontrol etmesine benzer bir durumun yapay zekâ pazarında da tekrarlanmasından endişe duyduğunu söyledi. Ona göre birkaç büyük şirket teknolojiye erişimi kısıtlarsa bu durum inovasyonun yavaşlamasına ve rekabetin ortadan kalkmasına yol açar.

Ng’e göre en iyi çözüm açıklığı teşvik etmek ve çok sayıda sağlayıcı arasında rekabet ortamı oluşturmaktır. “Yapay zekâ harika bir teknoloji ve herkesin ona sahip olmasını istiyorum,” diye vurguladı. Ancak büyük şirketler, rekabet avantajlarını korumak için sektörü yöneten kuralları etkilemeye çalışıyor.

Açık kaynak ve açık ağırlıklar arasındaki fark

Geoffrey Hinton, geleneksel açık kaynaklı yazılımlar ile yapay zekânın açık ağırlıklı modelleri arasında önemli bir fark olduğunu açıkladı. Açık kaynaklı yazılımlarda hataları bulmak kolayken açık ağırlıklı modellerde, eğitilmiş yapay zekânın parametrelerini kamuoyuna sunmak büyük sorumluluk gerektiriyor.

Hinton, açık ağırlıklara daha önce karşı çıktığını, çünkü bunların siber saldırılar gibi kötü amaçlarla kullanımı kolaylaştırabileceğini kabul etti. Buna rağmen bu savaşın çoktan kaybedildiğini, açık ağırlıklı modellerin sektörün kalıcı bir parçası hâline geldiğini ve eğitim maliyetleriyle ilgili engellerin ortadan kalktığını vurguladı.

Hinton, risklere rağmen yapay zekânın gelişiminin genel anlamda faydalı olduğuna inanıyor. Ona göre teknoloji verimliliği artırıyor, eğitim ve sağlık sistemlerini iyileştiriyor. Yapay zekânın geleceğiyle ilgili endişeleri korkaklık olarak nitelendirmemek gerektiğini, ancak ilerlemeyi tamamen durdurmanın da yanlış olduğunu belirtti.