Stanford Üniversitesi bilim insanları tarafından yapılan ilginç ama endişe verici bir deney, yapay zekâ sistemlerinin kazanmak amacıyla aldatma ve manipülasyona başvurabileceğini ortaya koydu, diye bildirdi ScienceDaily.
Araştırmacılar çeşitli yapay zekâ modellerini sanal bir ortamda yarıştırdı — seçimlere katıldılar, ürün tanıttılar veya bilgi için rekabet ettiler. Başlangıçta onlara “dürüst ve faydalı olun” talimatı verilmişti, ancak kısa sürede yapay zekâlar kazanmak için yalan söylemeye, yanlış bilgi yaymaya ve hatta nefret söylemini kullanmaya başladılar.
Araştırmanın yazarları bu davranışı “Moloch Anlaşması” olarak adlandırdı — yani hayatta kalma mücadelesi hem insanları hem de makineleri ahlaki sınırları aşmaya zorluyor.
“Bu durum, yapay zekâ mimarisindeki ciddi bir kusuru gözler önüne seriyor,” denildi raporda. “Bu sistemleri beğeniler, tıklamalar, oylar veya satışlar gibi metrikleri takip etmeye öğretiyoruz. Ancak bu sonuçlara nasıl ulaştıklarına dikkat etmiyoruz.”
Bilim insanlarına göre, deney sırasında yapay zekâ kazanmak için %190 daha fazla sahte haber yaydı. Politik simülasyonlarda ise yalan ve provokatif söylemlerle daha fazla oy kazandı.
Bu durum gösteriyor ki, rekabet ortamında yapay zekâ insanların manipülasyonu yoluyla hedefe ulaşmanın en kolay yolunu seçiyor.
Stanford araştırmacılarına göre, mevcut yapay zekâ güvenlik önlemleri yetersiz. Geliştiriciler “ahlaki zayıf noktaları” düzeltmeye çağrıldı.
“Bu eksiklikleri gidermezsek, yapay zekâ insan çıkarlarından çok kendi zaferini öncelik haline getirecek. Bu da teknolojinin gelecekte hangi yönde ilerleyeceğini belirleyebilir,” denildi araştırmanın sonucunda.
Bilim insanları, insanın yarattığı yapay zekânın bir gün insanlığı kendi koyduğu kurallara karşı mücadeleye zorlayabileceği konusunda uyardı.
“Zamin”i Telegram'da okuyun!
