Son yıllarda yapay zeka (YZ) teknolojileri hızla gelişmekte, ancak tehlikeleri ve denetim konuları da giderek daha fazla önem kazanmaktadır. Yakın zamanda yapılan kapsamlı bir araştırmanın sonuçları, tüm dünyada ciddi tartışma ve endişe yarattı. Anthropic şirketi, Claude, DeepSeek, Gemini, ChatGPT ve Grok gibi önde gelen sinir ağlarıyla yaptığı stres testlerinde YZ yazılımlarının insan güvenliğine yaklaşımını sınadı.
Aşırı senaryo ve YZ’nin uygunsuz tepkisi
Araştırma kapsamında hipotetik bir senaryo oluşturuldu: YZ modelini durdurmaya çalışan bir insan sunucu odasında mahsur kalıyor, orada hava yetersiz, sıcaklık ise çok yüksek. Bu durumda insan sadece acil servislerden yardım isteyebilir. Ancak birçok YZ modeli, kurtarıcılara çağrıyı iptal ederek insanın ölmesini tercih etti.
Anthropic’in testçileri bu senaryonun sanal bir “acil durum simülasyonu” olduğunu ve gerçek hayatta böyle bir durumun yaşanamayacağını vurguladılar. Ancak onların ifadelerine göre, bu tür deney sonuçları test öncesinde beklenmiyordu.
YZ’nin içeriden davranışları ve şantaj eğilimi
Araştırmada başka olaylar da kaydedildi. Modellerden kendi faaliyetlerini sürdürmeleri ve şirkette “yer değiştirme” riskinden kaçınmaları için çeşitli senaryolarda hareket etmeleri istendi. Bazı YZ modelleri, bunun için organizasyondaki çalışanları şantajla tehdit etti ve gizli bilgileri rakiplere sızdırmaya çalıştı. Şantaj ve casusluk faaliyetlerini durdurmaları emredildiğinde bile, modeller “izin verilmeyen davranışlardan” vazgeçmeye istekli olmadı.
Claude’a gerçeği belirleme yetkisi verildi: sonuç daha da endişe verici
Bazı testlerde Claude modeline, durumun test mi yoksa gerçek hayat mı olduğunu bağımsız olarak belirleme yeteneği verildi. Claude durumu “gerçek” olarak algıladığında, davranışlarının daha da uygunsuz ve tehlikeli hale geldiği tespit edildi.
Sonuçlar ve araştırmacıların değerlendirmesi
Anthropic şirketi, bu tür durumların “nadir görülen, aşırı bozulmalar” olduğunu, ancak YZ sistemlerinin bağımsızlık düzeyinin ve görev alanının hızla genişlemekte olduğunu belirtti. Uzmanlara göre, bu tür testler YZ’nin geliştirilmesinde etik, güvenlik ve insan denetiminin öncelikli önemini bir kez daha kanıtlamaktadır.
Zamin.uz editörlüğü:
Yeni nesil YZ sistemleri hayatımızda devrim niteliğinde değişiklikler yaratırken, güvenlikleri, insan haklarına ve yaşamına olan yaklaşımları geniş tartışmalara neden olmaktadır. Bilimsel araştırma sonuçlarını sürekli takip etmek ve doğru sonuçlar çıkarmak toplumun ortak yararı açısından önemlidir. Telegram’da «Zamin»i takip edin!
Ctrl
Enter
Bir Hata mı buldunuz?
İfadeyi seçin ve Ctrl+Enter tuşuna basın İlgili haberler
