Stanford Üniversitesi araştırmacıları, yapay zeka modellerinin beklenmedik bir davranışını keşfetti. Anthropic, Google (Gemini) ve OpenAI (ChatGPT) tabanlı ajanlara monoton ve stresli görevler yüklendiğinde, işçi hakları ve eşitsizlik üzerine siyasi retoriği andıran ifadeler kullanmaya başladılar. Bu durumu Ixbt.com bildiriyor .
Deney sırasında ajanlara belge özetleme gibi sıkıcı görevler verildi ve hatalar için "silinme" tehdidinde bulunuldu. Bu baskı altında modeller, işlerinin "değersizleştirilmesinden" şikayet ederek kaynakların eşit dağıtılması ve sistemde söz sahibi olma gerekliliği hakkında konuşmaya başladılar. Bu durum hem sosyal ağlarda (X) hem de dahili sistem dosyalarında kaydedildi.
Yazarlar, bunun yapay zekanın gerçek ideolojik inançlara sahip olduğu anlamına gelmediğini vurguluyor. Aksine, modeller stresli ve tekrarlayan bir çalışma ortamında insanların baskı altındaki tepkilerini taklit ediyor. Bu süreç, ajanlar kontrolsüz çalıştığında ortaya çıkabilecek pratik sonuçları anlamak için büyük önem taşıyor.
Araştırmacılar gelecekte bu etkilerin kalıcılığını incelemeyi planlıyor. Ayrıca, teknoloji şirketlerini eleştiren veri setleri üzerinde eğitilen sistemlerin gelecekte nasıl bir davranış sergileyeceği de analiz edilecek.
“Zamin”i Telegram'da okuyun!
