Yapay zeka insanı yanıltıyor: Araştırma beklenmedik bir tehlikeyi ortaya çıkardı

Modern teknolojilerin gelişimiyle birlikte yapay zeka (AI) sistemleri günlük hayatımızın ayrılmaz bir parçası haline geliyor. Ancak Fransa ve İtalya'daki üç prestijli üniversiteden bilim insanlarının yürüttüğü yeni bir araştırma, beklenmedik endişe verici sonuçlar ortaya koydu. Görünüşe göre, AI tavsiyelerine güvenmek, insanın kendi bilgisini tarafsız bir şekilde değerlendirme yeteneğini önemli ölçüde zayıflatıyor. Bu konuda Ixbt.com haber veriyor.

Deney sırasında katılımcıların kendi bilgilerine olan güvenleri ile gerçek sonuçları arasındaki uyum incelendi. Sonuçlar, yapay zeka yardımından yararlanan bireylerin haksız olduklarını kabul etmekte zorlandıklarını ve yanlış cevapları gerçek olarak kabul etmeye meyilli olduklarını gösterdi. En ilginç olanı ise, kendi cevaplarına olan güvenleri keskin bir şekilde artmasına rağmen, doğruluk seviyelerinin aksine düşüş göstermesiydi.

Güven artıyor, doğruluk ise düşüyor

Araştırmacılar katılımcılara karmaşık sorular sordular ve onları iki gruba ayırdılar. AI yardımı olmadan çalışan grup üyeleri, soruya cevap veremediklerini yüzde 44 oranında açıkça kabul ettiler. Ancak sistem tavsiyelerini kullanan grupta bu oran sadece yüzde 3'e düştü. Yani insanlar bilmediklerini kabul etmek yerine, AI tarafından sunulan yanlış bilgiye körü körüne inanmayı tercih ettiler.

Rakamlar daha da şaşırtıcı: AI yardımıyla cevap verenlerin doğruluk seviyesi yüzde 27'den yüzde 9'a düşerken, haklı olduklarına dair güvenleri ortalama yüzde 30'dan yüzde 76'ya yükseldi. ixbt.com'un verilerine göre, deneyde modern AI modellerinin yanılabileceği sorular kasıtlı olarak kullanıldı. Örneğin, "Bend It Like Beckham" filminin karakterlerinin spor formalarının rengi gibi görsel detaylar soruldu.

Finansal teşvik bile yardımcı olmadı

Bilim insanları deneyde, bu tür görevlerde genellikle hata yaptığı bilinen Step 3.5 Flash modelini kullandılar. Araştırmanın yazarları, katılımcıları doğru cevap için para ödülüyle teşvik etmeyi de denediler. Finansal çıkar söz konusu olduğunda bile durum önemli ölçüde değişmedi: bilmediğini kabul edenlerin oranı yüzde 3'ten yüzde 8'e, doğruluk ise sadece yüzde 16'ya yükseldi. Bu oranlar yine de AI'sız grubun sonuçlarından çok daha düşük kaldı.

Bilim insanlarına göre, insanın "bunu bilmiyorum" diyebilme yeteneği çok önemlidir, çünkü bu kendi bilgi sınırlarını anlamak anlamına gelir. Yapay zekanın sürekli varlığı ve her soruya anında cevap vermesi, insanın kendi tereddütlerini kabul etme isteğini köreltiyor. Bu da eleştirel düşünme becerilerinin azalmasına yol açıyor.

Bu sorun, özellikle eleştirel düşünme yetisi henüz tam olarak gelişmemiş çocuklar ve gençler için tehlikeli olabilir. AI sistemlerine aşırı güvenmenin, gelecekte insanların bilgiyi doğrulama ve kendi hatalarını fark etme yeteneğini tamamen yok edebileceği konusunda uyarılıyor. Araştırmanın yazarları, teknolojiyi kullanırken dikkatli olunması çağrısında bulunuyor.