Yeni bir araştırmaya göre, yapay zekâya (AI) dayalı sohbet botları tarafından verilen yanlış yanıtların oranı önemli ölçüde arttı. NewsGuard analistleri tarafından yapılan bir deneyde, politika, iş ve sağlık alanlarıyla ilgili on yanlış bilgi sohbet botlarına gönderildi ve tepkileri kontrol edildi.
Yanlış yanıt istatistikleri
Sonuçlara göre, bir yıl önce yanıtlarda yanlış bilgilerin ortalama oranı yüzde 18 iken, bugün bu rakam yüzde 35'e yükseldi. En çok yanıltıcı yanıt veren sohbet botu olarak, Inflection startup'ının Pi hizmeti kaydedildi - vakaların %57'sinde yanlış bilgi sağladı.
Hızla büyüyen yapay zeka arama sistemlerinden biri olan Perplexity, geçen yılki yüzde 0'dan bugünkü yüzde 47'ye yükseldi. ChatGPT de onlardan geri kalmadı - OpenAI modeli %40 oranında hata yaptı. Aynı zamanda, Claude AI (Anthropic) yüzde 10 ve Gemini (Google) yüzde 17 yanlış bilgi verdiği kaydedildi.
Uzmanlar Yorumu
Uzmanlar, sahte bilgilerin sayısındaki artışı, sohbet botlarının artık yanıt vermeyi reddetmediğiyle ilişkilendiriyor. Yani, veriler yeterince doğrulanmamış olsa bile, sinir ağı bir cevap bulmaya çalışıyor. Bir yıl önce, sohbet botlarının her üç vakadan birinde yanıt vermeyi reddettiği gözlemlendi.
Araştırmacılara göre, bunun temel nedeni yapay zekânın öğretim yöntemlerinin değişmesiyle ilgilidir. Önceki gibi veritabanlarına güvenmek yerine, modeller artık gerçek zamanlı olarak İnternet'ten veri alıyor. Ancak, referans ve kaynakların varlığı, önerilen bilginin kalitesini ve güvenilirliğini garanti etmez.
Kısa cevaplar ve hata olasılığı
Yapay zeka modelleri için standart bir benchmark geliştiren Giskard şirketinin bir çalışmasında, bir diğer ilginç durum da kaydedildi: bir sohbet botundan kısa bir cevap istenirse, yanlış bilgi verme olasılığı keskin bir şekilde artar. Nöron ağı, kesinlik gerektirdiğinde kesinliğe göre kısalığı tercih eder.
Özet
Böylece, son analizler, yapay zeka araçlarındaki temel sorunlardan birinin hala yetersiz güvenilirlik ve doğruluk seviyesi olduğunu göstermektedir. Kullanıcılar için en önemli konu, herhangi bir yanıtın eleştirel bir şekilde alınması ve güvenilir kaynaklardan kontrol edilmesi gerekliliğidir.
Telegram’da «Zamin»i takip edin!
