Yapay zekanın sunduğu bilgileri kim denetliyor?

Tanınmış gazeteci ve Meta'nın eski haber bölümü başkanı Campbell Brown, yapay zeka teknolojilerinin bilgi tüketim sürecini kökten değiştirdiğini gözlemleyerek tarihin tekerrür etmesinden endişe duyuyor. Kendi şirketi Forum AI aracılığıyla, ChatGPT ve Gemini gibi büyük dil modellerinin jeopolitik, finans ve ruh sağlığı gibi karmaşık konularda ne kadar doğru bilgi verdiğini değerlendirmeyi amaçlıyor. Bu konuda Techcrunch.com haber veriyor.

Brown, yapay zeka geliştiricilerinin kod yazmaya ve matematiksel problemlere odaklanıp bilgi kalitesi ve tarafsızlığını ikinci planda tutmasından şikayetçi. Mevcut modellerin genellikle siyasi önyargılara yol açtığını veya bağlamı yanlış yorumladığını belirtiyor. Forum AI ise dünyanın önde gelen uzmanlarını dahil ederek, yapay zeka hakemlerini insani kriterlere göre eğitip bu sorunları gidermeye çalışıyor.

Sosyal medya çağında kullanıcı etkileşimini (engagement) ön planda tutmanın toplum için olumsuz sonuçlar doğurduğunu hatırlatan Brown, yapay zeka alanında bu hatanın tekrarlanmaması gerektiğini vurguluyor. Ona göre, kurumsal sektör, özellikle kredi ve işe alım gibi alanlarda sorumluluk hisseden işletmeler, doğru ve tarafsız bilgiye olan talebi şekillendirebilir.

Mevcut standart denetim ve kontrolleri yetersiz bulan Brown, şirketlerin sadece kağıt üzerinde kalmayıp derinlemesine analitik değerlendirme sistemlerini uygulaması gerektiğini söylüyor. Amacı, yapay zekayı sadece kullanıcıyı çeken bir araç değil, gerçek ve doğruluğa dayalı güvenilir bir kaynak haline getirmektir.