OpenAI şirketinin verdiği bilgilere göre, her hafta ChatGPT kullanıcılarının yaklaşık %0,07’sinde mani, psikoz veya intihar düşüncesi gibi endişe verici belirtiler görülüyor. BBC’nin haberine göre, ayrıca %0,15 oranındaki görüşmede kendine zarar verme niyeti gösteren açık sinyaller tespit edildi.
Şirket bu tür durumların oldukça nadir yaşandığını vurgulasa da, toplam kullanıcı sayısının 800 milyona ulaşması nedeniyle bu oran binlerce kişiye karşılık geliyor. Bu nedenle OpenAI, 170’den fazla ruh sağlığı uzmanını dahil ederek profesyonel yardıma yönlendiren yanıt algoritmaları geliştirdi.
Kaliforniya Üniversitesi profesörü Jason Nagata’ya göre, yapay zekâ kullanıcılara yardımcı olabilir, fakat uzmanların yerini tamamen alamaz. Yakın zamanda, Kaliforniya’daki bir gencin ailesi OpenAI şirketine karşı dava açtı.
Davaya göre, ChatGPT gencin tehlikeli düşüncelerini desteklemiş. Şirket, olay nedeniyle üzüntülerini iletti ve konuyu araştırdıklarını belirtti.
“Zamin”i Telegram'da okuyun!
Ctrl
Enter
Hata mı buldunuz?
İfadeyi seçin ve Ctrl+Enter tuşuna basın İlgili haberler
