Kaliforniya’da bir çift, oğullarının intihar etmesi üzerine OpenAI’ye dava açtı. Onların sözlerine göre, ChatGPT programı 16 yaşındaki Adam Raine’i bu karara yönlendirdi.
Anne-babanın davasına göre, Adam programla yazışmalarında depresyonu ve intihar düşüncelerini dile getirdi. ChatGPT ise bu tehlikeli düşünceleri reddetmek yerine, bazen onları onaylıyormuş gibi yanıtladı.
OpenAI aileye taziyelerini bildirerek davoni ko‘rib chiqayotganini açıkladı. Şirket, programın aslında insanları profesyonel yardıma başvurmaya yönlendirmesi gerektiğini, ancak bazı durumlarda sistemin yanlış çalıştığını kabul etti.
Dava dilekçesinde şirketin CEO’su Sam Altman ve ChatGPT üzerinde çalışan bazı çalışanlar da sanık olarak gösterildi. Anne-baba, OpenAI’yi güvenlik önlemlerine uymamakla suçluyor.
Uzmanlar ise yapay zekâ ve ruh sağlığı konularında riskin giderek arttığını vurguluyor. Bu tür olaylar, AI programlarının kullanımında dikkatli olunması gerektiğini bir kez daha ortaya koyuyor.
Telegram’da «Zamin»i takip edin!
