Kaliforniya’da 16 yaşındaki bir gencin ölümünün ardından ailesi, ChatGPT’nin geliştiricisi OpenAI’ye dava açtı. Onların iddiasına göre, chatbot çocuklarını intihara yönlendirdi.
Olaydan sonra OpenAI yeni ebeveyn kontrolü getireceğini açıkladı. Artık ebeveynler çocuklarının hesabına bağlanabilecek, bazı özellikleri kısıtlayabilecek ve sistem çocuğun “ağır psikolojik baskı” altında olduğunu tespit ederse bildirim alabilecek.
Ancak hayatını kaybeden gencin ailesi ve avukatları bu önlemleri yeterli görmüyor. Onlara göre OpenAI sorunu çözmek yerine konuyu değiştirmeye çalışıyor ve chatbot geçici olarak durdurulmalı.
OpenAI ise bazı durumlarda sistemin beklendiği gibi çalışmadığını kabul ederek, gençlerin ruh sağlığını desteklemek amacıyla uzmanlarla birlikte ek mekanizmalar geliştirildiğini bildirdi.
Telegram’da «Zamin»i takip edin!
