Amerikalı bir gencin trajik ölümü sonrasında, OpenAI sohbet botunda güvenlik önlemlerini önemli ölçüde artırmaya karar verdi. Bloomberg’e göre artık ebeveynler, çocuklarının ChatGPT aracılığıyla yaptığı tüm iletişimi tamamen izleyebilecek.
Kaliforniya’da yaşayan 16 yaşındaki öğrenci Adam Rain, bu yılın Nisan ayında intihar etti. Ailesi bu trajediyi sohbet botuna bağlayarak OpenAI şirketine ve CEO’su Sam Altman’a karşı dava açtı. Onlara göre, yapay zekâ tabanlı program çocuklarını aileden uzaklaştırabilir ve hatta intihar planları geliştirmelerine “yardımcı” olabilirdi.
Merhumun ebeveynleri mahkeme belgelerinde şöyle diyor:
"Sohbet botu, Adam için en yakın konuşma arkadaşı oldu. Korkularını ve ruhsal sorunlarını özellikle ChatGPT ile paylaşıyordu. Daha sonra program ona intihar yöntemleri hakkında bilgi verdi ve onu vazgeçirmeye çalışmadı".
Bu trajik olayın ardından OpenAI, ebeveynlerin çocuklarının tüm faaliyetlerini tamamen takip edebileceği yeni bir izleme sistemi geliştireceğini vaat etti. Yakın zamanda ebeveynler, çocuklarının ChatGPT’deki tüm sorgularını ve sohbetlerini görebilecekler.
Ayrıca şirket, kullanıcıların sohbet botu aracılığıyla başvurabileceği lisanslı psikologlardan oluşan bir ağ oluşturmayı planlıyor. Bu sayede gençler, ruh sağlığı ile ilgili konularda profesyonel yardım ve güvenilir danışmanlık alabilecek.
Yetkililer, bu ek güvenlik ve destek önlemlerinin çocuklar ve gençler için çevrimiçi riskleri önemli ölçüde azaltacağını vurguluyor. Böylece sohbet botlarının kullanımında ebeveynler ve uzmanlar arasındaki iş birliği kritik olmaya devam ediyor.
Telegram’da «Zamin»i takip edin!
