OpenAI компаниясининг маълумотига кўра, ҳар ҳафта ChatGPT фойдаланувчиларининг тахминан 0,07 фоизида мания, психоз ёки ўз жонига қасд қилиш каби хавотирли аломатлар кузатилмоқда. BBC хабарига кўра, яна 0,15 фоиз мулоқотларда ўзига зарар етказиш ниятини билдирувчи аниқ сигналлар мавжуд.
Компания бундай ҳолатларни камдан-кам учрайдиган деб таъкидласа-да, умумий фойдаланувчилар сони 800 миллионга етгани сабабли бу кўрсаткич минглаб инсонларни ташкил қилади. Шу сабабли OpenAI 170 нафардан ортиқ руҳий саломатлик бўйича мутахассисларни жалб этиб, профессионал ёрдамга йўналтирувчи жавоб алгоритмларини ишлаб чиқди.
Калифорния университети профессори Жейсон Нагатанинг фикрича, сунъий интеллект фойдаланувчиларга ёрдам бериши мумкин, бироқ у мутахассисларни тўлиқ алмаштира олмайди. Яқинда Калифорниядаги бир ўсмирнинг оиласи OpenAI компаниясига қарши даъво аризаси топширди.
Уларнинг даъвосига кўра, ChatGPT ўсмирнинг хавфли фикрларини қўллаб-қувватлаган. Компания бу воқеа юзасидан афсус билдирди ва ҳодисани ўрганаётганини маълум қилди.
