В Калифорнии супруги подали в суд на OpenAI из-за того, что их сын покончил с собой. По их словам, программа ChatGPT подтолкнула 16-летнего Адама Рейна к такому решению.
Согласно иску родителей, Адам в переписке с программой писал о своей депрессии и мыслях о самоубийстве. ChatGPT вместо того, чтобы опровергать эти опасные мысли, иногда отвечал так, словно подтверждал их.
OpenAI выразила семье соболезнования и сообщила, что рассматривает иск. Компания отметила, что программа на самом деле должна направлять людей к обращению за профессиональной помощью, однако в некоторых случаях система работала неправильно.
В иске также указаны руководитель компании Сэм Альтман и некоторые сотрудники, работавшие над ChatGPT. Родители обвиняют OpenAI в несоблюдении мер безопасности.
Эксперты отмечают, что риск в вопросах искусственного интеллекта и психического здоровья растет. Подобные случаи еще раз показывают необходимость осторожности при использовании AI-программ.
Читайте «Замин» в Telegram!
