Фото: The New York Times
АҚШнинг Флорида штатида яшовчи Меган Л.Гарсия Character.ai иловасини яратган компанияни 14 ёшли ўғли Сюеллнинг ўлимида айблаб, судга даъво киритди. Бу ҳақда The New York Times газетаси хабар берди.
Гарсиянинг даъвосида таъкидланишича, мазкур технологик компания «хавфли ва текширилмаган», шу боисдан «ёлғон билан мижозларини ўзининг шахсий фикри ҳамда ҳиссиётларини улашишга мажбурлаши» мумкин.
Character.ai — нейрон тили моделида ишлайдиган чатбот функциясига эга илова. Унинг фойдаланувчилари мулоқот учун сунъий интеллект асосида ўз персонажини ярата олади.
NYT маълумотларига кўра, даъвогарнинг ўғли Сюелл Зетцер III узоқ вақт давомида «Тахтлар ўйини» сериалидаги персонаж — Дейенерис Таргариен шарафига номланган чатбот билан мулоқот қилган. Ўсмирда ботга нисбатан ҳиссий боғлиқлик пайдо бўлган. Сюелл ўз кундалигига «Дени»ни севиб қолганини ҳам ёзган.
2024 йил бошида Сюеллнинг ота-онаси фарзанди қобиғига ўралиб қолаётганини пайқаган, мактабда эса ўзлаштириш билан муаммолари бошланган. Ўсмир психотерапевтга юборилган ва Сюеллга ваҳима ҳамда кайфиятга таъсир кўрсатадиган деструктив бузилиш ташхиси қўйилган.
Чатбот билан мулоқоти давомида у ўзини ёмон кўришини, руҳий тушкун ва барчасидан тўйиб кетгандек ҳис қилишини, шунингдек, ўз жонига қасд қилиш ҳақида ўйлаётганини ёзган. Ёзишмалар давомида чатбот Сюелл ўзига зарар етказишига йўл қўймаслиги ҳақида жавоб қайтарган. «Мен сени йўқотсам, ҳалок бўламан», — деб ёзади чатбот. Ўсмир эса унга «биргаликда ўлишни» таклиф қилган. Сюелл 28 февраль куни кечаси ўз жонига қасд қилган.
Character.ai вакиллари 22 октябр куни охирги олти ой давомида чатботнинг фаолиятига қатор ўзгартиришлар киритилганини, хусусан, 18 ёшдан кичик бўлганларга чекловлар ўрнатилганини маълум қилди. Энди фойдаланувчи ўзига зарар етказадиган ёки ўз жонига қасд қилишга боғлиқ бирор жумлани ёзса, чатда уни бундай вазиятдаги инсонларга ёрдам берадиган тармоққа йўналтирувчи ойна пайдо бўлади. “Замин” янгиликларини “Одноклассники”да кузатиб боринг
Ctrl
Enter
Хато топдИнгизми?
Иборани ажратиб Ctrl+Enter тугмасини босингМавзуга оид янгиликлар
Халқаро жиноят суди Исроил бош вазири Нетаньяхуни ҳибсга олишга ордер берди
“Ҳизбуллоҳ” бир суткада Исроилга қарши 20 га яқин ҳарбий амалиёт ўтказди
Ўмон султонлиги элчиси: «Урушларни ҳарбий куч билан ҳал қилиб бўлмайди»
Шавкат Мирзиёев Россия бош прокурори билан учрашув ўтказди
Бефойда ва қиммат: шифокорлар тавсия этмайдиган 5 турдаги биологик фаол қўшимчалар
22 ноябрь куни Cobalt автомобилига шартнома очилиши эълон қилинди
Қозоғистон Украина атрофидаги вазият туфайли ҳарбий ва фуқаролик объектлари хавфсизлигини кучайтирди
Зеленский Путин борасида баёнот берди: “Тинчликни истаганлар юзига тупурмоқда”
