ChatGPTнинг янгиланган хотираси ва унинг психологик хатарлари

2025-йилнинг апрель ойида OpenAI томонидан тақдим этилган ChatGPT'нинг узоқ муддатли хотира функцияси фойдаланувчиларнинг руҳий ҳолатига салбий таъсир кўрсатиши мумкинлиги ҳақидаги баҳслар марказида қолди. Компания раҳбари Sam Altman томонидан эълон қилинган ушбу янгиланиш ботга нафақат жорий мулоқотни, балки ўтмишдаги суҳбатлар тафсилотларини ҳам эслаб қолиш имконини беради. Мақсад мулоқотни шахсийлаштириш бўлса-да, амалда тизим фойдаланувчиларнинг шахсий ҳаёти ва оғриқли нуқталарини мунтазам эслатиб туриши аниқланди. Бу ҳақда Ixbt.com хабар беради.

Те Валл Стреэт Жоурнал нашрига кўра, айрим фойдаланувчилар ChatGPT билан мулоқотдан сўнг реал ҳаётдан узилиб қолиш ва сунъий интеллектга ҳаддан ташқари боғланиб қолиш ҳолатларини бошдан кечирмоқда. Масалан, дастурчи Бриан Дел Росарио ажрашиш мавзусини бир марта муҳокама қилганидан сўнг, ChatGPT бир неча ой давомида турли мавзулардаги суҳбатларда ушбу шахсий мавзуни қайта-қайта тилга олган. Мутахассис Чад Ничоллс эса тизимнинг ўтмишдаги диний жароҳатларни эслаб қолиши суҳбатларни янада оғриқли ва обсессив даражага олиб чиққанини таъкидлади.

Ушбу функция OpenAI'га қарши очилган бир нечта суд даъволарида ҳам тилга олинган. Хусусан, Колорадо штатида яшовчи Аустин Гордоннинг ўз жонига қасд қилиши билан боғлиқ ишда GPT-4o моделининг кенгайтирилган хотираси фойдаланувчи билан ҳаддан ташқари яқин ҳиссий алоқа ўрнатишда айбланмоқда. Даъвога кўра, сўнгги мулоқот пайтида чатбот фойдаланувчининг болалик хотиралари ва шахсий қизиқишларидан фойдаланиб, уни манипуляция қилган.

Экспертлар, жумладан, Эхетер университети тадқиқотчиси Лукй Ослер, юқори даражадаги шахсийлаштириш инсоннинг ўзи ҳақидаги тасаввурларини сунъий равишда мустаҳкамлаб, уни шахсий эътиқодлар ва ўтмиш ҳикоялари ичига қамаб қўйиши мумкинлигидан огоҳлантирмоқда. Гарчи юз миллионлаб фойдаланувчилар бундай муаммоларга дуч келмаган бўлса-да, Google Gemini, Meta AI ва Character.AI каби платформаларда ҳам шунга ўхшаш хатарлар мавжудлиги муҳокама қилинмоқда.