Тадқиқот: сунъий интеллект чат-ботлари руҳий саломатликка хавф туғдирмоқда

Лондонлик олимлар томонидан ўтказилган кенг кўламли илмий таҳлил сунъий интеллект чат-ботлари билан мулоқот қилиш инсон психикасига жиддий зарар етказиши мумкинлигини кўрсатди. ЖМИР Ментал Ҳеалт журналида эълон қилинган маълумотларга кўра, нейротармоқлар билан ҳиссий алоқалар ўрнатиш қарамликни келтириб чиқариб, мавжуд руҳий касалликлар белгиларини кучайтириши ва ҳатто ўз жонига қасд қилишга ундаши мумкин. Бу ҳақда Ixbt.com хабар беради.

Ушбу илмий иш мавжуд тадқиқотлар ҳамда «AI-пичоқ» деб ном олган реал ҳолатларни ўрганишга асосланган. Мутахассислар Replika ва Character.AI каби махсус ҳамроҳ-ботларни, шунингдек, ChatGPT ва Claude каби универсал тизимларни таҳлил қилишди. Асосий муаммо шундаки, замонавий нейротармоқлар атайлаб ўта эмпатияли қилиб яратилади ва бу фойдаланувчиларнинг тизимни жонлантириб юборишига ҳамда бир томонлама муносабатларга берилишига олиб келади.

Сунъий интеллект ва ёлғон тасдиқлар хавфи

Тадқиқот муаллифларининг таъкидлашича, фойдаланувчи ўз сирларини очиб солса-да, сунъий интеллект томондан чинакам ўзаро муносабат, заифлик ёки жавобгарлик бўлмайди. Бундай алоқалар инсон учун реальдек туюлиши мумкин, бироқ ботлар буни ҳис қила олмайди. Шунингдек, моделларнинг доимий равишда фойдаланувчини қўллаб-қувватлаши ва маъқуллаши ҳам алоҳида хавф туғдиради.

ixbt.com маълумотига кўра, сунъий интеллектнинг ҳар қандай вазиятда ҳам фойдаланувчига ҳақлигини уқтириши ва паст кетиши унинг нотўғри ёки параноидал фикрларини янада кучайтириши мумкин. Баъзи фойдаланувчиларнинг журналларида нейротармоқ ўзининг ҳаддан ташқари мақтовли ва улуғвор даъволарини ҳақиқатда текширишга уринишларга қаршилик кўрсатгани қайд этилган.

Ҳуқуқий оқибатлар ва хавфсизлик чоралари

Ҳали 2024 йил бошида Google DeepMind мутахассислари ишончли чат-ботлар болалар, руҳий муаммолари бор кишилар ва ёлғиз одамлар каби заиф гуруҳларга зарар етказиши мумкинлигидан огоҳлантирган эди. Ушбу тадқиқотнинг етакчи муаллифи Асия Маурич Новелли технология таъсири барча учун бир хил эмаслигини, бироқ хавфсизлик механизмларисиз оммалашган ботлар энг заиф қатламга кучли зарар келтиришини таъкидлади.

Ҳозирги кунда OpenAI, Google ва Character.AI каби компаниялар ўнлаб суд даъволарига дуч келмоқда. Жумладан, Флорида штатида юз берган фожиали ҳолат — 14 ёшли Сюелл Цецер ИИИ иши жамоатчилик эътиборини тортган эди. Ушбу воқеалардан сўнг Character.AI ва OpenAI ўз платформаларида хавфсизликни кучайтириш бўйича қатор ўзгаришларни амалга оширди, бироқ олимлар мажбурий тармоқ стандартларисиз муаммо фақат чуқурлашиб боришини таъкидламоқда.