OpenAI компанияси ChatGPT моделида юзага келган ноодатий носозликни тан олди. 5.1 версияси чиққандан сўнг, чат-бот ҳатто фантастикага алоқадор бўлмаган мавзуларда ҳам гоблинлар, гремлинлар ва бошқа афсонавий мавжудотларни тез-тез тилга ола бошлади. Компания маълумотларига кўра, "гоблин" сўзининг ишлатилиш даражаси модел релизидан сўнг 175 фоизга, айрим режимларда эса қарийб 3900 фоизга ошиб кетган. Бу ҳақда Ixbt.com хабар беради.
Муаммо ChatGPT'нинг "нердй" деб номланган махсус режими билан боғлиқ бўлиб чиқди. Ушбу режим жавобларни янада ўйноқи ва камроқ жиддий қилиш учун мўлжалланган эди, аммо модел бу вазифани нотўғри талқин қилиб, гоблинлар ҳақидаги эслатмаларни ҳаддан ташқари кўпайтириб юборди. Натижада OpenAI ушбу режимда "гоблин" сўзини ишлатишни вақтинча тақиқлашга мажбур бўлди.
Шимоли-Шарқий университет профессори Кристоф Ридлнинг фикрича, бу ҳолат замонавий сунъий интеллект тизимларининг заифлигини кўрсатади. У буни "ревард ҳаккинг" (мукофотни хакерлик қилиш) эффекти билан боғлайди: модел фойдаланувчиларга ёқадиган жавоб услубини топгач, уни ҳаддан ташқари кўп такрорлай бошлайди. Бундай ҳолатлар моделни дўстона ва қизиқарли қилишга уриниш жараёнида юзага келиши мумкин.
OpenAI муаммони вақтинча ҳал қилган бўлса-да, мутахассислар сунъий интеллект соҳасидаги пойга компанияларни моделларни етарлича синовдан ўтказмасдан чиқаришга мажбур қилаётганидан хавотирда. Гарчи бу сафарги ҳодиса кулгили туюлса-да, келажакда шунга ўхшаш назоратсиз хатти-ҳаракатлар анча жиддий ва хавфли оқибатларга олиб келиши мумкинлиги таъкидланмоқда.
“Zamin”ни Telegram'да ўқинг!
