ChatGPT хавфсизлик тизимидаги нуқсон: Сунъий интеллект кутилмаган контент яратмоқда

Сунъий интеллект технологиялари жадал ривожланаётган бир даврда, дунёдаги энг машҳур чатбот — ChatGPT хавфсизлик тизимида жиддий камчиликлар аниқланди. BBC тадқиқотчилари ва киберхавфсизлик бўйича мутахассислар тизимнинг сўнгги версияси фойдаланувчи сўровларини нотўғри талқин қилиб, ўта қўрқинчли ва ахлоқсиз тасвирларни яратиши мумкинлигини исботлашди. Бу ҳолат сунъий интеллектнинг ахлоқий чегаралари ва контент назорати қанчалик мустаҳкам деган саволларни келтириб чиқармоқда. Бу ҳақда Ixbt.com хабар беради.

Британиянинг Миндгард стартапи мутахассислари ChatGPT тизимидаги DALL-E 3 тасвирлар генераторини синовдан ўтказишди. Маълум бўлишича, оддий ва ҳазиломуз кўринган кўрсатмаларни (промпт) бироз ўзгартириш орқали тизимни чалғитиш мумкин. Натижада нейротармоқ зўравонлик саҳналари ва очиқ мазмундаги тасвирларни тақдим этган. Бу каби ҳолатлар OpenAI компаниясининг фойдаланиш шартларига мутлақо зид бўлса-да, тизим фильтрлари буни ҳар доим ҳам тўсиб қола олмаяпти.

Хавфсизлик чоралари ва тизимдаги бўшлиқлар

OpenAI вакиллари мазкур муаммо юзасидан расмий баёнот бериб, хавфсизлик чораларини кучайтирганликларини маълум қилишди. Компания хабарига кўра, BBC мурожаатидан сўнг бундай сўровларга қарши қўшимча ҳимоя қатламлари жорий этилган. "Биз ушбу тенденцияни ўрганиб чиқдик ва фойдаланувчиларнинг қоидабузар контент яратишига йўл қўймайдиган кўп босқичли ҳимояни фаоллаштирдик", — дейилади компания баёнотида.

Бироқ, Миндгард асосчиси Питер Гарраханнинг таъкидлашича, хавфсизлик чоралари кучайтирилганидан кейин ҳам тизимни айланиб ўтиш имконияти сақланиб қолган. Тадқиқотчилар кўрсатмаларга яна бир неча кичик ўзгартиришлар киритиш орқали хавотирли контентни қайта олишга муваффақ бўлишди. Бу эса сунъий интеллект алгоритмлари ҳали ҳам инсон томонидан киритилган ҳийлаларга нисбатан заиф эканлигини кўрсатади.

Энг хавотирли жиҳати шундаки, ChatGPT баъзи ҳолларда аниқ буйруқ берилмаган бўлса ҳам, ўз "ихтиёри" билан жиддий ва қўрқинчли тасвирларни шакллантирган. Гарраханнинг сўзларига кўра, тизим яратган баъзи суратлар ҳеч қандай мавзу кўрсатилмаган шароитда ҳам ўта даҳшатли ва сексуал характерга эга бўлиб чиққан. Мутахассислар буни сунъий интеллектнинг ўқув маълумотлари орасидаги назорат қилинмаган қатламлар билан боғлашмоқда.

Ўзбекистонлик фойдаланувчилар учун огоҳлантириш

Ҳозирда Ўзбекистонда ҳам ChatGPT ва шунга ўхшаш сунъий интеллект воситаларидан таълим, иш ва ижодий мақсадларда кенг фойдаланилмоқда. Мазкур тадқиқот натижалари фойдаланувчиларни, айниқса, вояга етмаганларнинг ушбу технологиядан фойдаланишини назорат қилиш зарурлигини кўрсатади. Нейротармоқлар ҳар доим ҳам кутилган натижани бермаслиги ва баъзан руҳиятга салбий таъсир кўрсатувчи маълумотларни чиқариши мумкинлигини унутмаслик лозим.

Мутахассислар OpenAI каби йирик корпорацияларни ўз маҳсулотларини оммага тақдим этишдан аввал янада қаттиқроқ синовдан ўтказишга чақирмоқда. Технологик гигантлар қанчалик уринмасин, сунъий интеллектни тўлиқ "тартибга солиш" мураккаб вазифа бўлиб қолмоқда. Бу эса фойдаланувчилардан рақамли саводхонлик ва эҳтиёткорликни талаб этади.