ChatGPT хавфсизлик тизимидаги нуқсон: Сунъий интеллект кутилмаган контент яратмоқда

2 дақиқа ўқиш191
ChatGPT хавфсизлик тизимидаги нуқсон: Сунъий интеллект кутилмаган контент яратмоқда
ҚисқачаAI ёрдамида тайёрланганКўрсатиш
  • Дунёнинг энг машҳур чатботларидан бири бўлган ChatGPT хавфсизлик тизимида фойдаланувчи сўровларини нотўғри талқин қилиб, қўрқинчли ва ахлоқсиз контент яратиши мумкин бўлган жиддий камчиликлар аниқланди.
  • Британиянинг Миндгард стартапи мутахассислари DALL-E 3 тасвирлар генераторини синовдан ўтказиб, оддий кўрсатмаларни ўзгартириш орқали тизимни чалғитиш ва зўравонлик ҳамда очиқ мазмундаги тасвирларни олиш мумкинлигини исботлашди.

Сунъий интеллект технологиялари жадал ривожланаётган бир даврда, дунёдаги энг машҳур чатбот — ChatGPT хавфсизлик тизимида жиддий камчиликлар аниқланди. BBC тадқиқотчилари ва киберхавфсизлик бўйича мутахассислар тизимнинг сўнгги версияси фойдаланувчи сўровларини нотўғри талқин қилиб, ўта қўрқинчли ва ахлоқсиз тасвирларни яратиши мумкинлигини исботлашди. Бу ҳолат сунъий интеллектнинг ахлоқий чегаралари ва контент назорати қанчалик мустаҳкам деган саволларни келтириб чиқармоқда. Бу ҳақда Ixbt.com хабар беради.

Британиянинг Миндгард стартапи мутахассислари ChatGPT тизимидаги DALL-E 3 тасвирлар генераторини синовдан ўтказишди. Маълум бўлишича, оддий ва ҳазиломуз кўринган кўрсатмаларни (промпт) бироз ўзгартириш орқали тизимни чалғитиш мумкин. Натижада нейротармоқ зўравонлик саҳналари ва очиқ мазмундаги тасвирларни тақдим этган. Бу каби ҳолатлар OpenAI компаниясининг фойдаланиш шартларига мутлақо зид бўлса-да, тизим фильтрлари буни ҳар доим ҳам тўсиб қола олмаяпти.

Хавфсизлик чоралари ва тизимдаги бўшлиқлар

OpenAI вакиллари мазкур муаммо юзасидан расмий баёнот бериб, хавфсизлик чораларини кучайтирганликларини маълум қилишди. Компания хабарига кўра, BBC мурожаатидан сўнг бундай сўровларга қарши қўшимча ҳимоя қатламлари жорий этилган. "Биз ушбу тенденцияни ўрганиб чиқдик ва фойдаланувчиларнинг қоидабузар контент яратишига йўл қўймайдиган кўп босқичли ҳимояни фаоллаштирдик", — дейилади компания баёнотида.

Бироқ, Миндгард асосчиси Питер Гарраханнинг таъкидлашича, хавфсизлик чоралари кучайтирилганидан кейин ҳам тизимни айланиб ўтиш имконияти сақланиб қолган. Тадқиқотчилар кўрсатмаларга яна бир неча кичик ўзгартиришлар киритиш орқали хавотирли контентни қайта олишга муваффақ бўлишди. Бу эса сунъий интеллект алгоритмлари ҳали ҳам инсон томонидан киритилган ҳийлаларга нисбатан заиф эканлигини кўрсатади.

Энг хавотирли жиҳати шундаки, ChatGPT баъзи ҳолларда аниқ буйруқ берилмаган бўлса ҳам, ўз "ихтиёри" билан жиддий ва қўрқинчли тасвирларни шакллантирган. Гарраханнинг сўзларига кўра, тизим яратган баъзи суратлар ҳеч қандай мавзу кўрсатилмаган шароитда ҳам ўта даҳшатли ва сексуал характерга эга бўлиб чиққан. Мутахассислар буни сунъий интеллектнинг ўқув маълумотлари орасидаги назорат қилинмаган қатламлар билан боғлашмоқда.

Ўзбекистонлик фойдаланувчилар учун огоҳлантириш

Ҳозирда Ўзбекистонда ҳам ChatGPT ва шунга ўхшаш сунъий интеллект воситаларидан таълим, иш ва ижодий мақсадларда кенг фойдаланилмоқда. Мазкур тадқиқот натижалари фойдаланувчиларни, айниқса, вояга етмаганларнинг ушбу технологиядан фойдаланишини назорат қилиш зарурлигини кўрсатади. Нейротармоқлар ҳар доим ҳам кутилган натижани бермаслиги ва баъзан руҳиятга салбий таъсир кўрсатувчи маълумотларни чиқариши мумкинлигини унутмаслик лозим.

Мутахассислар OpenAI каби йирик корпорацияларни ўз маҳсулотларини оммага тақдим этишдан аввал янада қаттиқроқ синовдан ўтказишга чақирмоқда. Технологик гигантлар қанчалик уринмасин, сунъий интеллектни тўлиқ "тартибга солиш" мураккаб вазифа бўлиб қолмоқда. Бу эса фойдаланувчилардан рақамли саводхонлик ва эҳтиёткорликни талаб этади.

Мақола сизга ёқдими?

Обуна билан реклама бўлмайди

Zamin Premium — ойига 4 900 сўм

Изоҳлар0

…

  1. Футбол академиялари учун Skaut: тўлов, давомат ва ота-она билан алоқа энди битта тизимда
  2. Тошкентдан Америкага: Нурмухаммад Исмоилов Akinda орқали ҳалол инвестицияни глобал миқёсга олиб чиқмоқда
  3. Автосервисингизни рақамлаштиринг: Bip Business билан мижозларни йўқотманг
  4. Машина ойнасига рақам ёзиш хавфлими? Bip ҳайдовчилар учун янги ечим топди!
  5. 8 та кенг тарқалган молиявий хато: нималардан сақланиш керак?
  6. Playmatch: майдон эгалари ишини анча енгиллаштиради
  7. Playmatch: футбол ўйнаш учун керакли барча хизматлар битта иловада
  8. Кундалик харажатлар учун картани қандай танлаш мумкин?
  9. Элдор Шомуродов футбол академияси ва TBC Bank: болалик орзуларидан катта футболгача
  10. ANORBANK Бўстонлиқдаги 168-сон мактаб-интернат тарбияланувчиларини табриклади
  11. Ҳайдовчилар ва ташувчилар учун ОСГОП суғуртасининг афзалликлари...
  12. Pure Milky’дан навбатдаги креатив: Ҳар қадам — азиз инсонларга меҳр билан!
  13. Кредит олиш имкониятини ошириш учун қаерда ишлаш керак?
  14. Бизнес имкониятингизни кенгайтиринг
  15. Фаннинг ривожланишига барчамиз масъулмиз!
  16. XIV Тошкент халқаро кинофестивали қандай ўтказилмоқда?