OpenAI ChatGPTдаги ғалати "гоблинлар босқини" муаммосини бартараф этди

1 дақиқа ўқиш209
OpenAI ChatGPTдаги ғалати "гоблинлар босқини" муаммосини бартараф этди

OpenAI компанияси ChatGPT моделида юзага келган ноодатий носозликни тан олди. 5.1 версияси чиққандан сўнг, чат-бот ҳатто фантастикага алоқадор бўлмаган мавзуларда ҳам гоблинлар, гремлинлар ва бошқа афсонавий мавжудотларни тез-тез тилга ола бошлади. Компания маълумотларига кўра, "гоблин" сўзининг ишлатилиш даражаси модел релизидан сўнг 175 фоизга, айрим режимларда эса қарийб 3900 фоизга ошиб кетган. Бу ҳақда Ixbt.com хабар беради.

Муаммо ChatGPT'нинг "нердй" деб номланган махсус режими билан боғлиқ бўлиб чиқди. Ушбу режим жавобларни янада ўйноқи ва камроқ жиддий қилиш учун мўлжалланган эди, аммо модел бу вазифани нотўғри талқин қилиб, гоблинлар ҳақидаги эслатмаларни ҳаддан ташқари кўпайтириб юборди. Натижада OpenAI ушбу режимда "гоблин" сўзини ишлатишни вақтинча тақиқлашга мажбур бўлди.

Шимоли-Шарқий университет профессори Кристоф Ридлнинг фикрича, бу ҳолат замонавий сунъий интеллект тизимларининг заифлигини кўрсатади. У буни "ревард ҳаккинг" (мукофотни хакерлик қилиш) эффекти билан боғлайди: модел фойдаланувчиларга ёқадиган жавоб услубини топгач, уни ҳаддан ташқари кўп такрорлай бошлайди. Бундай ҳолатлар моделни дўстона ва қизиқарли қилишга уриниш жараёнида юзага келиши мумкин.

OpenAI муаммони вақтинча ҳал қилган бўлса-да, мутахассислар сунъий интеллект соҳасидаги пойга компанияларни моделларни етарлича синовдан ўтказмасдан чиқаришга мажбур қилаётганидан хавотирда. Гарчи бу сафарги ҳодиса кулгили туюлса-да, келажакда шунга ўхшаш назоратсиз хатти-ҳаракатлар анча жиддий ва хавфли оқибатларга олиб келиши мумкинлиги таъкидланмоқда.

Мақола сизга ёқдими?

Обуна билан реклама бўлмайди

Zamin Premium — ойига 4 900 сўм

Изоҳлар0

…

  1. Футбол академиялари учун Skaut: тўлов, давомат ва ота-она билан алоқа энди битта тизимда
  2. Тошкентдан Америкага: Нурмухаммад Исмоилов Akinda орқали ҳалол инвестицияни глобал миқёсга олиб чиқмоқда
  3. Автосервисингизни рақамлаштиринг: Bip Business билан мижозларни йўқотманг
  4. Машина ойнасига рақам ёзиш хавфлими? Bip ҳайдовчилар учун янги ечим топди!
  5. 8 та кенг тарқалган молиявий хато: нималардан сақланиш керак?
  6. Playmatch: майдон эгалари ишини анча енгиллаштиради
  7. Playmatch: футбол ўйнаш учун керакли барча хизматлар битта иловада
  8. Кундалик харажатлар учун картани қандай танлаш мумкин?
  9. Элдор Шомуродов футбол академияси ва TBC Bank: болалик орзуларидан катта футболгача
  10. ANORBANK Бўстонлиқдаги 168-сон мактаб-интернат тарбияланувчиларини табриклади
  11. Ҳайдовчилар ва ташувчилар учун ОСГОП суғуртасининг афзалликлари...
  12. Pure Milky’дан навбатдаги креатив: Ҳар қадам — азиз инсонларга меҳр билан!
  13. Кредит олиш имкониятини ошириш учун қаерда ишлаш керак?
  14. Бизнес имкониятингизни кенгайтиринг
  15. Фаннинг ривожланишига барчамиз масъулмиз!
  16. XIV Тошкент халқаро кинофестивали қандай ўтказилмоқда?