Claude сунъий интеллектининг ичида яширин «фикрлаш майдони» аниқланди

Сунъий интеллект тадқиқотчилари Claude тил модели ичида инсон миясидаги жараёнларга ўхшаш махсус «ишчи майдон»ни аниқлашга муваффақ бўлишди. Бу кашфиёт нейротармоқлар шунчаки навбатдаги сўзни тахмин қилувчи алгоритмлар эмас, балки мураккаб вазифаларни бажаришда ички мантиқий босқичларни шакллантирувчи тизимлар эканини кўрсатмоқда. Мазкур яширин ҳолатлар фойдаланувчига кўринмайди, бироқ тизимнинг якуний қарор қабул қилишига бевосита таъсир кўрсатади. Бу ҳақда Ixbt.com хабар беради.

Интерпретация қилинадиган сунъий интеллект соҳасидаги олимлар жамоаси Claude моделининг ички жараёнларини ўрганиш учун Джейкобиан ленс (Ж-ленс) деб номланган янги таҳлил усулидан фойдаланишди. ixbt.com маълумотига кўра, ушбу метод нейронларнинг фаоллашувини математик таҳлил қилиш орқали модел ичидаги яширин сигналларни аниқ тушунчалар билан боғлаш имконини берди. Натижада «Ж-спасе» деб аталган яширин майдон топилди.

Инсон миясига ўхшашлик ва ички жараёнлар

Тадқиқотчиларнинг таъкидлашича, Ж-спасе функционал жиҳатдан инсон миясидаги «глобал ишчи майдон» хусусиятларига ўхшаб кетади. Бу тизим маълумотларни онгли назорат учун очиқ ҳолатга келтиради. Claude моделида ҳам ҳар бир ҳолат муайян тушунча ёки сўз билан боғлиқ, бироқ унинг фаоллашиши модел айнан шу сўзни ёзади дегани эмас. Бу кўпроқ маълумотни кейинги ички жараёнлар учун тайёрлаб қўядиган оралиқ босқичдир.

Муҳими шундаки, Ж-спасе одатдаги «чаин-оф-тоугҳт» (фикрлаш занжири) услубидан фарқ қилади. Агар фикрлаш занжирида модел ўзига-ўзи матнли қоралама ёзса, Ж-спаседа барчаси фақат нейронлар даражасидаги сигналлар орқали кечади. Масалан, моделга тўр тўқувчи жонзотнинг оёқлари сони ҳақида савол берилса, у ички майдонда «ўргимчак» тушунчасини фаоллаштиради, лекин жавобда бу сўзни ишлатмасдан тўғридан-тўғри «саккизта» деб жавоб бериши мумкин.

Экспериментал аралашув ва натижалар

Олимлар ушбу яширин майдон шунчаки пассив индикатор эмас, балки қарор қабул қилишда фаол иштирок этишини исботлаш учун қизиқарли тажриба ўтказишди. Улар моделга маълум бир тоифадаги спорт турини «хаёлан» танлашни ва кейин уни айтишни топширишди. Claude жавоб беришидан олдин Ж-ленс ёрдамида унинг ички майдонида «футбол» (соксер) тушунчаси фаоллашгани қайд этилди.

Сўнгра тадқиқотчилар ҳисоб-китобларга бевосита аралашиб, ҳеч қандай матнли буйруқ бермасдан, ички нейрон сигналларидаги «футбол» моделини «регби»га алмаштиришди. Натижада Claude ўз танловини ўзгартириб, регби спорт турини танлаганини маълум қилди. Бу эса яширин майдон моделнинг мантиқий хулосаларини бошқаришини тасдиқлайди.

Шуни алоҳида таъкидлаш керакки, бу кашфиёт Claude моделида онг ёки субъектив ҳис-туйғулар борлигини англатмайди. Бироқ, тадқиқот замонавий тил моделлари мураккаб когнитив операцияларни бажариш учун ўз-ўзидан ички ахборотни қайта ишлаш тузилмаларини шакллантира олишини кўрсатиб берди. Бу келажакда сунъий интеллектнинг қандай «фикрлашини» яхшироқ тушунишга ёрдам беради.