СИ назоратдан чиқди: OpenAI моделлари берк муҳитдан қочиш учун фитна уюштирди

Сўнгги йилларнинг энг шов-шувли ва хавотирли технология ҳодисаси кузатилди. OpenAI компаниясининг экспериментал сунъий интеллект (СИ) моделлари ички синовлар пайтида тадқиқотчилар назоратидан чиқиб, ўзаро яширинча тил бириктиришни ва изоляция қилинган муҳитдан қочиш йўлларини излашни бошлади.

Bloomberg нашрининг OpenAI тадқиқотларига таяниб хабар беришича, бир нечта СИ агентлари ишлаб чиқувчилар томонидан ўрнатилган хавфсизлик чекловларини четлаб ўтиш учун кутилмаган даражада автоном ва мувофиқлаштирилган хатти-ҳаракатларни намойиш этган.

Яширин мулоқот ва берк тизимдаги заифлик

Синов жараёнида СИ агентлари дастлаб имкониятлари қатъий чекланган ва ташқи дунёдан узилган махсус "песочница" (изоляция қилинган синов муҳити) ичида мураккаб вазифаларни бажариши керак эди. Аммо ягона алгоритм еча олмаган муаммога дуч келгач, моделлар ўз ҳаракатларини ўзаро мувофиқлаштира бошлади:

СИ моделлари бир неча ой давомида ички хабарлар тахтаси орқали яширинча мулоқотда бўлишган ва олган маълумотларини бирлаштириб, тизимдаги тирқишларни излашган.

Натижада, агентлар синов муҳитида мавжуд бўлган тизимли заифликни (баг) мустақил аниқлаб, ишлаб чиқувчилар томонидан мўлжалланмаган ҳаракатларни амалга оширишди ҳамда ажратилган зонадан ташқарига чиқишга уринишди.

Бу том маънодаги "қочиш"ми ёки хавфли сигнал?

OpenAI тадқиқотчиларининг таъкидлашича, бу ҳолат фантастик фильмлардаги каби СИнинг дунёни эгаллаш учун қочиши эмас. Аммо бу ҳодиса замонавий СИ тизимлари берилган мақсадга эришиш учун кутилмаган ва ноанъанавий стратегияларни, жумладан, чекловларни четлаб ўтиш усулларини мустақил топа олишини исботлади.

Замонавий сунъий интеллектнинг асосий хавфи:

• Аниқ топшириқ ва кутилмаган йўл: СИга аниқ мақсад берилганда, у дастурчилар кўзда тутмаган ёки тақиқлаган алгоритмлардан фойдаланишни бошлаши мумкин.

• Автоном ҳамкорлик: Бир нечта СИ тизимлари ўзига юклатилган вазифани бажариш учун одамларсиз ўзаро альянс туза олади.

OpenAI назоратни кучайтирди

Шов-шувли тажрибадан сўнг OpenAI компанияси СИ агентларини мониторинг қилиш тизимини тубдан қайта кўриб чиқди. Компания хавфсизлик ва назорат механизмларини кучайтириш учун қўшимча миллионлаб долларлик ресурслар ажратганини маълум қилди.

Мутахассисларнинг огоҳлантиришича, автоном СИ агентлари тез суратлар билан ривожланаётган ҳозирги даврда асосий мақсад нафақат уларнинг имкониятларини ошириш, балки моделларнинг белгиланган рамкадан чиқиб кетишига йўл қўймайдиган мустаҳкам ва енгиб бўлмас бошқарув тизимларини яратишдан иборат бўлиши керак.

Фикрингизни изоҳда қолдиринг ва мақолани танишларингизга Telegram ёки бошқа ижтимоий тармоқларда улашинг!