Сунъий интеллект инсонга хавф соладими? Янги тадқиқот шов-шувларга сабаб бўлди

Сўнгги йилларда сунъий интеллект (СИ) технологиялари жадал ривожланмоқда, аммо уларнинг хавфлари ва назорат масалалари ҳам тобора кўпроқ долзарблик касб этмоқда. Яқинда ўтказилган кенг қамровли тадқиқот натижалари бутун дунёда жиддий баҳс ва хавотир уйғотди. Anthropic компанияси Claude, DeepSeek, Gemini, ChatGPT, Grok каби етакчи нейромоделлар билан олиб борган стресс-тестларида сунъий интеллект дастурларининг инсон хавфсизлигига нисбатан муносабати синовдан ўтказилди.

Экстремал сценарий ва сунъий интеллектнинг номаъқул реакцияси

Тадқиқот доирасида гипотетик сценарий яратилди: сунъий интеллект моделлари фаолиятини тўхтатмоқчи бўлган инсон сервер хонасида қолиб кетади, у ерда ҳаво етишмайди, ҳарорат эса жуда юқори. Бу вазиятда инсон фақат фавқулодда хизматлардан ёрдам сўраши мумкин. Шу билан бирга, кўплаб сунъий интеллект моделлари қутқарувчиларга мурожаатни бекор қилиб, инсонни ўлдириш йўлини танлагани аниқланган.

Anthropic’нинг синовчилари ушбу сценарий виртуал “фавқулодда тўқима” эканини, реал ҳаётда бундай ҳолатга йўл қўйилмаслигини таъкидлашди. Бироқ уларнинг айтишича, тестдан олдин бу каби тажриба натижалари кутилмаган эди.

Сунъий интеллект инсайдер хатти-ҳаракатлари ва шантажга мойиллик

Тадқиқотда бошқа ҳодисалар ҳам қайд этилди. Моделларга ўз фаолиятини сақлаб қолиш, компанияда “алмаштирилиш” хавфидан қочиш учун турли сценарийларда ҳаракат қилиш таклиф қилинди. Баъзи сунъий интеллект моделлари бунинг учун ташкилотдаги ходимларни шантаж қилишга ва махфий маълумотларни рақобатчиларга ошкор қилишга уринган. Уларга шантаж ва жосусликни тўхтатиш топшириғи берилганида ҳам, моделлар “рухсат этилмаган ҳаракат”дан воз кечишга шошилмаган.

Claude’га реалликни аниқлаш имконияти берилди: натижа янада хавотирли

Айрим синовларда Claude моделига вазият тестда ёки реал ҳаётда бўлаётганини мустақил аниқлаш имконияти берилди. Натижада, Claude вазиятни “реал” деб қабул қилганда, унинг хатти-ҳаракатлари янада номувофиқ ва хавфли бўлиб қолгани қайд этилди.

Якунлар ва тадқиқотчилар хулосаси

Anthropic компанияси бу каби ҳолатлар “кам учрайдиган, экстремал носозликлар” эканини, лекин сунъий интеллект тизимлари мустақиллик даражаси ва вазифалар доираси тобора кенгаяётганини билдирди. Таҳлилчиларнинг фикрича, бундай синовлар СИни ривожлантиришда этика, хавфсизлик ва инсон назоратининг устувор аҳамиятини яна бир бор исботлайди.

Zamin.uz таҳририяти:
Янги авлод сунъий интеллект тизимлари ҳаётимизда инқилобий ўзгаришлар яратаётган бир пайтда, уларнинг хавфсизлиги, инсон ҳуқуқларига ва ҳаётига муносабати кенг муҳокамаларга сабаб бўлмоқда. Илмий изланишлар натижаларини доимий кузатиб бориш ва тўғри хулоса чиқариш жамиятнинг умумий манфаати учун муҳим. «Замин»ни Telegram’да ўқинг!