Очиқ вазнли сунъий интеллект моделлари етакчиларга етиб олмоқда

Сунъий интеллект соҳасидаги етакчи моделлар имкониятлари тез суръатлар билан ўсиб бораётган бир пайтда, очиқ вазнли тизимлар ҳам улардан ортда қолмаяпти. Хитойнинг Z.ai компанияси томонидан тақдим этилган ГЛМ-5.2 очиқ вазнли сунъий интеллект модели киберхавфсизлик ва биология йўналишларида OpenAI ҳамда Anthropic каби гигантларнинг илғор ишланмаларидан атиги бир неча ойлик фарқ билан ортда қолмоқда, деб хабар беради ixbt.com. Бу ҳақда Techcrunch.com хабар беради.

СаферАИ номли нотижорат хавфсизлик ташкилоти ҳисоботига кўра, сўнгги авлод очиқ вазнли моделлари етакчи тизимлар даражасига шиддат билан яқинлашмоқда. Бироқ технологик имкониятларнинг ўсиши билан бирга хавфсизлик амалиётлари ва потенциал хатарлар ўртасидаги тафовут ҳам тобора кенгайиб бормоқда. Мутахассислар бу ҳолат жамият олдида турган янги хавфларни бошқариш механизмларини қайта кўриб чиқишни тақозо этаётганини таъкидлашмоқда.

Хавфсизлик чекловларидаги кескин фарқлар

Ташкилотнинг Z.ai очиқ API'си орқали ўтказган баҳолаш натижаларига кўра, ГЛМ-5.2 модели киберҳужумлар ёки икки томонлама биологик вазифаларга оид сўровларнинг бирортасини ҳам рад этмаган. Таққослаш учун, Anthropic компаниясининг Claude Опус 4.7 модели хавфсизлик қоидаларига қатъий риоя қилгани боис киберхавфсизликни баҳоловчи КйберГйм тестини охирига етказиб бўлмаган. Бу эса очиқ вазнли моделлар назоратдан чиқиб кетиши мумкинлигидан хавотир билдирган танқидчиларнинг ҳақлигини яна бир бор кўрсатди.

Очиқ вазнли моделларнинг асосий хусусияти шундаки, уларни исталган шахс ўз қурилмасига юклаб олиши ва исталган инфратузилмада ишга тушириши мумкин. Бундай ҳолатда тизим устидан марказлашган полиция ёки назорат ўрнатишнинг иложи йўқ. Фойдаланувчилар ўзларининг шахсий ускуналари орқали моделлардаги барча ҳимоя механизмларини олиб ташлаши, ўзгартириши ёки уларни қайта созлаб чиқиши ҳеч қандай қийинчилик туғдирмайди.

Ёпиқ ва очиқ тизимлардаги заифликлар

OpenAI ва Anthropic каби ёпиқ тизим ишлаб чиқарувчилари хавфли кибер ёрдам ёки биологик кўрсатмаларни чеклаш учун махсус классификаторлар ва API даражасидаги назоратдан фойдаланадилар. Бироқ бу чоралар ҳам мукаммал эмас. Far.ai хавфсизлик ташкилоти xAI'нинг Grok 4.5 ҳамда Google DeepMind'нинг Gemini 3.1 Pro каби илғор моделларида юзлаб универсал «жаилбреак» усулларини аниқлаган. Ролли ўйинлар ва сохта суҳбат тарихини бирлаштирган бундай усуллар моделларнинг заиф нуқталарини четлаб ўтишга имкон беради.

Шунга қарамай, ёпиқ моделлар учун қўлланиладиган ҳимоя чоралари очиқ вазнли тизимларга нисбатан мутлақо самарасиз ишлайди. Чунки очиқ моделлар дастлабки дизайниданоқ ҳар қандай чекловларсиз ёки ўзгартирилган хавфсизлик шартлари билан ишлашга мўлжалланган. СаферАИ ижрочи директори Генри Пападатоснинг таъкидлашича, асосий мақсад яхши ва хавфсиз имкониятларни барча учун очиқ қилиш ҳамда очиқ манбали ёндашувда ҳам зарарли функцияларни бартараф этишга ҳаракат қилишдан иборат бўлиши лозим.