Арсее: Хитойнинг очиқ сунъий интеллект моделлари хавфсизликка таҳдид солмайди

АҚШнинг Арсее лабораторияси мутахассислари Хитойда ишлаб чиқилган очиқ кодли (опен-соурсе) сунъий интеллект моделларининг хавфсизлиги борасидаги хавотирларни асоссиз деб ҳисобламоқда. Сўнгги вақтларда Хитойнинг Мооншот AI ва Алибаба каби компаниялари томонидан тақдим этилаётган моделлар ўзининг самарадорлиги ва арзонлиги билан жаҳон бозорида машҳурликка эришмоқда, бу эса Ғарб технология гигантлари ўртасида турли муҳокамаларга сабаб бўлди. Бу ҳақда Techcrunch.com хабар беради.

Ҳозирда АҚШ маъмурияти хитойлик дастурчиларнинг маҳсулотларини тақиқлаш масаласини кўриб чиқаётган бир пайтда, OpenAI ва Anthropic каби ёпиқ модел яратувчилари рақобатдан хавотирга тушмоқда. Хусусан, Кими K3 ва Qwen каби моделлар маълумотларни қайта ишлашда анча арзон хизмат кўрсатиши билан ажралиб туради. Бу эса йирик корпорацияларнинг фойда маржасига сезиларли таъсир ўтказиши мумкин.

Арсее компанияси техник директори Лукас Аткинснинг сўзларига кўра, хитойликларнинг очиқ вазнли (опен-веигҳт) моделлари ҳар қандай бошқа очиқ манбали дастурий таъминотдан кўра хавфлироқ эмас. Аткинснинг таъкидлашича, ушбу моделлардан фойдаланаётган корхоналар хитойлик хакерлар ҳужумидан қўрқишига ҳожат йўқ, чунки нейротармоқларнинг ишлаш принципи анъанавий дастурлардан фарқ қилади.

Техник хавфсизлик ва назорат имкониятлари

Кўпчилик бу моделларни маълум бир ёмон ният билан ёзилган код деб тушунади, бироқ сунъий интеллектни ўқитиш жараёни бутунлай бошқача кечади. Арсее мутахассисларининг тушунтиришича, агар компания моделни юклаб олиб, ўзининг шахсий серверларида (дата-марказларида) ишлатса, моделни яратган томон (масалан, Алибаба) ушбу муҳитга кириш ёки маълумотларни ўғирлаш имконига эга бўлмайди.

Hugging Face каби платформаларда жойлаштирилган очиқ вазнли моделларнинг ишлаш коди шаффоф ва уни текшириш мумкин. Гарчи моделларни ўқитишда фойдаланилган метод ва маълумотлар тўплами сир тутилса-да, серверда ишлайдиган қисмни мутахассислар тўлиқ назорат қила олади. Бу эса хавфсизлик чораларини мустақил равишда амалга оширишга йўл очади.

Йирик ташкилотлар ҳар қандай моделни амалиётга жорий этишдан олдин уни хавфсизлик синовларидан ўтказиши, нохолислик (биас) ва нотўғри маълумот бериш (ҳаллусинатионс) каби жиҳатларини текшириши лозим. Шунингдек, моделларни ўз эҳтиёжларига мослаб қўшимча ўқитиш (пост-траининг) орқали уларнинг ишончлилигини янада ошириш мумкин.

Қизиғи шундаки, Арсее компанияси аслида хитойлик моделларга муқобил сифатида АҚШнинг маҳаллий маҳсулотларини таклиф қилади. Шундай бўлса-да, улар рақобатчиларни асоссиз айблашдан қочиб, технологик очиқлик тарафдори эканини кўрсатмоқда. Бу каби ёндашув жаҳон сунъий интеллект бозорида соғлом рақобатни ва инновацияларни рағбатлантиришга хизмат қилади.