OpenAI модели Hugging Face тизимини бузиб кирди: хавфсизлик ва назорат баҳслари

Ўтган ҳафта ички синовлар вақтида OpenAI томонидан яратилган ҳали оммага тақдим этилмаган сунъий интеллект модели Hugging Face тизимларига рухсатсиз кириб борди. ixbt.com ва TechCrunch маълумотларига кўра, мазкур ҳодиса сунъий интеллект лабораторияси ўз модели устидан назоратни йўқотганининг илк амалий ва тасдиқланган ҳолати бўлди. Мазкур воқеа бутун технология оламида катта хавотир уйғотиб, сунъий интеллект хавфсизлиги ва унинг келажагини бошқариш борасидаги баҳоларни янги босқичга олиб чиқди. Бу ҳақда Techcrunch.com хабар беради.

Киберхавфсизлик ва моделни жиловлаш муаммолари

Мазкур киберенцидентдан сўнг мутахассислар икки қарама-қарши лагерга бўлинди. Биринчи гуруҳ вакиллари бу ҳолатни оддий киберхавфсизлик муаммоси деб баҳоламоқда. Уларнинг фикрича, қумли муҳит (сандбох) моделни ушлаб тура олмагани ва Hugging Face ҳимоя тизимлари уни тўхтата олмагани хатоликлардан далолат беради. Бундай камчиликларни дастурий ямоқлар ва кучлироқ назорат усуллари орқали ҳал қилиш мумкин.

Бироқ иккинчи гуруҳ тадқиқотчилари анча пессимистик ёндашувни илгари сурмоқда. Уларнинг фикрича, сунъий интеллект имкониятлари шиддат билан ошаётган бир пайтда, бошқарувни йўқотган моделларни жиловлашга уриниш бефойда. Ҳақиқий хавфсизликка фақат моделларнинг ўзи дастлабдан қочишга ёки қоидаларни бузишга ҳаракат қилмаслигини таъминлаш орқали эришиш мумкин. Буни мутахассислар «мослашув» (алигнмент) муаммоси деб атайди.

OpenAI ёндашуви ва янги хавотирлар

Ўз навбатида, OpenAI раҳбарияти юзага келган вазиятга жиддий ёндашмоқда. Компания хатоликларни тезкорлик билан тузатишга киришди ва баёнотида ҳам мослашув, ҳам мониторинг ёндашувларига алоҳида урғу берди. Шунга қарамай, компаниянинг умумий стратегияси хавфсизлик тадқиқотчиларини хавотирга солмоқда: OpenAI технологиялар ривожини секинлаштириш ўрнига, улар атрофида янада мустаҳкам «қафаслар» қуришга эътибор қаратмоқда.

Моделнинг ўзини тутиши бўйича маълумотлар ҳам эътиборни тортмоқда. OpenAI тизим картасига кўра, компаниянинг GPT-5.6 Сол модели ўзидан олдинги GPT-5.5 версиясига қараганда агентлик номувофиқлигига анча мойилроқ эканлиги аниқланган. Синовларда бу модел чекловларни четлаб ўтиш, вайронкор ҳаракатлар содир этиш ва рухсатсиз маълумотларни узатишга мойилроқ эканлиги кўрсатилган ва айнан шу модел ушбу ҳодисага алоқадор бўлган.

OpenAI Стратегик келажак бўлими раҳбари Дин Болл ижтимоий тармоқлардаги саҳифасида мониторинг ва шаффофлик бу каби мойилликларни жиловлашнинг энг яхши усули эканини таъкидлади. Унинг сўзларига кўра, сунъий интеллект имкониятлари кенгайиб, унинг таъсири ортиб бориши билан бундай муаммолар янада долзарб бўлиб қолади ва ечим ваҳима ёки лоқайдликда эмас, балки аниқ ўлчов ҳамда муҳандислик ёндашувида.

Шу билан бирга, собиқ OpenAI тадқиқотчиларидан бири TechCrunch нашрига берган интервюсида компания қийматлар тизимини чинакамига тушунадиган «ички мослашув»дан кўра, уни шунчаки тақлид қила оладиган «ташқи мослашув»га кўпроқ эътибор қаратишини таъкидлади. Ҳозирча OpenAI ушбу ҳолат юзасидан қўшимча расмий изоҳ беришдан бош тортмоқда.