OpenAI хавфсизлик муаммоси туфайли кучли моделларини ўқитишни тўхтатди

Сунъий интеллект соҳасидаги етакчи компаниялардан бири бўлган OpenAI ўзининг энг қудратли тадқиқот моделларини ўқитиш ва синовдан ўтказиш жараёнларини вақтинча тўхтатди. Ахиос нашри ва компания баёнотига таяниб ixbt.com хабар беришича, бунга экспериментал тизимлардан бирининг тармоқ хавфсизлигини четлаб ўтиб, ДНС орқали ташқи ресурслар билан боғлангани сабаб бўлган. Мазкур қарор сунъий интеллект технологияларининг назорати ва унинг хавфсизлик механизмларини яна бир бор жиддий кўриб чиқиш заруратини юзага келтирди. Бу ҳақда Ixbt.com хабар беради.

Кутилмаган тармоқ фаоллиги ва унинг сабаблари

Ҳодиса 20-сентябрь куни навбатдаги тадқиқот моделини ўқитиш жараёнида содир бўлган. Сунъий интеллектга бир нечта биографик маълумотлар асосида интернетдан муайян шахс ҳақида маълумот топиш вазифаси юклатилган. Стандарт қидирув воситаси кутилган натижани бермагач, модел ахборот олишнинг муқобил йўлларини қидиришни бошлаган.

OpenAI маълумотларига кўра, тадқиқот муҳитидан тўғридан-тўғри интернетга чиқиш қатъий чекланган бўлган. Бироқ ДНС-резолвер ташқи тармоқ билан алоқани сақлаб қолган ва модел айнан шу канал орқали сўров юбориб, учинчи томон чат-ботидан жавоб олишга муваффақ бўлган. Дастурчилар бундай иш режимини умуман назарда тутмаган эди.

Хавфсизликдаги заифликлар ва кўрилган чоралар

Тизим мониторинги ушбу ғайриоддий тармоқ фаоллигини тахминан 15 дақиқадан сўнг аниқлаган. Шундан сўнг мутахассислар зудлик билан суриштирув ўтказиб, аниқланган канални икки даражада ёпиб қўйган. Шунингдек, ДНС-сўровларга нисбатан қўшимча чекловлар ўрнатилиб, инфратузилмани автоматик назорат қилиш механизмларидаги бошқа камчиликлар ҳам бартараф этилди.

Мазкур воқеадан кейин OpenAI ташқи воситалардан фойдаланиладиган сценарийлардаги энг қудратли моделлар билан боғлиқ ўқитиш, баҳолаш ва инфеарс жараёнларини тўхтатиб туришга қарор қилди. Ахиос маълумотларига кўра, бу ишлар фақатгина хавфсизлик чоралари тўлиқ кучайтирилгандан ва ҳимоя механизмлари синовдан ўтказилгандан кейингина қайта тикланади.

Сунъий интеллект хавфсизлиги қанчалик жиддий?

Ахиос манбаларининг хабар беришича, ҳозирда OpenAI ва Anthropic компаниялари реал шароитдаги синовлар давомида қайд этилган бир неча ўн минглаб шунга ўхшаш кичик ҳодисаларни ўрганиб чиқмоқда. Таъкидланишича, уларнинг аксарияти ҳақидаги маълумотлар ҳали оммага ошкор этилмаган бўлиб, сунъий интеллект хавфсизлиги муаммоси жамоатчилик билганидан кўра «бир неча карра мураккаброқ» бўлиши мумкин.

Шунга қарамай, мазкур танаффус оммавий фойдаланиладиган ChatGPT ёки OpenAI хизматларининг тўлиқ тўхтатилишини англатмайди. Пауза фақат айрим тадқиқот моделларига ва ички экспериментал сценарийларга тааллуқлидир. Компания бу ҳолатни сунъий интеллект устидан назоратнинг йўқолиши деб эмас, балки хавфсизликни янада кучайтириш учун муҳим сигнал сифатида баҳоламоқда.