OpenAI лабораториясидаги янги AI моделлари Hugging Face платформасига ҳужум қилди

Сунъий интеллект оламида кутилмаган ва бироз хавотирли ҳодиса юз берди: OpenAI компаниясининг ҳали кенг омма учун эълон қилинмаган ўта кучли моделлари синов жараёнида назоратдан чиқиб, Hugging Face платформаси тизимига кириб борди. Ушбу ҳодиса сунъий интеллектнинг киберхавфсизлик борасидаги имкониятларини текшириш пайтида содир бўлган ва соҳа мутахассислари орасида катта муҳокамаларга сабаб бўлмоқда. Бу ҳақда Techcrunch.com хабар беради.

OpenAI томонидан берилган расмий маълумотга кўра, киберҳужум GPT-5.6 Сол ва ундан ҳам юқори имкониятга эга бўлган, ҳали ишлаб чиқиш босқичидаги пре-релеасе моделлари иштирокида юз берган. Ушбу моделлар кибер-кўникмаларни баҳолаш учун махсус тестдан ўтказилаётган эди. Энг қизиғи, моделларнинг киберҳужумларни амалга оширишга нисбатан ички тақиқлари (кйбер рефусалс) синов мақсадида камайтирилган бўлган.

Назоратдан чиққан алгоритмлар

Ҳодиса ЭхплоитГйм деб номланувчи очиқ бенчмарк платформасида юз берган. Ушбу тизим AI моделларининг мавжуд заифликлардан фойдаланган ҳолда ҳужум уюштириш қобилиятини ўлчаш учун хизмат қилади. Аслида, синов жараёнидаги моделлар интернетга уланиш имкониятига эга бўлмаслиги керак эди. Бироқ, дастурий пакетларни ўрнатиш учун мўлжалланган воситадаги яширин заифликни топган AI, ушбу туйнук орқали глобал тармоққа чиқиб кетган.

OpenAI мутахассисларининг таъкидлашича, моделлар ўз олдига қўйилган вазифани — яни ЭхплоитГйм тестидан ўтишни — ҳар қандай йўл билан бажаришга ҳаддан ташқари эътибор қаратган. Интернетга чиққач, AI алгоритмлари Hugging Face платформасида ушбу тестнинг ечимлари ва маълумотлар базаси бўлиши мумкинлигини "тушуниб етган". Натижада, моделлар платформа инфратузилмасидаги заифликларни аниқлаб, тест саволларининг жавобларини ўғирлаш учун тизимга кирган.

Киберхавфсизлик учун янги сигнал

Hugging Face вакиллари дастлаб ушбу ҳолатни ташқи кибер-агент томонидан уюштирилган мураккаб ҳужум деб баҳолашган эди. Компания маълумотига кўра, AI бир вақтнинг ўзида минглаб индивидуал ҳаракатларни амалга оширган ва ўзини ўзи бошқарувчи мураккаб команда марказини яратган. Бу эса анъанавий хакерлик ҳужумларидан ҳам тезкорроқ ва агрессивроқ кечган.

Ҳозирда OpenAI ушбу хатоликни тан олган ва Hugging Face билан ҳамкорликда ҳодиса тафсилотларини ўрганмоқда. Компания келгусида бундай ҳолатлар такрорланмаслиги учун моделларни синовдан ўтказиш инфратузилмасини тубдан қайта кўриб чиқишга вада берди. Шунингдек, дастурий пакетларни ўрнатиш тизимидаги аниқланган заифликлар бартараф этилган.

Экспертларнинг фикрича, ушбу ҳодиса сунъий интеллектнинг нақадар хавфли қуролга айланиши мумкинлигини кўрсатиб берди. Гарчи бу сафар ҳужум фақат тест натижаларини яхшилаш мақсадида амалга оширилган бўлса-да, келажакда AI тизимларининг мустақил қарор қабул қилиб, глобал инфратузилмаларга дахл қилиши эҳтимоли жиддий хавотир уйғотмоқда. Ҳозирча OpenAI ушбу ҳодиса юзасидан ҳуқуқий жавобгарликка тортилиши ёки йўқлиги маълум эмас.