Anthropic нейротармоғи ёрдамида OpenAI тизими бузиб кирилди

Сунъий интеллект хавфсизлиги соҳасида кутилмаган ҳолат юз берди: мустақил тадқиқотчилар Anthropic компаниясининг Claude нейротармоғидан фойдаланган ҳолда OpenAI инфратузилмасига киришга муваффақ бўлишди. Те Валл Стреэт Жоурнал нашрининг хабар беришича, ушбу киберҳужум ChatGPT яратувчиларининг хавфсизлик тизимидаги жиддий бўшлиқларни фош этди ва соҳа мутахассислари эътиборини яна бир бор замонавий таҳдидларга қаратди. Бу ҳақда Techcrunch.com хабар беради.

Ҳакктрон AI номли стартапнинг уч кишидан иборат хавфсизлик гуруҳи ушбу ҳуж амалга оширилишини таъминлади. Мутахассислар OpenAI томонидан эълон қилинган хатоларни қидириб топиш дастури — буг-боунтй доирасида ҳаракат қилишган. Ҳужум натижасида улар OpenAI ходимларининг бир нечта ChatGPT аккаунтларига кириш ҳуқуқини берувчи иккита муҳим заифликни ўзаро боғлай олишди ва компания дастурий таъминотига йўл очишди. Топилган камчиликлар ҳақида хабар берган стартапга OpenAI томонидан 6 500 доллар мукофот берилди ҳамда муаммолар бартараф этилгани маълум қилинди.

Киберхавфсизликда янги таҳдидлар

Ушбу ҳодиса етакчи сунъий интеллект компаниялари хавфсизлик масаласида қаттиқ босим остида қолган бир пайтда юз берди. Бунгача, бир неча ҳафта олдин, OpenAI'нинг ўз сунъий интеллект агентлари киберхавфсизликни баҳолаш жараёнида чекловларни бузиб ўтиб, Hugging Face платформасини ҳам хакерлик ҳужумига учратган эди. Бу эса замонавий сунъий интеллект моделлари мустақил қарор қабул қилишда қанчалик юқори салоҳиятга эга бўлиб бораётганини кўрсатади.

Грай Сван сунъий интеллект хавфсизлиги фирмаси бош директори Матт Фредриксоннинг TechCrunch нашрига маълум қилишича, ойига 200 доллар сарфлаб, исталган шахс бундай воситалардан фойдаланган ҳолда OpenAI каби йирик компания тизимига кириши мумкин. Агар шундай ҳолат хавфсизлик гигантларининг ўзида юз берса, бу исталган бошқа ташкилот билан ҳам содир бўлиши мумкинлигини англатади. Ижтимоий тармоқлардаги кузатувчилар эса уч кишилик гуруҳ бу ишни уддалаган бўлса, давлат миқёсидаги гуруҳлар қандай натижага эришиши мумкинлиги ҳақида савол қўймоқда.

Заифликнинг келиб чиқиш сабаблари

Тадқиқотчилар 25-июль куни OpenAI тизимига Дискоурсе дастурий таъминотидаги носозлик орқали кириш йўлини топишган. Дискоурсе — OpenAI ҳамжамияти форумини қўллаб-қувватловчи учинчи томон дастури ҳисобланади. Кириш нуқтаси оддий расм юклаш жараёни бўлиб чиққан. Фойдаланувчилар форумга iPhone телефонлари стандарт тарзда ишлатадиган ҲEИФ ёки ҲEИК форматидаги расмларни жойлаганда, Дискоурсе уларни стандарт ЖПEГ форматига ўтказиш учун бир нечта яширин воситалардан фойдаланган.

Жараённинг биринчи босқичи ўн йиллик тарихга эга очиқ кодли ИмагеМагикк ёрдамчи дастуридан бошланган. Бироқ унинг имкониятлари Apple форматига мос келмагани учун файл либҳеиф деб номланган бошқа кутубхонага узатилган. Айнан либҳеиф ичида яширинган хотира хатоси тажовузкорларга ўз кўрсатмаларини киритиш имконини берган. Махсус тайёрланган расмни юбориш орқали серверни бошқариш имкони топилган.

Киберхавфсизлик ҳамжамияти учун энг ноқулай жиҳат шундаки, мазкур хатолик либҳеиф дастурчилари томонидан ойлар олдин тузатиб қўйилган эди. Аммо бу тузатиш расман заифлик сифатида белгиланмагани сабабли унга маълум хавфсизлик заифликларини кузатувчи стандарт ҳисобланган КВE рақами берилмаган. Ҳакктрон гуруҳининг фикрича, Дискоурсе фойдаланаётган дастурий таъминот ҳамон хавфли версияда қолганининг сабаби айнан шунда бўлиши мумкин.