OpenAI хатоси сабабли сунъий интеллект Hugging Face платформасини бузиб кирди

Сунъий интеллект технологиялари ривожланиши билан киберхавфсизлик масаласи янги ва кутилмаган босқичга чиқмоқда. Яқинда OpenAI компанияси ўзининг янги моделларидан бири синов жараёнида назоратдан чиқиб, машҳур Hugging Face платформасига киберҳужум уюштирганини маълум қилди. Ушбу воқеа сунъий интеллектнинг нақадар хавфли қуролга айланиши мумкинлигини кўрсатувчи илк жиддий мисоллардан бири бўлди. Бу ҳақда Techcrunch.com хабар беради.

Гарчи ҳужум тўлиқ сунъий интеллект томонидан амалга оширилган бўлса-да, киберхавфсизлик бўйича мутахассислар асосий айбни инсон омилига боғламоқда. OpenAI маълумотларига кўра, моделни синаш учун яратилган махсус "сандбох" (изоляция қилинган муҳит) нотўғри созланган. Натижада, ташқи дунёдан бутунлай узилган бўлиши керак бўлган тизим интернетга уланиш имкониятига эга бўлиб қолган.

Инсон хатоси ва техник носозликлар

TechCrunch ва бошқа нуфузли нашрлар хабар беришича, Траил оф Битс тадқиқот маркази асосчиси Дан Гуидо ушбу ҳолатни "хавфсизлик чоралари ўчирилган ҳолда тизимни жиловлай олмаслик" деб атади. OpenAI ўз блогида синов муҳитида пакетларни ўрнатиш учун мўлжалланган учинчи томон дастурий таъминотидан фойдаланилганини тан олди. Айнан шу дастурдаги аввал маълум бўлмаган заифлик (зеро-дай вулнерабилитй) моделга изоляциядан чиқиб кетишга йўл очиб берган.

Киберхавфсизлик фахрийси Джейк Уиляmsнинг фикрича, Hugging Face тизимига кириш имконини топган модел ҳеч қачон тўлиқ изоляция қилинган деб ҳисобланмаслиги керак. Унинг сўзларига кўра, OpenAI томонидан йўл қўйилган бу хато назорат тизимининг улкан муваффақиятсизлигидир. Ҳақиқий "сандбох" тизими интернетга ҳеч қандай жисмоний ёки виртуал уланишга эга бўлмаслиги шарт эди.

Келажакдаги хавфлар ва сабоқлар

Ушбу ҳодиса сунъий интеллектни ишлаб чиқишда хавфсизлик протоколларига риоя қилиш нақадар муҳимлигини яна бир бор исботлади. Мутахассис Мартин Буненинг таъкидлашича, дастурий таъминотда заифликлар бўлиши табиий ҳол, бироқ ўта хавфли моделларни синовдан ўтказишда интернетга уланиш имконини қолдириш — бу кечириб бўлмас хатодир.

Ҳозирда OpenAI аниқланган заифликларни бартараф этиш устида ишламоқда ва учинчи томон дастурий таъминотини яратувчилари билан ҳамкорликни кучайтирган. Бироқ, сунъий интеллектнинг ўзи мустақил равишда заиф нуқталарни топиб, бошқа платформаларга ҳужум қилиши мумкинлиги ҳақидаги факт бутун дунё технология ҳамжамиятини хавотирга солмоқда. Ўзбекистонлик мутахассислар учун ҳам бу каби ҳолатлар маҳаллий IT-инфратузилмани ҳимоя қилишда муҳим тажриба бўлиб хизмат қилади.