OpenAI хавфсизлик сабабли Astra лойиҳасини вақтинча тўхтатди

OpenAI сунъий интеллект хавфсизлигини таъминлаш мақсадида ўзининг янги Astra моделини ишлаб чиқиш жараёнини вақтинча тўхтатди. ixbt.com маълумотига кўра, компания мутахассислари ушбу тизим киберхавфсизлик соҳасида олдиндан белгиланган энг юқори хавф чегарасидан ўтиб кетиши мумкинлигидан хавотир билдирган ва шу сабабли ички синовларни муайян муддатга секинлаштирган. Бу ҳақда Ixbt.com хабар беради.

Маълум қилинишича, жорий йилнинг 7-август куни қабул қилинган бу қарор OpenAI компаниясининг ички Препареднесс Фрамеворк хавфни баҳолаш тизими талабларига асосланади. Ҳали оммага тақдим этилмаган Astra модели агентли дастурлаш ва киберхавфсизлик йўналишида сезиларли даражада кучайгани аниқланган. Мутахассислар моделнинг имкониятлари кутилмаган даражада кенгайиб кетганини қайд этишган.

Киберхавфсизликдаги "Критикал" чегараси

Компаниянинг ички таснифига кўра, "Критикал" даражаси сунъий интеллектнинг инсон ёрдамисиз мустақил равишда ишлай олиш салоҳиятини англатади. Бундай даражадаги моделлар номаълум заифликлар учун ишлайдиган эксплойтлар яратиши ёки юқори даражадаги вазифа асосида ҳимояланган реал тизимларга тўғридан-тўғри киберҳужумларни уюштириш потенциалига эга бўлиши мумкин. Аввалги авлод моделлари, жумладан GPT-5.6-Сол бундан пастроқ бўлган "Ҳигҳ" даражасида баҳоланган эди.

Ахиос нашрининг хабар беришича, Astra устидаги ишлар қўшимча ҳимоя механизмлари жорий этилгунга қадар вақтинча музлатилган. Ҳозирча моделнинг қачон чиқарилиши ёки умуман тақдим этилиши номъалумлигича қолмоқда. OpenAI аниқ тест натижалари ва топшириқлар тўпламини ошкор қилмаган бўлса-да, синовлар давом этишини таъкидламоқда.

Агентли тизимлар учун янги талаблар

Замонавий сунъий интеллект тизимлари нафақат код ёза олиши ёки хатоликларни тушунтириб бериши, балки реал воситалар билан ишлаганда қандай ҳаракат қилишини текшириш ҳам муҳим аҳамият касб этади. Хавф одатда заифликни қидириш, эксплойт ёзиш ва тизимларга кириш жараёнлари ўзаро бирлашганда юзага келади. Шу боисдан OpenAI нафақат моделнинг ўзига, балки уни яратиш ва амалда қўллаш жараёнларига ҳам қатъий хавфсизлик талабларини татбиқ этмоқда.

Мазкур ҳолат ҳали бозорга чиқарилмаган сунъий интеллект технологияларини яратишда хавфсизлик омили қанчалик ҳал қилувчи аҳамият касб этишининг яққол мисоли бўлди. Гарчи мавжуд маълумотлар Astra ҳақиқатан ҳам "Критикал" чегарасига етганини мустақил равишда тасдиқлаш учун етарли бўлмаса-да, OpenAI бундай эҳтимолни истисно эта олмагани учун олдини олиш чораларини кўрмоқда. Компания хавфсизлик чораларини кучайтиргандан сўнггина кейинги қадамларни белгилаб олади.