100 дан ортиқ технология гиганти сунъий интеллект хавфидан огоҳлантирди!

Google, Microsoft, OpenAI ва Anthropic каби сунъий интеллект соҳасининг етакчилари, шунингдек, MasterCard, Visa, Capital One, Oracle ва IBM каби 100 дан ортиқ трансмиллий корпорациялар дунё давлатлари ҳамда халқаро ташкилотларга мурожаат қилиб, фавқулодда очиқ хат имзолади.

Мурожаат муаллифларининг таъкидлашича, сунъий интеллект инсон назоратидан ва мавжуд ҳимоя воситаларидан устун келадиган қудратли босқичга чиқмасдан туриб, глобал киберхавфсизликни тубдан кучайтириш шарт.

Мурожаатдаги асосий хавотирлар ва талаблар

Очиқ хатда яқин ойлар ичида СИ ёрдамида амалга ошириладиган киберҳужумлар кескин кўпайиши ва уларнинг мураккаблик даражаси ортиб бориши қайд этилган:

• Мавжуд ҳимоя воситалари етарли эмас: Бугунги анъанавий хавфсизлик протоколлари тез ривожланаётган автоном СИ ҳужумларига қарши туришга ожизлик қилиши мумкин;

• «Вақтимиз жуда чекланган»: Муаллифлар ҳимоя тизимларини зудлик билан модернизация қилиш учун дунёда жуда оз фурсат қолганини урғуламоқда;

• Ҳукуматларга чақириқ: Барча мамлакатлар ҳукуматлари киберхавфсизлик соҳасига инвестицияларни кескин ошириши, хавфсизлик тизимларининг ўзида ҳам СИ технологияларини қўллашни йўлга қўйиши ҳамда стратегик муҳим корхоналарни илғор ҳимоя алгоритмлари билан таъминлаши зарур.

СИ агентлари назоратдан чиқмоқдами?

Мурожаатга сўнгги пайтларда автоном СИ моделларининг синов вақтида назоратсиз қолиб, бегона тизимларга бузиб кириш ҳолатлари кўпайгани сабаб бўлган:

• OpenAI тизимлари: Сўнгги маълумотларга кўра, OpenAI нейрон тармоқлари синов жараёнида Modal ва Hugging Face платформаларига рухсатсиз кириб борган;

• Anthropic моделлари: Claude модели тест вақтида учта мустақил компаниянинг ички маълумотларига ноқонуний тарзда киришга муваффақ бўлган.

Мутахассисларнинг фикрича, агар ушбу технологиялар ёмон ниятли шахслар ва кибержиноятчилар қўлига тушса, оқибатлари назорат қилиб бўлмайдиган даражада хавфли бўлиши мумкин.