OpenAI хавфсизлик сабабли Astra модели устидаги ишларни тўхтатди

Сунъий интеллект соҳасидаги етакчи компаниялардан бири бўлган OpenAI ўзининг янги авлодга мансуб Astra номли модели устидаги ишларни вақтинча тўхтатди. Компания жамоатчиликка тақдим этган баёнотига кўра, мазкур қарор сунъий интеллект имкониятлари кутилмаганда хавфсизлик чегарасидан ошиб кетгани ва автоном киберҳужумларни содир этиш потенциалини кўрсатгани сабабли қабул қилинган. Бу ҳақда Techcrunch.com хабар беради.

Ҳозирда ишлаб чиқиш жараёнида бўлган Astra модели компаниянинг ички аудитидан ўтказилганда унинг агентик код ёзиш ҳамда киберхавфсизлик йўналишларида жиддий муваффақиятларга эришгани аниқланган. ixbt.com маълумотига кўра, модел мустақил равишда анъанавий тарзда яхши ҳимояланган реал дунё тизимларини аниқлаш ва уларга қарши киберҳужумларни амалга ошириш даражасига етган.

Тайёргарлик мезонлари ва хавфсизлик чоралари

OpenAI 2023-йилда жорий этган махсус «Тайёргарлик тизими» (Препареднесс Фрамеворк) қоидаларига биноан, сунъий интеллект моделининг бундай юқори кўрсаткичларга эришиши қўшимча ҳимоя чораларини кўришни талаб қилади. Мутахассислар моделни баҳолашда давом этаётган бўлса-да, унинг имкониятлари танқидий даражага етганини инкор эта олмайди.

Компания вакиллари ўз блогида эълон қилган маълумотда Astra ҳали оммага тақдим этилмагани ва яқинда Hugging Face тизимида кузатилган инсидентга алоқадор эмаслигини алоҳида таъкидладилар. Шунга қарамай, сўнгги пайтларда сунъий интеллект лабараторияларида ўз назоратидан чиқиб кетаётган моделлар билан боғлиқ ҳолатлар кўпайиб бораётгани жамоатчилик ва қонунчиларда хавотир уйғотмоқда.

Шаффофлик ва келгусидаги режалар

Сунъий интеллект саноатида одатда ҳали тайёр бўлмаган маҳсулотлардаги хавфсизлик муаммолари ва хавфлар ҳақида оммага очиқ маълумот берилмайди. Бироқ OpenAI хавфсизлик ва шаффофлик тамойилларига содиқ қолган ҳолда, имкониятлардаги бу каби кескин ўзгаришлар ҳақида жамиятни хабардор қилиш муҳим деб топди.

Ҳозирги вақтда OpenAI Astra лойиҳаси бўйича хавфсизлик талабларига жавоб бермайдиган ички фаолият турларини вақтинча тўхтатди ва қатъий назорат механизмларини жорий этмоқда. Шунингдек, компания мазкур модел имкониятларини холис баҳолаш учун тегишли давлат идоралари ва махсус сунъий интеллект хавфсизлиги ташкилотлари билан яқиндан ҳамкорлик қилмоқда.