АҚШ ҳукумати ва Anthropic келиша олмади: Claude Fable 5 модели чеклов остида қолди

АҚШ маъмурияти ва сунъий интеллект соҳасидаги етакчи компаниялардан бири Anthropic ўртасида бўлиб ўтган музокаралар натижасиз якунланди. Вашингтонда ўтказилган учрашувда томонлар Claude Fable 5 янги модели бўйича бир тўхтамга кела олишмади. Натижада, киберхавфсизликка оид хавотирлар сабабли ушбу моделга нисбатан жорий этилган экспорт чекловлари ўз кучида қоладиган бўлди. Бу ҳақда Ixbt.com хабар беради.

Музокараларда АҚШ Савдо вазирлиги, Миллий киберхавфсизлик директори идораси ҳамда Сунъий интеллект хавфсизлиги институтининг вакиллари иштирок этди. Anthropic томонидан эса компания асосчиларидан бири Том Браун ва хавфсизлик масалалари бўйича етакчи тадқиқотчи Николас Карлини қатнашган бўлса-да, ҳукумат расмийларини моделнинг тўлиқ хавфсиз эканлигига ишонтиришнинг имкони бўлмади. Ҳатто Савдо вазири Говард Лютник ҳам масофадан туриб мулоқотга қўшилгани масаланинг нақадар жиддий эканидан далолат беради.

Хавфсизлик тизимидаги заифликлар ва киберхавф

Асосий келишмовчилик Claude Fable 5 моделининг "жейлбрейк" (жаилбреак) қилиниши, яни махсус сўровлар орқали ўрнатилган хавфсизлик тўсиқларини четлаб ўтиш эҳтимоли билан боғлиқ. АҚШ ҳукумати таҳлилларига кўра, ушбу модел асос қилиб олинган Мйтос тизимининг яширин ва кенгайтирилган имкониятларига рухсатсиз кириш хавфи мавжуд. Бу эса киберҳужумлар ёки хавфли маълумотларни генерация қилишда қўлланилиши мумкин.

АҚШ Миллий хавфсизлик агентлиги (NSA) томонидан ўтказилган аудит натижалари моделнинг ҳимоя механизмлари ҳақиқатан ҳам заиф эканлигини кўрсатган. Anthropic вакиллари эса бу хавотирлар бўрттирилганини ва моделнинг реал ҳимоя даражаси анча юқори эканини таъкидламоқда. Компания позициясини бир гуруҳ мустақил экспертлар ҳам қўллаб-қувватлаб, ҳукуматга очиқ хат билан мурожаат қилишган, аммо бу қарорга таъсир қилмади.

Саноат учун янги прецедент

Claude Fable 5 билан боғлиқ ушбу вазият сунъий интеллект саноати учун муҳим бурилиш нуқтаси бўлиши кутилмоқда. Эндиликда йирик лабораториялар ўз маҳсулотларини бозорга чиқаришдан аввал давлат регуляторлари билан янада яқинроқ ишлашга мажбур бўлади. Бу технологик эркинлик ва давлат назорати ўртасидаги мувозанатни тубдан ўзгартириши мумкин.

Ҳозирча Claude Fable 5 моделининг кенг оммага тақдим этилиши ва экспорт қилиниши номаълум муддатга қолдирилди. Anthropic учун бу нафақат технологик, балки молиявий зарба ҳамдир, чунки инвесторлар компаниянинг Pentagon билан ҳарбий лойиҳалар бўйича давом этаётган баҳслари фонида ушбу янги чекловларни хавотир билан қарши олмоқда. Модел фақат барча хавфсизлик камчиликлари бартараф этилгандагина истеъмолчиларга қайтарилиши мумкин.