Anthropic хавфсизлик ҳақидаги огоҳлантиришлари сабабли энг кучли AI моделларини ўчирди

АҚШ ҳукумати жума куни Anthropic компаниясига миллий хавфсизлик нуқтаи назаридан ўзининг энг кучли икки сунъий интеллект модели — Claude Fable 5 ва Claude Mythos 5 моделларига киришни зудлик билан тўхтатишни буюрди. Anthropic ўзининг Х саҳифасида ушбу буйруққа амал қилганини, бироқ ҳукуматнинг бу қарори нотўғри эканини маълум қилди. Кўрсатма нафақат хорижий фуқаролар, балки бутун дунё бўйлаб барча фойдаланувчилар учун ушбу моделларни блоклашни талаб қилади. Бу ҳақда Techcrunch.com хабар беради.

Мйтос модели Anthropic компаниясининг энг илғор ишланмаси бўлиб, у дастурий таъминотлардаги заифликларни топишда фавқулодда қобилиятга эга. Шу сабабли компания уни оммага чиқармасдан, фақат Amazon, Apple, Google, Microsoft ва CrowdStrike каби 50 та сараланган ташкилотларга киберхавфсизликни ҳимоя қилиш мақсадида тақдим этган эди. Fable 5 эса Мйтос асосида яратилган, аммо киберхавфсизлик ва биология каби хавфли соҳаларда чекловларга эга бўлган оммавий версия эди.

Ҳукумат қарорига Fable 5 моделидаги хавфсизлик тизимини четлаб ўтиш (жаилбреак) имконияти топилгани сабаб бўлгани айтилмоқда. Anthropic эса бу каби имкониятлар OpenAI томонидан тақдим этилган GPT-5.5 каби бошқа оммавий моделларда ҳам мавжудлигини ва бу киберхавфсизлик мутахассислари учун одатий ҳол эканини таъкидламоқда. Компания ўзининг хавфсизлик тизимлари мустақил классификаторлар орқали ишлашини ва реал хавфли контент яратилмаганини даъво қилмоқда.

Anthropic вакиллари ҳукуматнинг ушбу ҳаракатидан норози эканликларини яширмадилар. Уларнинг фикрича, агар бундай қатъий стандартлар бутун соҳага татбиқ этилса, бу барча янги сунъий интеллект моделларини ишга туширишни тўхтатиб қўйиши мумкин. Жорий йилда IPO ўтказишни режалаштираётган компания учун бу кутилмаган зарба бўлди.

Кузатувчилар Anthropic компаниясининг ўз моделларини ўта хавфли деб реклама қилгани охир-оқибат ўзига қарши ишлаганини қайд этишмоқда. OpenAI раҳбари Sam Altman аввалроқ Anthropic'нинг бу ёндашувини “қўрқувга асосланган маркетинг” деб атаган эди. Эндиликда компаниянинг айнан шу эҳтиёткорлиги ҳукуматнинг жиддий назоратига ва бизнес фаолиятининг чекланишига сабаб бўлди.