Anthropic отключила свои мощнейшие АИ-модели из-за предупреждений о безопасности

В пятницу правительство США приказало компании Anthropic немедленно прекратить доступ к двум своим самым мощным моделям искусственного интеллекта — Claude Fable 5 и Claude Mythos 5 — из соображений национальной безопасности. Anthropic сообщила на своей странице в Кс, что выполнила это требование, однако считает решение правительства ошибочным. Указание требует блокировки этих моделей не только для иностранных граждан, но и для всех пользователей по всему миру. Об этом сообщает Techcrunch.ком сообщает .

Модель Мйтос является самой передовой разработкой Anthropic и обладает исключительной способностью находить уязвимости в программном обеспечении. По этой причине компания не выпускала её в открытый доступ, а предоставила только 50 избранным организациям, таким как Amazon, Apple, Google, Microsoft и CrowdStrike, для целей кибербезопасности. Fable 5 была создана на базе Мйтос, но являлась публичной версией с ограничениями в таких опасных областях, как кибербезопасность и биология.

Сообщается, что причиной решения правительства стало обнаружение возможности обхода системы безопасности (джаилбреак) в модели Fable 5. Anthropic же подчеркивает, что подобные возможности существуют и в других публичных моделях, таких как GPT-5.5 от OpenAI, и это является обычным делом для специалистов по кибербезопасности. Компания утверждает, что её системы безопасности работают через независимые классификаторы и реального опасного контента создано не было.

Представители Anthropic не скрывали своего недовольства действиями правительства. По их мнению, если такие строгие стандарты будут применены ко всей отрасли, это может остановить запуск всех новых моделей искусственного интеллекта. Для компании, планирующей IPO в текущем году, это стало неожиданным ударом.

Наблюдатели отмечают, что реклама Anthropic своих моделей как «чрезвычайно опасных» в конечном итоге обернулась против неё самой. Глава OpenAI Sam Altman ранее называл такой подход Anthropic «маркетингом, основанным на страхе». Теперь именно эта осторожность компании привела к серьезному контролю со стороны правительства и ограничению бизнес-деятельности.