Глава Amazon обеспокоен безопасностью моделей Anthropic

Генеральный директор Amazon Энди Джасси, возможно, предупредил правительство о проблемах безопасности, которые привели к ограничению доступа к двум моделям Anthropic по всему миру. Как сообщает Те Валл Стрит Джурнал, Джасси сообщил министру финансов США Скотту Бессенту и другим официальным лицам, что исследователи Amazon использовали модель Claude Fable 5 для получения данных, которые могут быть использованы в кибератаках. Об этом сообщает Techcrunch.ком сообщает .

После этого предупреждения правительство США ввело экспортный контроль в отношении моделей Fable 5 и Мйтос 5. Представитель Amazon в интервью ВСДж отметил, что для правительств является обычной практикой консультироваться с компанией по поводу потенциальных рисков безопасности, однако детали таких переговоров не разглашаются.

Издания Те Информатион и Reuters также подтвердили, что Amazon, являющаяся крупным инвестором Anthropic, выразила обеспокоенность по поводу безопасности этих моделей. Согласно имеющимся данным, возможность получения доступа к конфиденциальной информации через модели AI была оценена как серьезная угроза.

По словам Дэвида Сакса, бывшего советника администрации Дональда Трампа по вопросам AI, Anthropic и доверенный партнер правительства США сообщили о случае «джаилбреак» (обхода защиты) в модели. Сакс утверждает, что правительство попросило главу Anthropic Дарио Амодеи исправить эту ошибку или отключить модель, но Амодеи отказался.