Правительство США и Anthropic не достигли соглашения: модель Claude Fable 5 осталась под ограничениями

Переговоры между администрацией США и одной из ведущих компаний в области искусственного интеллекта Anthropic завершились безрезультатно. На встрече в Вашингтоне стороны не смогли прийти к соглашению по новой модели Claude Fable 5. В результате экспортные ограничения, введенные из-за опасений в сфере кибербезопасности, остаются в силе. Об этом сообщает Иксбт.ком.

В переговорах приняли участие представители Министерства торговли США, офиса национального директора по кибербезопасности, а также Института безопасности искусственного интеллекта. Со стороны Anthropic присутствовали один из основателей компании Том Браун и ведущий исследователь по вопросам безопасности Николас Карлин, однако им не удалось убедить правительственных чиновников в полной безопасности модели. Тот факт, что министр торговли Говард Лютник присоединился к обсуждению удаленно, свидетельствует о серьезности проблемы.

Уязвимости в системе безопасности и киберриски

Основное разногласие связано с возможностью «джейлбрейка» (джаилбреак) модели Claude Fable 5, то есть обходом установленных барьеров безопасности с помощью специальных запросов. Согласно анализу правительства США, существует риск несанкционированного доступа к скрытым и расширенным возможностям системы Мйтос, на которой основана модель. Это может быть использовано для кибератак или генерации опасных данных.

Результаты аудита, проведенного Агентством национальной безопасности США (NSA), показали, что механизмы защиты модели действительно уязвимы. Представители Anthropic утверждают, что эти опасения преувеличены, а реальный уровень защиты модели значительно выше. Позицию компании поддержала группа независимых экспертов, обратившихся к правительству с открытым письмом, однако это не повлияло на решение.

Новый прецедент для индустрии

Ожидается, что ситуация с Claude Fable 5 станет важной поворотной точкой для индустрии искусственного интеллекта. Теперь крупным лабораториям придется более тесно взаимодействовать с государственными регуляторами перед выпуском своих продуктов на рынок. Это может коренным образом изменить баланс между технологической свободой и государственным контролем.

На данный момент широкий релиз и экспорт модели Claude Fable 5 отложены на неопределенный срок. Для Anthropic это не только технологический, но и финансовый удар, так как инвесторы с тревогой воспринимают новые ограничения на фоне продолжающихся споров компании с Пентагоном по военным проектам. Модель может вернуться к потребителям только после устранения всех недостатков в системе безопасности.