Эксперты по кибербезопасности выступили против запрета правительства США на модели Anthropic

Ведущие мировые эксперты по кибербезопасности и ветераны отрасли обратились к правительству США с открытым письмом, требуя отменить экспортные ограничения на самые мощные модели искусственного интеллекта компании Anthropic — Fable и Мйтос. По мнению экспертов, такой запрет лишает защитников киберпространства важных инструментов и может нанести национальной безопасности больше вреда, чем пользы. Об этом сообщает Techcrunch.ком сообщает издание.

В открытом письме подчеркивается, что из-за этих ограничений возможности по выявлению и устранению уязвимостей в программном обеспечении стали ограничены. Специалисты предупреждают: «в то время как наши противники стремительно развиваются, лишать защитников лучших возможностей неоправданно опасно». Данное обращение последовало за распоряжением правительства США ограничить экспорт моделей Anthropic по соображениям национальной безопасности.

Защитники остаются безоружными

На сегодняшний день это письмо подписали 76 авторитетных экспертов. Среди них такие известные личности, как бывший глава отдела безопасности Facebook Алекс Стамос, бывший менеджер по архитектуре безопасности Apple Джон Каллас и основатель платформы Бугкровд Кейси Эллис. Они обеспокоены тем, что решение правительства может дать преимущество киберпреступникам.

По данным Anthropic, когда модель Мйтос была представлена в апреле, она оказалась настолько эффективной в поиске недостатков в системах безопасности, что компания была вынуждена строго ограничить доступ к ней. Сначала доступ был разрешен примерно 50 компаниям, позже список расширился до 150 организаций в 15 странах. Однако после распоряжения правительства Anthropic прекратила доступ к этим моделям по всему миру.

Сомнительные причины запрета

Недавно представленная публике модель Fable является массовой версией Мйтос, имеющей строгие ограничения, чтобы ее нельзя было использовать в области биологии, химии и кибербезопасности. Однако специалисты утверждают, что эти ограничения чрезмерны и блокируют даже простые запросы по безопасности. Решение Белого дома о контроле экспорта могло быть основано на отчете о возможности обхода системы защиты (джаилбреакинг) в модели Fable.

По словам основательницы Лута Секуритй Кейти Муссурис, в секретном отчете исследователей Amazon был показан способ «взлома» этой модели. Однако Муссурис подчеркивает, что на самом деле это не было полноценным взломом. Исследователи просто попросили модель исправить определенные ошибки в открытом коде, что не может служить достаточным основанием для кибератаки.

Эта ситуация вновь обострила дискуссии о регулировании технологий искусственного интеллекта и их роли в сфере безопасности. Если правительство США не пересмотрит свое решение, местные компании по кибербезопасности могут потерять конкурентоспособность на международном рынке, а глобальные сети окажутся под угрозой.