Специалисты по кибербезопасности недовольны моделью Фабле от Anthropic

Во вторник компания Anthropic представила Фабле — общедоступную и ограниченную версию своей нашумевшей модели кибербезопасности Мйтос. Однако строгие ограничения в новой модели вызвали резкую критику со стороны исследователей кибербезопасности и отраслевых экспертов. Об этом сообщает Techcrunch.ком сообщает .

Исследователь IBM Кс-Форке Валентина «Чомпие» Пальмиотти отметила, что Фабле отклоняет любые запросы, даже косвенно связанные с кибербезопасностью, включая безобидные задачи, такие как чтение простых постов в блогах. При срабатывании мер безопасности модель прерывает чат и сообщает, что запрос заблокирован из-за связи с темами кибербезопасности или биологии.

Anthropic ввела эти ограничения, чтобы снизить риск создания вредоносного ПО или разработки биологического оружия. Когда компания выпустила модель Мйтос в апреле, она предоставила право на ее использование лишь нескольким организациям в рамках Проджект Глассвинг. На прошлой неделе доступ к модели был расширен для сотен организаций в 15 странах.

По мнению экспертов, система ограничений в Фабле основана на ключевых словах, из-за чего она часто неверно интерпретирует запросы на написание безопасного кода. Например, ветеран кибербезопасности Мэтт Суиш утверждает, что система путает лучшие практики программной инженерии с кибератаками и в результате автоматически перенаправляет пользователя на модель Claude Опус 4.8.

На данный момент Anthropic официально не прокомментировала эту критику. Специалисты надеются, что, поскольку модель находится на ранней стадии, со временем эти «барьеры» будут смягчены в сотрудничестве с компаниями по кибербезопасности.