Expertos en ciberseguridad descontentos con el modelo Fable de Anthropic

El martes, Anthropic presentó Fable, una versión pública y limitada de su controvertido modelo de ciberseguridad Mythos. Sin embargo, las estrictas restricciones del nuevo modelo están provocando duras críticas por parte de investigadores de ciberseguridad y profesionales del sector, informa Techcrunch.com. informa .

La investigadora de IBM X-Force, Valentina “Chompie” Palmiotti, señaló que Fable rechaza cualquier solicitud relacionada incluso indirectamente con la ciberseguridad, incluidas tareas inofensivas como leer simples publicaciones de blog. Cuando se activan las medidas de seguridad, el modelo termina el chat, indicando que el mensaje fue bloqueado debido a su conexión con temas de ciberseguridad o biología.

Anthropic implementó estas restricciones para reducir el riesgo de crear malware o desarrollar armas biológicas. Cuando la empresa lanzó el modelo Mythos en abril, solo otorgó acceso a unas pocas organizaciones bajo el proyecto Glasswing. La semana pasada, el acceso al modelo se amplió a cientos de organizaciones en 15 países.

Los expertos creen que el sistema de restricción del modelo Fable se basa en palabras clave y a menudo malinterpreta las solicitudes para escribir código seguro. Por ejemplo, el veterano en ciberseguridad Matt Suiche declaró que el sistema confunde las mejores prácticas de ingeniería de software con ciberataques, redirigiendo automáticamente al usuario al modelo Claude Opus 4.8.

Anthropic aún no ha respondido oficialmente a estas críticas. Los expertos esperan que, dado que el modelo aún se encuentra en una etapa inicial, estas “barreras” se suavicen con el tiempo en colaboración con las empresas de ciberseguridad.