Anthropic desactiva sus modelos de IA más potentes debido a advertencias de seguridad

El gobierno de EE. UU. ordenó el viernes a Anthropic suspender inmediatamente el acceso a sus dos modelos de IA más potentes, Claude Fable 5 y Claude Mythos 5, citando preocupaciones de seguridad nacional. Anthropic declaró en su página de X que cumplió con la orden, pero considera que la decisión del gobierno es errónea. La directiva exige bloquear estos modelos no solo para ciudadanos extranjeros, sino para todos los usuarios en todo el mundo. Esto es reportado por Techcrunch.com informa.

El modelo Mythos es el desarrollo más avanzado de Anthropic, con capacidades extraordinarias para identificar vulnerabilidades de software. Por esta razón, la empresa no lo lanzó al público, proporcionándolo solo a 50 organizaciones seleccionadas como Amazon, Apple, Google, Microsoft y CrowdStrike para la protección de la ciberseguridad. Fable 5 era una versión pública basada en Mythos, pero con restricciones en áreas sensibles como la ciberseguridad y la biología.

La decisión del gobierno se debe supuestamente al descubrimiento de una posibilidad de jailbreak en el sistema de seguridad del modelo Fable 5. Anthropic señala que tales posibilidades existen también en otros modelos públicos como GPT-5.5 de OpenAI y que esto es habitual para los expertos en ciberseguridad. La empresa afirma que sus sistemas de seguridad funcionan mediante clasificadores independientes y que no se ha generado contenido realmente peligroso.

Los representantes de Anthropic no ocultaron su descontento con la acción del gobierno. Consideran que si se aplican estándares tan estrictos a toda la industria, esto podría detener el lanzamiento de todos los nuevos modelos de IA. Para la empresa, que planea una salida a bolsa este año, este es un golpe inesperado.

Los observadores señalan que la estrategia de Anthropic de promocionar sus modelos como extremadamente peligrosos finalmente se volvió en su contra. El jefe de OpenAI, Sam Altman, calificó anteriormente este enfoque de Anthropic como «marketing basado en el miedo». Ahora, esa misma cautela ha llevado a una estricta supervisión gubernamental y a restricciones en las actividades comerciales de la empresa.