El gobierno de EE. UU. y Anthropic no llegan a un acuerdo: el modelo Claude Fable 5 permanece restringido

Las negociaciones entre la administración estadounidense y Anthropic, una de las empresas líderes en el campo de la inteligencia artificial, han terminado sin resultados. En una reunión celebrada en Washington, las partes no lograron llegar a un acuerdo sobre el nuevo modelo Claude Fable 5. Como resultado, las restricciones a la exportación impuestas a este modelo debido a preocupaciones de ciberseguridad seguirán vigentes. Así lo informa Ixbt.com.

En las negociaciones participaron representantes del Departamento de Comercio de EE. UU., la oficina del Director Nacional de Ciberseguridad y el Instituto de Seguridad de la IA. Por parte de Anthropic, asistieron Tom Braun, cofundador de la empresa, y Nicholas Carlini, investigador principal de seguridad, aunque no pudieron convencer a los funcionarios gubernamentales de que el modelo es completamente seguro. El hecho de que el secretario de Comercio, Howard Lutnick, se uniera a la comunicación de forma remota demuestra la gravedad del asunto.

Vulnerabilidades del sistema de seguridad y ciberriesgos

El principal desacuerdo radica en la posibilidad de realizar un "jailbreak" al modelo Claude Fable 5, es decir, eludir las barreras de seguridad establecidas mediante solicitudes especiales. Según los análisis del gobierno de EE. UU., existe el riesgo de acceso no autorizado a las capacidades ocultas y extendidas del sistema Mythos en el que se basa este modelo. Esto podría utilizarse para ciberataques o la generación de información peligrosa.

Los resultados de una auditoría realizada por la National Security Agency (NSA) de EE. UU. indicaron que los mecanismos de defensa del modelo son realmente débiles. Los representantes de Anthropic sostienen que estas preocupaciones están exageradas y que el nivel de protección real del modelo es mucho mayor. Un grupo de expertos independientes apoyó la posición de la empresa mediante una carta abierta al gobierno, pero esto no influyó en la decisión.

Un nuevo precedente para la industria

Se espera que esta situación relacionada con Claude Fable 5 sea un punto de inflexión importante para la industria de la IA. De ahora en adelante, los grandes laboratorios se verán obligados a trabajar más estrechamente con los reguladores estatales antes de lanzar sus productos al mercado. Esto podría cambiar fundamentalmente el equilibrio entre la libertad tecnológica y el control estatal.

Por el momento, la presentación pública y la exportación del modelo Claude Fable 5 han sido pospuestas indefinidamente. Para Anthropic, esto representa no solo un golpe tecnológico, sino también financiero, ya que los inversores reciben estas nuevas restricciones con preocupación, en el contexto de las disputas continuas de la empresa con el Pentágono sobre proyectos militares. El modelo solo podrá volver a los consumidores una vez que se hayan corregido todas las deficiencias de seguridad.