Expertos en ciberseguridad se oponen a la prohibición de modelos de Anthropic por el gobierno de EE. UU.

Destacados expertos mundiales en ciberseguridad y veteranos del sector han dirigido una carta abierta al gobierno de EE. UU., exigiendo la eliminación de las restricciones de exportación impuestas a los modelos de AI más potentes de Anthropic: Fable y Mythos. Los expertos creen que tal prohibición podría privar a los ciberdefensores de herramientas críticas y causar más daño que beneficio a la seguridad nacional. Así lo informa Techcrunch.com noticia informa.

La carta abierta enfatiza que estas restricciones han limitado la capacidad de identificar y mitigar vulnerabilidades de software. Los especialistas advierten que "mientras nuestros adversarios se desarrollan rápidamente, es peligroso despojar injustificadamente a los defensores de las mejores capacidades". Este llamamiento se produce después de que el gobierno de EE. UU. ordenara restringir la exportación de los modelos de Anthropic por razones de seguridad nacional.

Los defensores están siendo desarmados

Hasta la fecha, 76 expertos prestigiosos han firmado la carta. Entre ellos se encuentran figuras reconocidas como Alex Stamos, exjefe de seguridad de Facebook, Jon Callas, exgerente de arquitectura de seguridad de Apple, y Casey Ellis, fundador de la plataforma Bugcrowd. Temen que la decisión del gobierno otorgue una ventaja a los cibercriminales.

Según Anthropic, cuando se presentó el modelo Mythos en abril, era tan potente para encontrar fallos en los sistemas de seguridad que la empresa se vio obligada a limitar estrictamente el acceso. Inicialmente, solo unas 50 empresas tuvieron permiso, lista que luego se amplió a 150 organizaciones en 15 países. Sin embargo, tras la orden gubernamental, Anthropic detuvo el acceso a estos modelos en todo el mundo.

Razones cuestionables detrás de la prohibición

El modelo Fable, lanzado recientemente al público, es una versión masiva de Mythos, con restricciones estrictas para evitar su uso en biología, química y ciberseguridad. No obstante, los expertos sostienen que estas restricciones son excesivas, bloqueando incluso consultas de seguridad simples. La decisión de control de exportaciones de la Casa Blanca podría basarse en un informe que sugiere que el sistema de protección del modelo Fable podría ser vulnerado (jailbreaking).

Según Katie Moussouris, fundadora de Luta Security, un informe confidencial elaborado por investigadores de Amazon mostró un método para "hackear" el modelo. Sin embargo, Moussouris enfatiza que esto no fue un hackeo real. Los investigadores simplemente pidieron al modelo que corrigiera errores específicos en códigos abiertos, lo cual no sería base suficiente para una ciberataque.

Esta situación ha reavivado los debates sobre la regulación de las tecnologías de AI y su papel en el ámbito de la seguridad. Si el gobierno de EE. UU. no reconsidera su decisión, las empresas locales de ciberseguridad podrían perder su competitividad en el mercado internacional y las redes globales podrían quedar en riesgo.