Los modelos de IA de pesos abiertos alcanzan a los líderes

Mientras las capacidades de los modelos líderes en el campo de la inteligencia artificial crecen rápidamente, los sistemas de pesos abiertos tampoco se quedan atrás. El modelo de inteligencia artificial de pesos abiertos GLM-5.2, presentado por la empresa china Z.ai, está apenas unos meses por detrás de los avances más destacados de OpenAI y Anthropic en ciberseguridad y biología, informa ixbt.com. Techcrunch.com también lo comunica.

Según un informe de la organización de seguridad sin ánimo de lucro SaferAI, los modelos de pesos abiertos de última generación se acercan rápidamente al nivel de los sistemas líderes. Sin embargo, a medida que aumentan las capacidades tecnológicas, también se amplía la brecha entre las prácticas de seguridad y los riesgos potenciales. Los expertos señalan que esta situación obliga a replantear los mecanismos para gestionar los nuevos riesgos a los que se enfrenta la sociedad.

Diferencias drásticas en las restricciones de seguridad

Según las evaluaciones realizadas por la organización a través de la API abierta de Z.ai, el modelo GLM-5.2 no rechazó ninguna solicitud relacionada con ciberataques o tareas biológicas de doble uso. En comparación, el modelo Claude Opus 4.7 de Anthropic no pudo completar la prueba CyberGym de evaluación de ciberseguridad debido a su estricto cumplimiento de las normas de seguridad. Esto volvió a demostrar que los críticos que advierten del posible descontrol de los modelos de pesos abiertos tienen motivos para preocuparse.

La principal característica de los modelos de pesos abiertos es que cualquier persona puede descargarlos en su dispositivo y ejecutarlos en cualquier infraestructura. En ese caso, no es posible establecer una supervisión o un control policial centralizado del sistema. Los usuarios pueden eliminar, modificar o reconfigurar fácilmente todos los mecanismos de protección de los modelos utilizando sus propios equipos.

Vulnerabilidades de los sistemas cerrados y abiertos

Los fabricantes de sistemas cerrados como OpenAI y Anthropic utilizan clasificadores especializados y controles a nivel de la API para limitar la asistencia cibernética peligrosa o las instrucciones biológicas. Sin embargo, estas medidas tampoco son perfectas. La organización de seguridad Far.ai ha identificado cientos de métodos universales de «jailbreak» en modelos avanzados como Grok 4.5 de xAI y Gemini 3.1 Pro de Google DeepMind. Estos métodos, que combinan juegos de rol e historiales de conversación falsos, permiten eludir los puntos débiles de los modelos.

Aun así, las medidas de protección aplicadas a los modelos cerrados resultan completamente ineficaces frente a los sistemas de pesos abiertos. Esto se debe a que los modelos abiertos están diseñados desde el principio para funcionar sin restricciones o con condiciones de seguridad modificadas. Según Henry Papadatos, director ejecutivo de SaferAI, el objetivo principal debe ser hacer accesibles para todos las capacidades útiles y seguras, además de intentar eliminar las funciones dañinas mediante un enfoque de código abierto.