Arcee: Los modelos de IA de código abierto de China no representan una amenaza a la seguridad

Los expertos del laboratorio estadounidense Arcee consideran infundadas las preocupaciones sobre la seguridad de los modelos de IA de código abierto (open-source) desarrollados en China. Recientemente, los modelos presentados por empresas chinas como Moonshot AI y Alibaba están ganando popularidad en el mercado global por su eficiencia y bajo costo, lo que ha generado diversos debates entre los gigantes tecnológicos occidentales. Así lo informa Techcrunch.com informa .

En un momento en que la administración estadounidense considera prohibir los productos de desarrolladores chinos, los creadores de modelos cerrados como OpenAI y Anthropic temen la competencia. En particular, modelos como Kimi K3 y Qwen destacan por ofrecer servicios de procesamiento de datos mucho más económicos. Esto podría afectar significativamente los márgenes de beneficio de las grandes corporaciones.

Según Lucas Atkins, director técnico de Arcee, los modelos de peso abierto (open-weight) chinos no son más peligrosos que cualquier otro software de código abierto. Atkins enfatiza que las empresas que utilizan estos modelos no necesitan temer ataques de hackers chinos, ya que el principio de funcionamiento de las redes neuronales difiere del software tradicional.

Seguridad técnica y capacidades de control

Muchos entienden estos modelos como código malicioso, pero el proceso de entrenamiento de la IA es completamente distinto. Los expertos de Arcee explican que si una empresa descarga el modelo y lo ejecuta en sus propios servidores (centros de datos), la parte que creó el modelo (por ejemplo, Alibaba) no tendrá acceso a ese entorno ni podrá robar datos.

El código de funcionamiento de los modelos de peso abierto alojados en plataformas como Hugging Face es transparente y puede ser auditado. Aunque los métodos y conjuntos de datos utilizados para entrenar los modelos se mantienen en secreto, la parte que se ejecuta en el servidor puede ser controlada totalmente por expertos. Esto abre la puerta a la implementación independiente de medidas de seguridad.

Las grandes organizaciones deben someter cualquier modelo a pruebas de seguridad antes de su implementación, verificando aspectos como sesgos (bias) y alucinaciones (hallucinations). Asimismo, es posible aumentar la fiabilidad de los modelos mediante un entrenamiento adicional (post-training) adaptado a sus necesidades específicas.

Curiosamente, Arcee ofrece productos estadounidenses locales como alternativa a los modelos chinos. A pesar de ello, evitan acusar injustamente a sus competidores y demuestran ser partidarios de la apertura tecnológica. Este enfoque sirve para fomentar una competencia sana y la innovación en el mercado global de la IA.