El director de Anthropic se pronuncia sobre los modelos de inteligencia artificial de pesos abiertos

Dario Amodei, cofundador y director ejecutivo de Anthropic, una de las empresas líderes en el sector de la inteligencia artificial, declaró que no está a favor de prohibir los modelos de inteligencia artificial de pesos abiertos. Según él, la empresa nunca ha apoyado tales restricciones y los rumores al respecto carecen de fundamento. Esta declaración se produce en un momento de intensos debates entre los actores de la industria y los gigantes tecnológicos sobre el futuro de las tecnologías open source, informa Techcrunch.com. informa .

Según ixbt.com, esta reacción surgió tras una carta abierta publicada en la red social X por Jensen Huang, cofundador y director ejecutivo de Nvidia. En dicha carta, Nvidia junto con otras empresas líderes como Meta, Microsoft, Mistral y Hugging Face instaron a los legisladores a no imponer restricciones precipitadas a los modelos de inteligencia artificial de pesos abiertos. Aunque la carta no menciona directamente a China, los principales debates giran en torno a las acusaciones de que los laboratorios chinos están ampliando sus capacidades mediante el robo de propiedad intelectual.

Los riesgos de la inteligencia artificial por parte de China

En su blogpost, Dario Amodei abordó la cuestión de la seguridad destacando que es necesario distinguir entre los modelos de pesos abiertos y las amenazas provenientes de China. Señaló que considera beneficiosos para la sociedad aquellos modelos de pesos abiertos que no poseen capacidades peligrosas, ya que aportan un gran beneficio a investigadores y desarrolladores. Sin embargo, su principal preocupación radica en los intentos de los gobiernos autoritarios, en particular el Partido Comunista Chino, de crear sistemas aún más potentes que los de Estados Unidos para lograr una superioridad militar permanente.

El director de Anthropic también expresó su preocupación por el aumento de los ataques biológicos y las amenazas de ciberseguridad. En su opinión, los modelos de pesos abiertos son más peligrosos en tales escenarios, ya que es sumamente difícil controlar su uso o establecer restricciones sobre ellos. Basándose en un informe del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido, recordó que una vez distribuidos los códigos de pesos abiertos, es imposible retirarlos.

Expertos y medidas futuras

Los defensores del open source afirman que el acceso a modelos potentes, libre de un control centralizado, ayuda a los defensores a garantizar la seguridad. Sin embargo, Amodei propuso en respuesta medidas concretas para contrarrestar el dominio de China en el ámbito de la inteligencia artificial. A su juicio, es necesario limitar el acceso de China a chips potentes y adoptar medidas oficiales contra los procesos de destilación para prevenir el robo de propiedad intelectual.

A modo de información, el gobierno de Estados Unidos advierte que podría aplicar sanciones contra China si se confirma el robo de propiedad intelectual a empresas estadounidenses. Por lo tanto, la cuestión de mantener el equilibrio entre la libertad de innovación y la seguridad nacional sigue estando hoy en el centro de los debates en el mercado tecnológico.