Seguridad de la inteligencia artificial: los expertos defienden los modelos de código abierto

En la conferencia Ai4, celebrada en Las Vegas, destacados expertos en inteligencia artificial, entre ellos el ganador del Premio Nobel Geoffrey Hinton, la directora ejecutiva de World Labs Fei-Fei Li y el cofundador de Coursera Andrew Ng, debatieron sobre la importancia de mantener abiertos los modelos de inteligencia artificial. En un contexto de creciente preocupación por los modelos de código abierto y de pesos abiertos en la industria tecnológica moderna, estos investigadores subrayaron la importancia de proteger el avance tecnológico frente al monopolio de unas pocas grandes empresas. Techcrunch.com informa .

Actualmente, los grandes laboratorios consideran peligrosos los modelos de pesos abiertos porque se distribuyen libremente y es difícil controlar su uso. Sin embargo, según ixbt.com, los tres expertos que intervinieron en la conferencia de Las Vegas declararon firmemente su apoyo a una inteligencia artificial abierta. Señalaron la necesidad de impedir la aparición de guardianes únicos capaces de limitar el desarrollo tecnológico.

El riesgo del monopolio y un entorno competitivo

En su intervención, Andrew Ng expresó su preocupación por que el mercado de la inteligencia artificial repita una situación como la de Apple y Google, que controlan los sistemas operativos móviles. Según él, si varias grandes corporaciones restringen el acceso a la tecnología, esto ralentizará la innovación y eliminará la competencia.

En opinión de Ng, la mejor solución es promover la apertura y crear un entorno competitivo entre numerosos proveedores. «La inteligencia artificial es una tecnología increíble y quiero que esté al alcance de todas las personas», afirmó. Sin embargo, las grandes empresas intentan influir en las normas que regulan la industria para conservar su ventaja competitiva.

Diferencias entre el código abierto y los pesos abiertos

Geoffrey Hinton explicó que existe una diferencia importante entre el software tradicional de código abierto y los modelos de inteligencia artificial de pesos abiertos. Mientras que en el software de código abierto es fácil detectar errores, poner a disposición del público los parámetros de una inteligencia artificial lista para usar exige una gran responsabilidad.

Hinton reconoció que antes se oponía a los pesos abiertos porque pueden facilitar su uso con fines maliciosos, como los ciberataques. Aun así, afirmó que esa batalla ya estaba perdida, que los modelos de pesos abiertos se habían convertido en una parte permanente de la industria y que habían desaparecido las barreras relacionadas con los costes de entrenamiento.

A pesar de los riesgos, Hinton cree que el desarrollo de la inteligencia artificial es beneficioso en términos generales. En su opinión, la tecnología aumenta la productividad y mejora los sistemas educativos y sanitarios. Señaló que no se debe tachar de cobardía la preocupación por el futuro de la inteligencia artificial, aunque también sería un error detener por completo el progreso.