Contra el monopolio de la inteligencia artificial: el manifiesto de Mark Zuckerberg

El director de Meta, Mark Zuckerberg, publicó un nuevo manifiesto en el que se opone a que el control de las futuras tecnologías de inteligencia artificial se concentre en manos de unas pocas grandes entidades o gobiernos. Según ixbt.com, el documento afirma firmemente que la empresa defiende la apertura en el ámbito de la inteligencia artificial, promueve la distribución libre de modelos de inteligencia artificial y anuncia la creación de un fondo especial de mil millones de dólares. Al respecto, Ixbt.com informa .

El manifiesto, titulado «El futuro es de todos: el camino hacia un futuro positivo de la inteligencia artificial», establece tres principios fundamentales para desarrollar tecnologías de inteligencia artificial general (AGI), que se espera que superen la inteligencia humana. Estos principios son ampliar las capacidades de cada persona, convertir la inventiva en el objetivo principal y mantener el equilibrio de poderes como garantía de seguridad. Zuckerberg señaló que los usuarios no deberían someterse a restricciones centralizadas, sino asumir ellos mismos la responsabilidad de sus actos.

Medidas de seguridad y libertad de los modelos

El director de la empresa defendió la destilación de modelos, un proceso que consiste en entrenar redes neuronales más pequeñas a partir de las respuestas de algoritmos grandes y potentes. En su opinión, los desarrolladores deben tener derecho a adquirir conocimientos a partir de resultados observables. Para supervisar la seguridad, Meta incorporó a su consejo de administración al sistema de aprobación de lanzamientos. A partir de ahora, las decisiones sobre la publicación de los pesos de los modelos se tomarán conforme a criterios aprobados por el consejo.

Al abordar también la cuestión de la regulación estatal, el director de la empresa pidió establecer una cooperación temprana y activa entre los laboratorios de inteligencia artificial y los gobiernos, en lugar de controles burocráticos con plazos estrictos. Meta anunció que reanudará la publicación de modelos de código abierto y que destinará mil millones de dólares al fondo «El futuro es de todos» para apoyar a las comunidades cercanas a los centros de datos de la empresa.

Debates en internet y conflicto de enfoques

La publicación provocó numerosos debates en internet y en medios especializados. 404 Media y Gizmodo señalaron que el concepto de distribución libre de modelos no respondía suficientemente a los riesgos de uso indebido de agentes autónomos y afirmaron que esta medida serviría para proteger el modelo de negocio de Meta basado en la distribución de pesos abiertos.

El acceso abierto a los pesos de las redes neuronales amplía las posibilidades de ejecución local, ajuste y auditoría independiente por parte de especialistas. Sin embargo, mantener abiertos para todos los parámetros iniciales dificulta retirar funciones peligrosas y controlar su uso una vez que la tecnología se carga en el dispositivo del usuario. El manifiesto publicado mostró claramente el conflicto directo entre los ecosistemas cerrados con un control fuertemente centralizado y el modelo abierto, que traslada la responsabilidad al usuario final.