El jefe de Google DeepMind pide una supervisión internacional de la IA

El director de Google DeepMind, Demis Hassabis, ha instado a la comunidad mundial a crear una organización independiente que pruebe y evalúe los modelos de IA más potentes antes de su lanzamiento público. En su opinión, dicha estructura es vital para garantizar la seguridad global y debería tener la autoridad para limitar temporalmente la difusión de tecnologías peligrosas si fuera necesario. Así lo informa Ixbt.com informa .

En su artículo titulado "A Framework for Frontier AI and the Dawning of a New Age", Hassabis subrayó que no se puede posponer más la elaboración de normas globales para los sistemas de IA avanzados. El organismo de control internacional que propone debería actuar como un grupo de expertos independientes para verificar la seguridad de los modelos más complejos para la sociedad. Esta iniciativa surge en un momento de creciente preocupación en el mundo tecnológico por la posibilidad de que el desarrollo de la IA se salga de control.

Un nuevo orden liderado por EE. UU.

Según el jefe de DeepMind, EE. UU. debería tomar la iniciativa en la creación de esta estructura internacional. La posición de liderazgo del país en el mercado tecnológico y su enorme potencial en el campo de la IA le imponen tal responsabilidad. Se prevé que el organismo propuesto incluya a expertos en seguridad de la IA, representantes de la comunidad científica y desarrolladores de software de código abierto.

Según Axios, Hassabis lleva meses discutiendo esta iniciativa con la administración estadounidense, funcionarios europeos y otros grandes laboratorios de IA. Espera que la nueva organización comience a funcionar a finales de este año. Sin embargo, todavía no existe un marco legal único ni un formato acordado para dicho regulador, ni a nivel internacional ni en los propios EE. UU.

En el umbral de la inteligencia artificial general (AGI)

Hassabis advirtió que la humanidad se acerca al nivel de la inteligencia artificial general (AGI). Se trata de un sistema capaz de realizar casi cualquier tarea intelectual que un ser humano pueda hacer, a un nivel igual o superior. Tal salto tecnológico traerá inevitablemente cambios fundamentales en la economía y la sociedad, por lo que es imperativo crear mecanismos de control desde ahora.

Asimismo, el jefe de Google DeepMind señaló el riesgo de utilizar los sistemas de IA para crear armas biológicas. Anteriormente, junto con otros líderes de gigantes tecnológicos, había pedido reforzar la protección en este ámbito. Al mismo tiempo, los expertos recuerdan la necesidad de prepararse para los cambios previstos en el mercado laboral.

Por ahora, la creación de un organismo de control global sigue siendo una tarea compleja. Los distintos países evalúan los riesgos de la IA de forma diferente, y las grandes empresas, aunque abogan por la regulación, siguen desarrollando sus modelos en una carrera constante. La propuesta de Hassabis plantea la pregunta crucial de quién debe definir los límites permitidos para los sistemas de IA más potentes y cómo.