El jefe de Google DeepMind propone crear un organismo independiente para regular la inteligencia artificial

El CEO de Google DeepMind, Demis Hassabis, ha tomado la iniciativa de crear un nuevo organismo internacional de normalización con el fin de regular los modelos más avanzados en el campo de la inteligencia artificial (AI) y garantizar su seguridad. Esta propuesta está causando un gran revuelo en el mundo tecnológico, ya que no pretende limitar el desarrollo de la AI, sino gestionarlo de forma responsable. Así lo informa Techcrunch.com informa .

En un artículo titulado "Un marco para la AI de frontera y el comienzo de una nueva era", publicado en su cuenta de X, Hassabis propuso introducir un sistema similar al modelo de la FINRA (Autoridad Reguladora de la Industria Financiera) del sistema financiero estadounidense. En su opinión, dicho organismo debería probar los nuevos modelos antes de lanzarlos al mercado y desarrollar las mejores prácticas para su publicación.

¿Cómo funcionaría el nuevo mecanismo de control?

Según el sistema propuesto, laboratorios líderes como Google, OpenAI y Anthropic enviarían voluntariamente sus modelos más potentes a este organismo de normalización para su revisión 30 días antes de presentarlos al público. Si el protocolo de evaluación demuestra su eficacia, este proceso podría volverse obligatorio en el futuro y convertirse en un requisito esencial para desplegar modelos de AI en el mercado estadounidense.

Hassabis enfatiza que este organismo trabajaría en colaboración con los laboratorios no solo en revisiones previas al lanzamiento, sino también en la resolución de vulnerabilidades críticas identificadas después de poner en marcha los modelos. Este es un enfoque mucho más completo que las revisiones ad hoc que el gobierno de EE. UU. realiza actualmente sobre los modelos de Anthropic y OpenAI.

Según ixbt.com, las revisiones gubernamentales actuales son duramente criticadas debido a la falta de experiencia técnica y a la falta de transparencia en el proceso de toma de decisiones. La organización propuesta, por su parte, contaría con el apoyo del gobierno, pero sería financiada directamente por la industria de la AI y operaría de forma independiente.

Equilibrio entre industria y gobierno

La cuestión de la regulación del sector de la AI sigue siendo un tema controvertido entre los gigantes tecnológicos y la nueva administración estadounidense. Recientemente, Sriram Krishnan, asesor de AI de la Casa Blanca, declaró que no se crearía una agencia de control separada para la AI (como la FDA) dentro del poder ejecutivo. El modelo de organización autorregulada que propone Hassabis podría encajar con estas visiones políticas.

Demis Hassabis imagina que los siguientes especialistas trabajarían en este organismo:

• Representantes de software de código abierto (open-source);
• Expertos técnicos altamente cualificados dentro de la industria;
• Grupos independientes especializados en seguridad de la AI.

"La fuerza de este enfoque es que, además de ser técnicamente sólido, apoya la innovación y fomenta comportamientos responsables", escribe el jefe de DeepMind. Según él, el sistema es flexible ante los rápidos cambios del sector y permite reforzar las medidas de control a medida que aumenta el nivel de riesgo.

Si esta iniciativa se lleva a cabo, podría convertirse en el primer estándar real y eficaz de seguridad de la inteligencia artificial a nivel mundial. Esto garantizaría la fiabilidad de los sistemas de AI no solo para las empresas tecnológicas, sino también para los usuarios comunes.