Le patron de Google DeepMind propose la création d'un organisme indépendant pour réguler l'intelligence artificielle

Le PDG de Google DeepMind, Demis Hassabis, a pris l'initiative de créer un nouvel organisme international de normalisation afin de réguler les modèles les plus avancés dans le domaine de l'intelligence artificielle (AI) et d'assurer leur sécurité. Cette proposition fait grand bruit dans le monde de la technologie, car elle ne vise pas à limiter le développement de l'AI, mais à le gérer de manière responsable. C'est ce que rapporte Techcrunch.com rapporte .

Dans un article intitulé « Un cadre pour l'AI de pointe et le début d'une nouvelle ère », publié sur son compte X, Hassabis a proposé d'introduire un système similaire au modèle de la FINRA (Financial Industry Regulatory Authority) dans le système financier américain. Selon lui, un tel organisme devrait tester les nouveaux modèles avant leur mise sur le marché et élaborer les meilleures pratiques pour leur déploiement.

Comment fonctionnerait le nouveau mécanisme de contrôle ?

Selon le système proposé, des laboratoires de premier plan comme Google, OpenAI et Anthropic soumettraient volontairement leurs modèles les plus puissants à cet organisme de normalisation pour examen 30 jours avant leur présentation au public. Si le protocole d'évaluation prouve son efficacité, ce processus pourrait devenir obligatoire à l'avenir et devenir une condition essentielle pour le déploiement de modèles d'AI sur le marché américain.

Hassabis souligne que cet organisme travaillerait en collaboration avec les laboratoires non seulement pour des vérifications avant publication, mais aussi pour remédier aux vulnérabilités critiques identifiées après le lancement des modèles. Il s'agit d'une approche bien plus complète que les contrôles ad hoc actuellement effectués par le gouvernement américain sur les modèles d'Anthropic et d'OpenAI.

Selon ixbt.com, les contrôles gouvernementaux actuels sont vivement critiqués en raison d'un manque d'expertise technique et du manque de transparence dans le processus décisionnel. L'organisation proposée, quant à elle, serait soutenue par le gouvernement, mais financée directement par l'industrie de l'AI et fonctionnerait de manière indépendante.

Équilibre entre industrie et gouvernement

La question de la régulation du secteur de l'AI reste un sujet controversé entre les géants de la technologie et la nouvelle administration américaine. Récemment, Sriram Krishnan, conseiller en AI à la Maison Blanche, a déclaré qu'aucune agence de contrôle distincte pour l'AI (comme la FDA) ne serait créée au sein du pouvoir exécutif. Le modèle d'organisation autorégulée proposé par Hassabis pourrait correspondre à ces vues politiques.

Demis Hassabis imagine que les spécialistes suivants travailleraient au sein de cet organisme :

• Représentants du logiciel open-source ;
• Experts techniques hautement qualifiés de l'industrie ;
• Groupes indépendants spécialisés dans la sécurité de l'AI.

« La force de cette approche est qu'en plus d'être techniquement solide, elle soutient l'innovation et encourage les comportements responsables », écrit le patron de DeepMind. Selon lui, le système est flexible face aux changements rapides du secteur et permet de renforcer les mesures de contrôle à mesure que le niveau de risque augmente.

Si cette initiative se concrétise, elle pourrait devenir la première norme réelle et efficace en matière de sécurité de l'intelligence artificielle à l'échelle mondiale. Cela garantira la fiabilité des systèmes d'AI non seulement pour les entreprises technologiques, mais aussi pour les utilisateurs ordinaires.