Le patron de Google DeepMind appelle à une surveillance internationale de l'IA

Le patron de Google DeepMind, Demis Hassabis, a appelé la communauté internationale à créer une organisation indépendante chargée de tester et d'évaluer les modèles d'IA les plus puissants avant leur mise sur le marché. Selon lui, une telle structure est cruciale pour assurer la sécurité mondiale et devrait avoir le pouvoir de limiter temporairement la diffusion de technologies dangereuses si nécessaire. C'est ce que rapporte Ixbt.com rapporte .

Dans son article intitulé "A Framework for Frontier AI and the Dawning of a New Age", Hassabis a souligné qu'il n'est plus possible de retarder l'élaboration de règles mondiales pour les systèmes d'IA avancés. L'organe de contrôle international qu'il propose devrait agir en tant que groupe d'experts indépendants pour vérifier la sécurité des modèles les plus complexes pour la société. Cette initiative intervient alors que les inquiétudes concernant une perte de contrôle sur le développement de l'IA s'intensifient dans le monde technologique.

Un nouvel ordre dirigé par les États-Unis

Selon le patron de DeepMind, les États-Unis devraient prendre l'initiative de créer cette structure internationale. La position de leader du pays sur le marché technologique et son énorme potentiel dans le domaine de l'IA lui confèrent une telle responsabilité. L'organe proposé devrait inclure des experts en sécurité de l'IA, des représentants du monde scientifique et des développeurs de logiciels open source.

Selon Axios, Hassabis discute de cette initiative depuis plusieurs mois avec l'administration américaine, des responsables européens et d'autres grands laboratoires d'IA. Il espère que la nouvelle organisation sera opérationnelle d'ici la fin de l'année. Cependant, il n'existe actuellement ni cadre juridique unique ni format convenu pour un tel régulateur, que ce soit à l'échelle internationale ou aux États-Unis.

À l'aube de l'intelligence artificielle générale (AGI)

Hassabis a averti que l'humanité se rapproche du niveau de l'intelligence artificielle générale (AGI). Il s'agit d'un système capable d'effectuer presque toutes les tâches intellectuelles qu'un humain peut accomplir, à un niveau égal ou supérieur. Un tel saut technologique entraînera inévitablement des changements fondamentaux dans l'économie et la société, c'est pourquoi il est impératif de créer des mécanismes de contrôle dès maintenant.

Le patron de Google DeepMind a également souligné le risque d'utiliser les systèmes d'IA pour créer des armes biologiques. Auparavant, il avait déjà appelé, avec d'autres dirigeants de géants technologiques, à renforcer la protection dans ce domaine. Parallèlement, les experts rappellent la nécessité de se préparer aux changements attendus sur le marché du travail.

Pour l'instant, la création d'un organe de contrôle mondial reste une tâche complexe. Différents pays évaluent les risques de l'IA de manières divergentes, et les grandes entreprises, tout en prônant une régulation, continuent de développer leurs modèles dans une course effrénée. La proposition de Hassabis soulève en réalité la question cruciale de savoir qui doit définir les limites autorisées pour les systèmes d'IA les plus puissants et comment.