Les modèles d’IA à poids ouverts rattrapent les leaders

Alors que les capacités des modèles leaders dans le domaine de l’intelligence artificielle progressent rapidement, les systèmes à poids ouverts ne sont pas en reste. Le modèle d’intelligence artificielle à poids ouverts GLM-5.2, présenté par l’entreprise chinoise Z.ai, accuse un retard de seulement quelques mois sur les avancées de pointe d’OpenAI et Anthropic dans les domaines de la cybersécurité et de la biologie, rapporte ixbt.com. Techcrunch.com en informe.

Selon un rapport de l’organisation de sécurité à but non lucratif SaferAI, les modèles à poids ouverts de dernière génération se rapprochent rapidement du niveau des systèmes leaders. Cependant, à mesure que les capacités technologiques progressent, l’écart entre les pratiques de sécurité et les risques potentiels ne cesse également de se creuser. Les experts soulignent que cette situation exige de repenser les mécanismes de gestion des nouveaux risques auxquels la société est confrontée.

Des écarts marqués dans les restrictions de sécurité

Selon les évaluations menées par l’organisation via l’API ouverte de Z.ai, le modèle GLM-5.2 n’a refusé aucune des requêtes portant sur des cyberattaques ou des tâches biologiques à double usage. À titre de comparaison, le modèle Claude Opus 4.7 d’Anthropic n’a pas pu mener à terme le test CyberGym d’évaluation de la cybersécurité, car il respectait strictement les règles de sécurité. Cela montre une nouvelle fois que les critiques qui s’inquiètent d’une possible perte de contrôle des modèles à poids ouverts ne sont pas sans fondement.

La principale caractéristique des modèles à poids ouverts est que n’importe qui peut les télécharger sur son appareil et les exécuter sur n’importe quelle infrastructure. Dans ce cas, il est impossible d’instaurer une police ou un contrôle centralisé du système. Les utilisateurs peuvent facilement supprimer, modifier ou reconfigurer tous les mécanismes de protection des modèles sur leur propre matériel.

Vulnérabilités des systèmes fermés et ouverts

Les fabricants de systèmes fermés comme OpenAI et Anthropic utilisent des classificateurs spécialisés et des contrôles au niveau de l’API pour limiter l’assistance cyber dangereuse ou les instructions biologiques. Toutefois, ces mesures ne sont pas parfaites non plus. L’organisation de sécurité Far.ai a identifié des centaines de méthodes universelles de « jailbreak » dans des modèles avancés comme Grok 4.5 de xAI et Gemini 3.1 Pro de Google DeepMind. Ces méthodes, qui combinent jeux de rôle et faux historiques de conversation, permettent de contourner les points faibles des modèles.

Malgré cela, les mesures de protection appliquées aux modèles fermés sont totalement inefficaces face aux systèmes à poids ouverts. En effet, les modèles ouverts sont conçus dès le départ pour fonctionner sans aucune restriction ou avec des règles de sécurité modifiées. Selon Henry Papadatos, directeur exécutif de SaferAI, l’objectif principal doit être de rendre les capacités utiles et sûres accessibles à tous, tout en s’efforçant d’éliminer les fonctions nuisibles dans une approche open source.