Arcee : les modèles d'IA open-source chinois ne constituent pas une menace pour la sécurité

Les experts du laboratoire américain Arcee estiment que les inquiétudes concernant la sécurité des modèles d'IA open-source développés en Chine sont infondées. Récemment, les modèles présentés par des entreprises chinoises comme Moonshot AI et Alibaba gagnent en popularité sur le marché mondial grâce à leur efficacité et leur coût réduit, ce qui a suscité divers débats parmi les géants technologiques occidentaux. C'est ce que rapporte Techcrunch.com rapporte .

Alors que l'administration américaine envisage d'interdire les produits des développeurs chinois, les créateurs de modèles fermés comme OpenAI et Anthropic s'inquiètent de la concurrence. En particulier, des modèles comme Kimi K3 et Qwen se distinguent par des services de traitement de données beaucoup moins coûteux. Cela pourrait avoir un impact significatif sur les marges bénéficiaires des grandes entreprises.

Selon Lucas Atkins, directeur technique d'Arcee, les modèles open-weight chinois ne sont pas plus dangereux que tout autre logiciel open-source. Atkins souligne que les entreprises utilisant ces modèles n'ont pas à craindre les attaques de hackers chinois, car le principe de fonctionnement des réseaux de neurones diffère des logiciels traditionnels.

Sécurité technique et capacités de contrôle

Beaucoup perçoivent ces modèles comme du code malveillant, mais le processus d'entraînement de l'IA est totalement différent. Les experts d'Arcee expliquent que si une entreprise télécharge le modèle et l'exécute sur ses propres serveurs (data centers), le créateur du modèle (par exemple, Alibaba) n'a aucun accès à cet environnement ni possibilité de voler des données.

Le code de fonctionnement des modèles open-weight hébergés sur des plateformes comme Hugging Face est transparent et peut être audité. Bien que les méthodes et les ensembles de données utilisés pour entraîner les modèles restent secrets, la partie exécutée sur le serveur peut être entièrement contrôlée par des experts. Cela permet de mettre en œuvre des mesures de sécurité de manière indépendante.

Les grandes organisations doivent soumettre tout modèle à des tests de sécurité avant sa mise en œuvre, en vérifiant des aspects tels que les biais et les hallucinations. De plus, il est possible d'accroître la fiabilité des modèles en les soumettant à un entraînement supplémentaire (post-training) adapté à leurs besoins spécifiques.

Il est intéressant de noter qu'Arcee propose en réalité des produits américains locaux comme alternative aux modèles chinois. Néanmoins, ils évitent d'accuser injustement leurs concurrents et montrent qu'ils sont partisans de l'ouverture technologique. Une telle approche favorise une concurrence saine et l'innovation sur le marché mondial de l'IA.