Sécurité de l’intelligence artificielle : les experts défendent les modèles open source

Lors de la conférence Ai4, organisée à Las Vegas, des experts de premier plan du domaine de l’intelligence artificielle, dont le lauréat du prix Nobel Geoffrey Hinton, la directrice générale de World Labs Fei-Fei Li et le cofondateur de Coursera Andrew Ng, ont discuté de la nécessité de maintenir les modèles d’intelligence artificielle ouverts. Alors que les inquiétudes concernant les modèles open source et à poids ouverts prennent de l’ampleur dans l’industrie technologique moderne, ces chercheurs ont souligné l’importance de préserver les progrès technologiques d’une monopolisation par quelques grandes entreprises. Techcrunch.com rapporte .

Aujourd’hui, les grands laboratoires considèrent les modèles à poids ouverts comme dangereux, car ils sont distribués librement et leur utilisation est difficile à contrôler. Pourtant, selon ixbt.com, les trois experts intervenus lors de la conférence de Las Vegas ont fermement affirmé leur soutien à une intelligence artificielle ouverte. Ils ont souligné la nécessité d’empêcher l’apparition de gardiens uniques capables de limiter le développement technologique.

Le risque de monopole et un environnement concurrentiel

Lors de son intervention, Andrew Ng s’est inquiété de voir le marché de l’intelligence artificielle reproduire une situation dans laquelle Apple et Google contrôlent les systèmes d’exploitation mobiles. Selon lui, si quelques grandes entreprises limitent l’accès à la technologie, cela ralentira l’innovation et fera disparaître la concurrence.

Selon Ng, la meilleure solution consiste à promouvoir l’ouverture et à créer un environnement concurrentiel entre de nombreux fournisseurs. « L’intelligence artificielle est une technologie formidable et je veux qu’elle soit accessible à chaque personne », a-t-il déclaré. Cependant, les grandes entreprises cherchent à influencer les règles qui régissent l’industrie afin de préserver leur avantage concurrentiel.

La différence entre le code ouvert et les poids ouverts

Geoffrey Hinton a expliqué qu’il existe une différence importante entre les logiciels open source traditionnels et les modèles d’intelligence artificielle à poids ouverts. Alors que les erreurs sont faciles à repérer dans les logiciels open source, la mise à disposition du public des paramètres d’une intelligence artificielle prête à l’emploi exige une grande responsabilité.

Hinton a reconnu s’être auparavant opposé aux poids ouverts, car ils peuvent faciliter leur utilisation à des fins malveillantes, comme les cyberattaques. Il a néanmoins souligné que cette bataille était déjà perdue, que les modèles à poids ouverts étaient devenus une composante permanente de l’industrie et que les obstacles liés aux coûts d’entraînement avaient disparu.

Malgré les risques, Hinton estime que le développement de l’intelligence artificielle est globalement bénéfique. Selon lui, cette technologie accroît la productivité et améliore les systèmes éducatifs et de santé. Il a souligné qu’il ne fallait pas qualifier de lâcheté les inquiétudes concernant l’avenir de l’intelligence artificielle, mais qu’il serait également erroné d’arrêter complètement les progrès.