Le PDG de Microsoft, Satya Nadella, met en garde contre les risques de l'IA

Le développement rapide des technologies d'intelligence artificielle (AI) apporte non seulement de nouvelles opportunités, mais aussi des risques imprévus. Dans une récente intervention, le PDG de Microsoft, Satya Nadella, a lancé un avertissement inattendu et franc au monde technologique. Selon lui, les entreprises utilisant les services de grands laboratoires comme OpenAI et Anthropic compromettent, sans le savoir, l'avenir de leur propre activité. C'est ce que rapporte Techcrunch.com rapporte .

Nadella souligne qu'aujourd'hui, les utilisateurs de modèles d'IA paient en réalité un « double prix ». Premièrement, ils paient directement pour les jetons (tokens) et les services d'IA, et deuxièmement, et c'est le plus important, ils confient leurs données commerciales les plus confidentielles et précieuses à ces modèles. Ces données sont utilisées pour rendre le modèle plus intelligent, ce qui permet aux grands laboratoires technologiques d'apprendre les secrets internes de leurs clients et de devenir potentiellement leurs concurrents.

L'effet « cheval de Troie » et le vol de données

Selon ixbt.com, de nombreux investisseurs et experts de la Silicon Valley comparent ces modèles à un « cheval de Troie ». Plus les entreprises chargent de données dans les modèles d'IA pour améliorer leur efficacité opérationnelle, plus ces modèles apprennent. Satya Nadella a qualifié ce processus de « fuite de propriété intellectuelle ». Selon lui, le modèle apprend des corrections, des requêtes et des outils utilisés par les agents pour s'approprier le savoir-faire unique de l'entreprise.

Cette situation est particulièrement pertinente pour les startups et les grandes entreprises des marchés émergents. Les entreprises locales, en utilisant des services d'IA mondiaux, risquent de divulguer leur base de clients, leurs plans stratégiques et leurs algorithmes internes. Nadella a décrit ce type de connaissances comme une « richesse qu'un concurrent ne pourrait jamais acheter, mais que les modèles d'IA obtiennent gratuitement ».

Distillation et question d'utilisation équitable

Le dirigeant de Microsoft a soulevé un autre problème crucial : les entreprises créatrices de modèles d'IA utilisent gratuitement les données ouvertes de tout Internet pour entraîner leurs modèles, mais n'autorisent pas les autres à étudier les leurs. Nadella considère cela comme une injustice. Selon lui, si les laboratoires utilisent des données ouvertes, les entreprises devraient également avoir le droit de créer leurs propres modèles plus petits et moins coûteux basés sur les résultats obtenus par ces modèles (distillation).

Actuellement, des entreprises comme Anthropic se plaignent que les résultats de leurs modèles soient récupérés par d'autres concurrents, notamment par des modèles open source chinois. Cependant, Nadella a qualifié les restrictions des créateurs de modèles à ce sujet d'« ironiques ». Selon lui, les géants de la technologie doivent également respecter les principes d'ouverture.

En conclusion, cette intervention de Satya Nadella témoigne du début d'une nouvelle ère de régulation sur le marché de l'IA. Les entreprises doivent désormais réfléchir sérieusement non seulement à l'utilisation des capacités de l'IA, mais aussi à la manière de protéger leur actif le plus précieux : leurs données. Sinon, l'assistant d'aujourd'hui pourrait facilement devenir le concurrent le plus redoutable de demain.