Le patron d'Anthropic réagit aux modèles d'intelligence artificielle à poids ouverts

Dario Amodei, cofondateur et PDG d'Anthropic, l'une des principales entreprises du secteur de l'intelligence artificielle, a déclaré qu'il n'était pas favorable à l'interdiction des modèles d'intelligence artificielle à poids ouverts. Selon lui, l'entreprise n'a jamais soutenu de telles restrictions et les rumeurs à ce sujet sont infondées. Cette déclaration intervient alors que des débats animés font rage entre les acteurs de l'industrie et les géants de la technologie concernant l'avenir des technologies open source, rapporte Techcrunch.com. rapporte .

Selon ixbt.com, cette réaction fait suite à une lettre ouverte publiée sur le réseau social X par Jensen Huang, cofondateur et PDG de Nvidia. Dans cette lettre, Nvidia ainsi que plusieurs autres entreprises de premier plan telles que Meta, Microsoft, Mistral et Hugging Face ont exhorté les décideurs politiques à ne pas imposer de restrictions hâtives sur les modèles d'intelligence artificielle à poids ouverts. Bien que la Chine n'y soit pas directement mentionnée, les principaux débats tournent autour des allégations selon lesquelles les laboratoires chinois élargissent leurs capacités en volant de la propriété intellectuelle.

Les risques de l'intelligence artificielle en provenance de Chine

Dans son article de blog, Dario Amodei a abordé la question de la sécurité en insistant sur la nécessité de distinguer les modèles à poids ouverts des menaces émanant de la Chine. Il a noté qu'il considère les modèles à poids ouverts dépourvus de capacités dangereuses comme bénéfiques pour la société, car ils apportent une aide considérable aux chercheurs et aux développeurs. Cependant, sa principale préoccupation réside dans les efforts des gouvernements autoritaires, en particulier le Parti communiste chinois, pour créer des systèmes encore plus puissants que ceux des États-Unis et obtenir une supériorité militaire permanente.

Le patron d'Anthropic a également exprimé son inquiétude face à l'intensification des attaques biologiques et des menaces de cybersécurité. Selon lui, les modèles à poids ouverts sont plus dangereux dans de tels scénarios, car il est extrêmement difficile de contrôler leur utilisation ou d'imposer des restrictions à leur encontre. S'appuyant sur un rapport de l'Institut britannique de sécurité de l'intelligence artificielle, il a rappelé qu'une fois les codes à poids ouverts diffusés, il est impossible de faire machine arrière.

Experts et mesures futures

Les partisans de l'open source affirment que l'accès à des modèles puissants, affranchi d'un contrôle unique, aide les défenseurs à garantir la sécurité. Cependant, en réponse, Amodei a proposé des mesures concrètes pour contrer la domination de la Chine dans le domaine de l'intelligence artificielle. Selon lui, il est nécessaire de limiter l'accès de la Chine aux chips puissants et de prendre des mesures officielles contre les processus de distillation afin de prévenir le vol de propriété intellectuelle.

À titre d'information, le gouvernement américain avertit qu'il pourrait imposer des sanctions à l'encontre de la Chine s'il est avéré que la propriété intellectuelle d'entreprises américaines a été volée. Par conséquent, la question du maintien de l'équilibre entre la liberté d'innovation et la sécurité nationale reste aujourd'hui au cœur des préoccupations sur le marché technologique.