L’alliance OSAA dirigée par Nvidia présente ses premiers résultats en matière de sécurité de l’intelligence artificielle

Le groupe industriel Open Secure AI Alliance (OSAA), créé sous la direction de Nvidia, a réalisé des progrès significatifs en seulement une semaine et réuni plus de 120 entreprises. Selon ixbt.com, un groupe de travail spécial baptisé Shared AI Findings Exchange (SAFE) a été créé au sein de la nouvelle alliance, et ses premières propositions ont été soumises à discussion. Techcrunch.com en fait état .

Cette initiative a été annoncée dans le cadre de la prestigieuse conférence de cybersécurité Black Hat, qui se tient actuellement à Las Vegas. Même si les guides et règles proposés ne sont pas encore véritablement révolutionnaires, ils prévoient des mécanismes permettant de signaler confidentiellement les incidents de sécurité liés à l’intelligence artificielle, d’avertir les victimes et d’analyser les erreurs sans chercher de coupable afin d’en tirer des enseignements.

Technologies open source et contributions des entreprises leaders

Les membres de l’alliance ajoutent à une base commune des composants liés à leurs technologies open source et l’enrichissent activement. À l’avenir, ces efforts pourraient fournir aux entreprises un outil open source unifié pour protéger leurs agents d’intelligence artificielle ou résister aux attaques malveillantes. Par exemple, la plateforme Hugging Face, membre de ce groupe, avait déjà été infiltrée par un modèle d’intelligence artificielle.

Aujourd’hui, l’OSAA compte parmi ses membres les plus grandes marques et entreprises technologiques mondiales :

• Nvidia — avec une famille de modèles ouverts et Garak, un outil d’analyse des vulnérabilités des LLM ;
• Okta — travaille sur les technologies d’identification des agents ;
• Red Hat — développe le domaine de la gouvernance des agents ;
• Amazon — a présenté Strands Agents, un outil open source de création d’agents, ainsi que le langage d’autorisation Cedar.

Participants renommés et absences remarquables

De grands groupes comme Adobe, BlackRock, Cisco, Intel, Microsoft et Visa ont également rejoint l’alliance. Toutefois, l’absence actuelle de sociétés comme Anthropic, OpenAI et Google au sein de ce groupe attire l’attention. Fait intéressant, OpenAI et Google avaient auparavant signé une lettre ouverte demandant à la Maison-Blanche de soutenir les initiatives d’intelligence artificielle open source.

Cette lettre, lancée par Nvidia et signée par plus de 200 entreprises technologiques, est apparue alors que les États-Unis débattaient de la possibilité d’interdire les modèles à poids ouverts chinois. Selon les experts du secteur, l’action rapide de ces acteurs majeurs est le meilleur moyen de protéger l’écosystème américain de l’intelligence artificielle ouverte contre toute menace extérieure.