OpenAI présente son nouveau modèle Sol : la sécurité de l'IA remise en question

OpenAI, leader dans le domaine de l'IA, a commencé à déployer son nouveau développement avancé : le modèle Sol. Il est dit que les capacités de ce nouveau modèle sont comparables au système Fable d'Anthropic. Il est à noter que Fable avait été temporairement interdit par le gouvernement américain pour des raisons de sécurité. Cependant, la rapidité avec laquelle le modèle Sol a obtenu son autorisation soulève de nombreuses questions. C'est ce que rapporte Techcrunch.com rapporte .

Actuellement, dans le monde technologique et les cercles politiques, il n'existe aucune information précise sur qui a vérifié la sécurité de ce modèle et sur la base de quels critères. Selon TechCrunch, même les experts du secteur ne comprennent pas comment fonctionne le processus de licence gouvernemental. Mina Narayanan, analyste à l'université de Georgetown, a souligné que ces processus manquent de transparence et qu'il est difficile de dire si les mesures de sécurité justifiant la mise sur le marché du modèle sont suffisantes.

Incertitudes dans les mécanismes de contrôle

Bien que l'administration du président américain ait publié une feuille de route pour la régulation de l'IA, des exigences précises n'ont pas encore été élaborées. Selon Dean W. Ball, ancien conseiller politique chez OpenAI, personne ne sait aujourd'hui quelles sont les exigences pour obtenir une licence. Cela témoigne de lacunes sérieuses en matière de sécurité de l'IA.

Les représentants du gouvernement ont indiqué qu'ils ne créeraient pas une agence stricte pour l'IA, similaire à la FDA pour les aliments et les médicaments. Pour l'instant, la responsabilité incombe au Centre pour les normes et l'innovation en IA du département du Commerce des États-Unis. Cependant, il est prévu que six ministères différents définissent le processus de contrôle final d'ici août.

Relations politiques et conflits d'intérêts

Sam Altman, PDG d'OpenAI, a confirmé dans une interview sur CNBC avoir discuté avec des responsables de haut rang, comme le secrétaire au Commerce et le secrétaire au Trésor, avant de lancer le modèle. Mais la nature des tests techniques effectués lors de ces échanges reste secrète. Dans son rapport de sécurité, l'entreprise s'appuie sur les audits d'organisations externes telles que UK AISI et SecureBio.

Les observateurs estiment que les liens étroits entre la direction d'OpenAI et les représentants du gouvernement, ainsi que les dons aux campagnes politiques, pourraient expliquer une attitude plus clémente envers le modèle Sol. Notamment, le président de l'entreprise, Greg Brockman, a été identifié comme l'un des plus grands donateurs lors des processus électoraux.

Pour les utilisateurs en Ouzbékistan, ces nouvelles sont également importantes. Alors que ChatGPT et d'autres produits OpenAI sont largement utilisés dans notre pays, le niveau de sécurité de ces modèles et leurs principes de traitement des données affectent directement la sécurité numérique mondiale. La popularisation du modèle Sol devrait porter les capacités de l'IA à un nouveau niveau, mais la question de son contrôle reste ouverte.