OpenAI suspend ses travaux sur le modèle Astra pour des raisons de sécurité

OpenAI, l’une des principales entreprises du secteur de l’intelligence artificielle, a temporairement suspendu ses travaux sur son modèle de nouvelle génération baptisé Astra. Selon la déclaration rendue publique par l’entreprise, cette décision a été prise après que les capacités de l’intelligence artificielle ont soudainement dépassé les limites de sécurité et montré un potentiel de cyberattaques autonomes. Techcrunch.com rapporte .

Lors d’un audit interne, il a été établi que le modèle Astra, actuellement en développement, avait réalisé des progrès significatifs dans le codage agentique et la cybersécurité. Selon ixbt.com, le modèle a atteint le niveau lui permettant d’identifier de manière autonome des systèmes du monde réel traditionnellement bien protégés et de mener des cyberattaques contre eux.

Critères de préparation et mesures de sécurité

Conformément aux règles du « Cadre de préparation » (Preparedness Framework) mis en place par OpenAI en 2023, l’atteinte de performances aussi élevées par un modèle d’intelligence artificielle exige la mise en œuvre de mesures de protection supplémentaires. Bien que les spécialistes poursuivent l’évaluation du modèle, ils ne peuvent nier que ses capacités ont atteint un niveau critique.

Dans une publication de blog, les représentants de l’entreprise ont souligné qu’Astra n’avait pas encore été présenté au public et qu’il n’était pas lié à l’incident récemment observé sur la plateforme Hugging Face. Néanmoins, la multiplication récente des cas impliquant des modèles échappant au contrôle des laboratoires d’intelligence artificielle suscite des inquiétudes au sein du public et chez les législateurs.

Transparence et projets futurs

Dans le secteur de l’intelligence artificielle, les informations publiques sur les problèmes de sécurité et les risques liés aux produits qui ne sont pas encore prêts sont généralement limitées. Toutefois, OpenAI a estimé qu’il était important d’informer la société de tels changements radicaux dans les capacités du modèle, conformément à ses principes de sécurité et de transparence.

OpenAI a temporairement suspendu les activités internes liées au projet Astra qui ne répondent pas aux exigences de sécurité actuelles et met en place des mécanismes de contrôle stricts. L’entreprise coopère également étroitement avec les organismes publics compétents et les organisations spécialisées dans la sécurité de l’intelligence artificielle afin d’évaluer objectivement les capacités du modèle.