OpenAI suspend temporairement le projet Astra pour des raisons de sécurité

OpenAI a temporairement suspendu le développement de son nouveau modèle Astra afin de garantir la sécurité de l’intelligence artificielle. Selon ixbt.com, les spécialistes de l’entreprise craignent que ce système puisse dépasser le niveau de risque maximal prédéfini dans le domaine de la cybersécurité et ont donc ralenti les tests internes pour une période indéterminée. Ixbt.com rapporte cette information.

Cette décision, prise le 7 août de cette année, repose sur les exigences du système interne d’évaluation des risques Preparedness Framework d’OpenAI. Il a été établi que le modèle Astra, qui n’a pas encore été présenté au public, avait considérablement progressé dans la programmation agentique et la cybersécurité. Les spécialistes ont constaté que ses capacités s’étaient étendues de manière inattendue.

Le seuil « Critical » en cybersécurité

Selon la classification interne de l’entreprise, le niveau « Critical » désigne la capacité d’une intelligence artificielle à fonctionner de manière autonome, sans assistance humaine. Les modèles atteignant ce niveau pourraient créer des exploits visant des vulnérabilités inconnues ou lancer directement des cyberattaques contre des systèmes réels protégés, à partir d’une tâche de haut niveau. Les modèles de génération précédente, notamment GPT-5.6-Sol, avaient été évalués au niveau « High », inférieur à celui-ci.

Selon Axios, les travaux sur Astra ont été temporairement gelés jusqu’à la mise en place de mécanismes de protection supplémentaires. Pour l’instant, la date de sortie du modèle, voire sa présentation au public, reste inconnue. Bien qu’OpenAI n’ait pas divulgué les résultats détaillés des tests ni l’ensemble des tâches utilisées, l’entreprise affirme que les essais se poursuivront.

De nouvelles exigences pour les systèmes agentiques

Pour les systèmes d’intelligence artificielle modernes, il est important d’évaluer non seulement leur capacité à écrire du code ou à expliquer des erreurs, mais aussi leur comportement lorsqu’ils interagissent avec des outils réels. Le risque apparaît généralement lorsque la recherche de vulnérabilités, la création d’exploits et l’accès aux systèmes se combinent. C’est pourquoi OpenAI applique des exigences de sécurité strictes non seulement au modèle lui-même, mais aussi aux processus de création et d’utilisation pratique.

Cette situation illustre clairement l’importance déterminante de la sécurité dans le développement de technologies d’intelligence artificielle qui ne sont pas encore commercialisées. Bien que les informations disponibles ne suffisent pas à confirmer indépendamment qu’Astra a réellement atteint le seuil « Critical », OpenAI prend des mesures préventives, car l’entreprise ne peut exclure cette possibilité. Elle ne déterminera la suite qu’après avoir renforcé les mesures de sécurité.