OpenAI suspende temporalmente el proyecto Astra por motivos de seguridad

OpenAI ha suspendido temporalmente el desarrollo de su nuevo modelo Astra para garantizar la seguridad de la inteligencia artificial. Según ixbt.com, los especialistas de la empresa temen que este sistema pueda superar el nivel máximo de riesgo definido previamente en el ámbito de la ciberseguridad y, por ello, han ralentizado las pruebas internas durante un periodo indeterminado. Ixbt.com informa de ello.

Esta decisión, adoptada el 7 de agosto de este año, se basa en los requisitos del sistema interno de evaluación de riesgos Preparedness Framework de OpenAI. Se ha determinado que el modelo Astra, que aún no se ha presentado al público, ha avanzado considerablemente en programación agéntica y ciberseguridad. Los especialistas señalaron que sus capacidades se habían ampliado de forma inesperada.

El umbral «Critical» en ciberseguridad

Según la clasificación interna de la empresa, el nivel «Critical» representa la capacidad de una inteligencia artificial para funcionar de forma autónoma, sin ayuda humana. Los modelos que alcancen este nivel podrían crear exploits para vulnerabilidades desconocidas o lanzar ciberataques directos contra sistemas reales protegidos a partir de una tarea de alto nivel. Los modelos de generaciones anteriores, incluido GPT-5.6-Sol, habían sido evaluados en el nivel «High», inferior a este.

Según Axios, el trabajo en Astra se ha congelado temporalmente hasta que se implementen mecanismos de protección adicionales. Por ahora, se desconoce cuándo se lanzará el modelo o si llegará a presentarse. Aunque OpenAI no ha revelado los resultados exactos de las pruebas ni el conjunto de tareas utilizado, la empresa afirma que los ensayos continuarán.

Nuevos requisitos para los sistemas agénticos

En los sistemas modernos de inteligencia artificial, no solo es importante evaluar si pueden escribir código o explicar errores, sino también cómo actúan al interactuar con herramientas reales. El riesgo suele aparecer cuando se combinan la búsqueda de vulnerabilidades, la creación de exploits y el acceso a sistemas. Por ello, OpenAI aplica estrictos requisitos de seguridad no solo al modelo, sino también a los procesos de creación y uso práctico.

Este caso demuestra claramente la importancia decisiva de la seguridad en el desarrollo de tecnologías de inteligencia artificial que aún no han llegado al mercado. Aunque la información disponible no basta para confirmar de forma independiente que Astra haya alcanzado realmente el umbral «Critical», OpenAI está tomando medidas preventivas porque no puede descartar esa posibilidad. La empresa decidirá los siguientes pasos solo después de reforzar las medidas de seguridad.