OpenAI suspende el trabajo en el modelo Astra por motivos de seguridad

OpenAI, una de las principales empresas del sector de la inteligencia artificial, ha suspendido temporalmente el trabajo en su modelo de nueva generación llamado Astra. Según el comunicado presentado públicamente por la empresa, la decisión se tomó después de que las capacidades de la inteligencia artificial superaran inesperadamente los límites de seguridad y mostraran potencial para llevar a cabo ciberataques autónomos. Techcrunch.com informa .

Una auditoría interna del modelo Astra, que todavía está en desarrollo, reveló que había logrado avances importantes en la programación agéntica y la ciberseguridad. Según ixbt.com, el modelo ha alcanzado el nivel necesario para identificar de forma autónoma sistemas del mundo real tradicionalmente bien protegidos y ejecutar ciberataques contra ellos.

Criterios de preparación y medidas de seguridad

De acuerdo con las normas del «Marco de Preparación» (Preparedness Framework), implementado por OpenAI en 2023, que un modelo de inteligencia artificial alcance un rendimiento tan elevado exige adoptar medidas de protección adicionales. Aunque los especialistas continúan evaluando el modelo, no pueden negar que sus capacidades han alcanzado un nivel crítico.

En una publicación de su blog, los representantes de la empresa destacaron que Astra aún no se había presentado al público y que no estaba relacionado con el incidente observado recientemente en la plataforma Hugging Face. Aun así, el aumento de casos relacionados con modelos que se salen de control en los laboratorios de inteligencia artificial está generando preocupación entre el público y los legisladores.

Transparencia y planes futuros

En la industria de la inteligencia artificial, normalmente no se divulga públicamente información sobre los problemas de seguridad y los riesgos de productos que aún no están listos. Sin embargo, OpenAI consideró importante informar a la sociedad sobre cambios tan drásticos en las capacidades, manteniéndose fiel a sus principios de seguridad y transparencia.

Actualmente, OpenAI ha suspendido temporalmente las actividades internas del proyecto Astra que no cumplen los requisitos de seguridad y está implementando estrictos mecanismos de control. Además, la empresa coopera estrechamente con los organismos gubernamentales pertinentes y las organizaciones especializadas en seguridad de la inteligencia artificial para evaluar de forma imparcial las capacidades del modelo.