OpenAI временно приостановила проект Astra из соображений безопасности

OpenAI временно приостановила разработку своей новой модели Astra, чтобы обеспечить безопасность искусственного интеллекта. По данным иксбт.ком, специалисты компании выразили обеспокоенность тем, что эта система может превысить заранее установленный максимальный порог риска в сфере кибербезопасности, поэтому внутренние испытания были на некоторое время замедлены. Об этом Иксбт.ком сообщает .

Сообщается, что это решение, принятое 7 августа текущего года, основано на требованиях внутренней системы оценки рисков OpenAI Препареднесс Фрамеворк. Было установлено, что ещё не представленная публике модель Astra значительно усилилась в области агентного программирования и кибербезопасности. Специалисты отметили, что возможности модели расширились до неожиданного уровня.

Порог «Критикал» в кибербезопасности

Согласно внутренней классификации компании, уровень «Критикал» означает способность искусственного интеллекта самостоятельно работать без помощи человека. Модели такого уровня могут обладать потенциалом для создания эксплойтов, предназначенных для неизвестных уязвимостей, или организации прямых кибератак на защищённые реальные системы на основе высокоуровневого задания. Предыдущие модели, включая GPT-5.6-Сол, оценивались на более низком уровне «Хигх».

Как сообщает издание Аксиос, работа над Astra временно заморожена до внедрения дополнительных механизмов защиты. Пока неизвестно, когда модель будет выпущена или будет ли она представлена вообще. Хотя OpenAI не раскрыла точные результаты тестов и набор заданий, компания подчёркивает, что испытания продолжаются.

Новые требования к агентным системам

Для современных систем искусственного интеллекта важно не только уметь писать код или объяснять ошибки, но и проверять, как они действуют при работе с реальными инструментами. Риск обычно возникает, когда поиск уязвимостей, написание эксплойтов и получение доступа к системам объединяются в один процесс. Поэтому OpenAI внедряет строгие требования безопасности не только для самой модели, но и для процессов её создания и практического применения.

Этот случай стал наглядным примером того, насколько решающую роль играет безопасность при создании ещё не вышедших на рынок технологий искусственного интеллекта. Хотя имеющихся данных недостаточно для независимого подтверждения того, что Astra действительно достигла порога «Критикал», OpenAI принимает превентивные меры, поскольку не может исключить такую вероятность. Компания определит дальнейшие шаги только после усиления мер безопасности.