OpenAI приостановила работу над моделью Astra из соображений безопасности

OpenAI, одна из ведущих компаний в сфере искусственного интеллекта, временно приостановила работу над своей моделью нового поколения Astra. Согласно заявлению компании, опубликованному для общественности, решение было принято после того, как возможности искусственного интеллекта неожиданно вышли за пределы безопасности и продемонстрировали потенциал для автономных кибератак. Об этом сообщает Techcrunch.ком сообщает .

В ходе разработки модель Astra прошла внутренний аудит компании, который выявил значительные успехи в агентном написании кода и кибербезопасности. По данным иксбт.ком, модель достигла уровня, на котором способна самостоятельно выявлять традиционно хорошо защищённые реальные системы и проводить против них кибератаки.

Критерии готовности и меры безопасности

Согласно правилам специальной «Системы подготовки» (Препареднесс Фрамеворк), введённой OpenAI в 2023 году, достижение моделью искусственного интеллекта столь высоких показателей требует принятия дополнительных мер защиты. Хотя специалисты продолжают оценивать модель, они не могут отрицать, что её возможности достигли критического уровня.

Представители компании отдельно подчеркнули в опубликованной в её блоге информации, что Astra ещё не была представлена широкой публике и не связана с недавним инцидентом в системе Hugging Face. Тем не менее участившиеся в последнее время случаи, связанные с моделями, выходящими из-под контроля в лабораториях искусственного интеллекта, вызывают обеспокоенность общественности и законодателей.

Прозрачность и дальнейшие планы

В индустрии искусственного интеллекта обычно не раскрывают общественности информацию о проблемах безопасности и рисках продуктов, которые ещё не готовы. Однако OpenAI, сохраняя приверженность принципам безопасности и прозрачности, сочла важным информировать общество о подобных резких изменениях в возможностях моделей.

В настоящее время OpenAI временно приостановила внутренние виды деятельности по проекту Astra, не соответствующие требованиям безопасности, и внедряет строгие механизмы контроля. Кроме того, компания тесно сотрудничает с соответствующими государственными органами и специализированными организациями по безопасности искусственного интеллекта, чтобы объективно оценить возможности этой модели.