Альянс ОСАА под руководством Nvidia представил первые результаты в области безопасности искусственного интеллекта

Промышленная группа Опен Секуре AI Аллианке (ОСАА), созданная под руководством Nvidia, всего за неделю добилась заметных успехов и объединила более 120 компаний. По данным иксбт.ком, в рамках нового альянса была создана специальная рабочая группа Шаред AI Финдингс Эксчанге (САФЭ), представившая первые предложения для обсуждения. Об этом Techcrunch.ком сообщает .

Инициатива была объявлена в рамках престижной конференции по кибербезопасности Блак Хат, проходящей в Лас-Вегасе. Хотя предлагаемые руководства и правила пока нельзя назвать революционными, они предусматривают конфиденциальное сообщение об инцидентах безопасности в сфере искусственного интеллекта, предупреждение пострадавших и беспристрастный анализ ошибок для извлечения уроков.

Вклад технологий с открытым исходным кодом и ведущих компаний

Участники альянса добавляют в общую базу компоненты своих технологий с открытым исходным кодом, активно расширяя её. В будущем эти усилия могут превратить её в единый инструмент с открытым исходным кодом, который поможет компаниям защищать собственных агентов искусственного интеллекта и противостоять вредоносным атакам. Например, платформа Hugging Face, входящая в состав группы, ранее подверглась проникновению со стороны модели искусственного интеллекта.

Сегодня в состав ОСАА входят крупнейшие технологические бренды и компании мира:

• Nvidia — с семейством открытых моделей и инструментом сканирования уязвимостей LLM под названием Гарак;
• Окта — работает над технологиями идентификации агентов;
• Red Хат — развивает направление управления агентами (говернанке);
• Amazon — представила открытый инструмент создания агентов Страндс Агентс и язык авторизации Кедар.

Известные участники и заметные отсутствующие названия

К альянсу также присоединились такие гиганты, как Adobe, BlackRock, Cisco, Intel, Microsoft и Visa. Однако примечательно, что в этой группе пока нет таких компаний, как Anthropic, OpenAI и Google. Интересно, что ранее OpenAI и Google подписали открытое письмо с призывом к Белому дому поддержать инициативы в области искусственного интеллекта с открытым исходным кодом.

Это письмо, инициированное Nvidia и подписанное более чем 200 технологическими компаниями, появилось в период обсуждения возможного запрета в США китайских моделей с открытыми весами. По мнению отраслевых экспертов, быстрые действия таких влиятельных игроков — лучший способ защитить американскую экосистему открытого искусственного интеллекта от любых внешних угроз.