Модели искусственного интеллекта с открытыми весами догоняют лидеров

В то время как возможности ведущих моделей в сфере искусственного интеллекта стремительно растут, системы с открытыми весами также не отстают от них. Представленная китайской компанией З.ai модель искусственного интеллекта ГЛМ-5.2 с открытыми весами отстаёт от передовых разработок таких гигантов, как OpenAI и Anthropic, в области кибербезопасности и биологии всего на несколько месяцев, сообщает иксбт.ком. Об этом Techcrunch.ком сообщает .

Согласно отчёту некоммерческой организации по безопасности СаферАИ, модели с открытыми весами последнего поколения стремительно приближаются к уровню ведущих систем. Однако вместе с ростом технологических возможностей всё больше увеличивается разрыв между практиками обеспечения безопасности и потенциальными рисками. Эксперты подчёркивают, что это требует пересмотра механизмов управления новыми угрозами, с которыми сталкивается общество.

Резкие различия в ограничениях безопасности

Согласно результатам оценки, проведённой организацией через открытый API З.ai, модель ГЛМ-5.2 не отклонила ни одного запроса, связанного с кибератаками или биологическими задачами двойного назначения. Для сравнения, модель Claude Опус 4.7 компании Anthropic не смогла завершить тест КйберГйм для оценки кибербезопасности, строго соблюдая правила безопасности. Это ещё раз показало, что критики, предупреждавшие о возможной потере контроля над моделями с открытыми весами, были правы.

Главная особенность моделей с открытыми весами заключается в том, что любой человек может загрузить их на своё устройство и запустить в любой инфраструктуре. В таких условиях невозможно установить централизованный надзор или контроль над системой. Пользователи без труда могут удалить, изменить или перенастроить все механизмы защиты моделей на собственном оборудовании.

Уязвимости закрытых и открытых систем

Производители закрытых систем, такие как OpenAI и Anthropic, используют специальные классификаторы и контроль на уровне API, чтобы ограничивать опасную помощь в кибератаках или биологические инструкции. Однако эти меры также не идеальны. Организация по безопасности Фар.ai обнаружила сотни универсальных методов «джаилбреак» в передовых моделях, таких как Grok 4.5 от xAI и Gemini 3.1 Pro от Google DeepMind. Такие методы, сочетающие ролевые игры и поддельную историю диалога, позволяют обходить уязвимые места моделей.

Тем не менее меры защиты, применяемые к закрытым моделям, совершенно неэффективны для систем с открытыми весами. Это связано с тем, что открытые модели с самого начала проектируются для работы без каких-либо ограничений или с изменёнными условиями безопасности. По словам исполнительного директора СаферАИ Генри Пападатоса, главная цель должна заключаться в том, чтобы сделать полезные и безопасные возможности доступными для всех, а также стремиться устранять вредоносные функции в рамках подхода с открытым исходным кодом.