Арки: Китайские открытые модели ИИ не представляют угрозы безопасности

Специалисты американской лаборатории Арки считают опасения по поводу безопасности китайских моделей ИИ с открытым исходным кодом (опен-сурке) необоснованными. В последнее время модели, представленные такими китайскими компаниями, как Муншот AI и Алибаба, завоевывают популярность на мировом рынке благодаря своей эффективности и доступности, что вызвало дискуссии среди западных технологических гигантов. Об этом сообщает Techcrunch.ком сообщает .

В то время как администрация США рассматривает вопрос о запрете продукции китайских разработчиков, создатели закрытых моделей, такие как OpenAI и Anthropic, обеспокоены конкуренцией. В частности, модели вроде Кими К3 и Qwen отличаются более дешевым обслуживанием при обработке данных. Это может существенно повлиять на маржу прибыли крупных корпораций.

По словам технического директора Арки Лукаса Аткинса, китайские модели с открытыми весами (опен-веигхт) не опаснее любого другого программного обеспечения с открытым исходным кодом. Аткинс подчеркивает, что предприятиям, использующим эти модели, не стоит опасаться атак со стороны китайских хакеров, поскольку принцип работы нейросетей отличается от традиционных программ.

Техническая безопасность и возможности контроля

Многие воспринимают эти модели как код, написанный со злым умыслом, однако процесс обучения ИИ происходит совершенно иначе. Специалисты Арки объясняют, что если компания скачивает модель и использует ее на собственных серверах (дата-центрах), сторона, создавшая модель (например, Алибаба), не получает доступа к этой среде и не может красть данные.

Код работы моделей с открытыми весами, размещенных на таких платформах, как Hugging Face, прозрачен и поддается проверке. Хотя методы и наборы данных, использованные при обучении моделей, остаются в секрете, специалисты могут полностью контролировать часть, работающую на сервере. Это открывает возможности для самостоятельного внедрения мер безопасности.

Крупные организации перед внедрением любой модели должны проводить ее проверку на безопасность, тестировать на предвзятость (биас) и склонность к галлюцинациям (халлукинатионс). Кроме того, надежность моделей можно повысить путем их дообучения (пост-траининг) под конкретные нужды.

Интересно, что компания Арки сама предлагает американские локальные продукты в качестве альтернативы китайским моделям. Тем не менее, они избегают необоснованных обвинений в адрес конкурентов, демонстрируя приверженность технологической открытости. Такой подход способствует здоровой конкуренции и инновациям на мировом рынке ИИ.