Глава Anthropic высказался об открытых моделях искусственного интеллекта

Дарио Амодей, соучредитель и генеральный директор Anthropic, одной из ведущих компаний в сфере искусственного интеллекта, заявил, что не выступает за запрет открытых моделей ИИ. По его словам, компания никогда не поддерживала подобные ограничения, а слухи на этот счет безосновательны. Это заявление прозвучало на фоне жарких споров между представителями индустрии и технологическими гигантами о будущем технологий с открытым исходным кодом. Об этом сообщает Techcrunch.ком сообщает .

По данным иксбт.ком, эта реакция последовала за открытым письмом генерального директора Nvidia Дженсена Хуанга, опубликованным в социальной сети Кс. В этом письме такие ведущие компании, как Nvidia, Meta, Microsoft, Mistral и Hugging Face, призвали политиков не вводить поспешные ограничения на открытые модели ИИ. Хотя в том письме Китай напрямую не упоминался, основные споры сводятся к утверждениям о том, что китайские лаборатории расширяют свои возможности за счет кражи интеллектуальной собственности.

Риски искусственного интеллекта в Китае

В своем блоге Дарио Амодей уделил особое внимание вопросу безопасности, подчеркнув необходимость разграничения между открытыми моделями и угрозами, исходящими от Китая. Он отметил, что считает открытые модели, не обладающие опасными возможностями, полезными для общества, так как они приносят большую пользу исследователям и разработчикам. Однако его главная озабоченность связана с попытками авторитарных правительств, в частности Коммунистической партии Китая, создать системы, превосходящие американские, для достижения постоянного военного превосходства.

Глава Anthropic также выразил обеспокоенность ростом угроз биоатак и кибербезопасности. По его мнению, открытые модели в таких сценариях более опасны, поскольку контролировать их использование или устанавливать на них ограничения крайне сложно. Ссылаясь на отчет Британского института безопасности искусственного интеллекта, он напомнил, что после распространения открытого кода его уже невозможно отозвать назад.

Эксперты и будущие меры

Сторонники открытого исходного кода подчеркивают, что доступ к мощным моделям свободен от единоличного контроля и помогает защитникам обеспечивать безопасность. Однако Амодей, возражая против этого, предложил конкретные меры для противодействия доминированию Китая в сфере ИИ. По его мнению, необходимо ограничить доступ Китая к мощным чипам, а также принять официальные меры против процессов дистилляции во избежание кражи интеллектуальной собственности.

Для справки, правительство США предупреждает, что может ввести санкции против Китая в случае выявления фактов кражи интеллектуальной собственности американских компаний. Поэтому вопрос соблюдения баланса между свободой инноваций и национальной безопасностью остается в центре сегодняшних обсуждений на технологическом рынке.