Безопасность искусственного интеллекта: эксперты выступают за модели с открытым исходным кодом

На конференции Ai4, прошедшей в Лас-Вегасе, ведущие специалисты в области искусственного интеллекта, включая лауреата Нобелевской премии Джеффрей Хинтон, генерального директора Ворлд Лабс Феи-Феи Ли и одного из основателей Курсера Андрев Нг, обсудили вопрос открытости моделей искусственного интеллекта. На фоне растущей обеспокоенности открытыми моделями и моделями с открытыми весами в современной технологической индустрии эти исследователи подчеркнули важность защиты развития технологий от монополии нескольких крупных компаний. Об этом сообщает Techcrunch.ком сообщает .

Сегодня крупные лаборатории считают модели с открытыми весами опасными, поскольку их можно свободно распространять, а контроль над их использованием затруднён. Однако, по данным иксбт.ком, все трое экспертов, выступивших на конференции в Лас-Вегасе, решительно заявили о своей поддержке открытого искусственного интеллекта. Они отметили необходимость не допустить появления единственных привратников, способных ограничивать развитие технологий.

Риск монополии и конкурентная среда

В своём выступлении Андрев Нг выразил опасение, что на рынке искусственного интеллекта может повториться ситуация, при которой Apple и Google контролируют мобильные операционные системы. По его словам, если несколько крупных корпораций ограничат доступ к технологии, это приведёт к замедлению инноваций и исчезновению конкуренции.

По мнению Нг, лучшее решение — продвигать открытость и создавать конкурентную среду между множеством поставщиков. «Искусственный интеллект — это замечательная технология, и я хочу, чтобы она была доступна каждому», — подчеркнул он. Однако крупные компании стремятся влиять на правила, регулирующие отрасль, чтобы сохранить своё конкурентное преимущество.

Разница между открытым исходным кодом и открытыми весами

Джеффрей Хинтон объяснил, что между традиционным программным обеспечением с открытым исходным кодом и моделями искусственного интеллекта с открытыми весами существует важное различие. Если в программах с открытым исходным кодом легко находить ошибки, то публикация параметров готового искусственного интеллекта в моделях с открытыми весами требует большой ответственности.

Хинтон признал, что ранее выступал против открытых весов, поскольку они могут облегчить использование технологии в негативных целях, например для кибератак. Тем не менее он подчеркнул, что эта битва уже проиграна: модели с открытыми весами стали постоянной частью индустрии, а барьеры, связанные с затратами на обучение, исчезли.

Несмотря на риски, Хинтон считает, что развитие искусственного интеллекта в целом приносит пользу. По его мнению, технология повышает производительность, улучшает системы образования и здравоохранения. Он отметил, что опасения по поводу будущего искусственного интеллекта не следует считать проявлением трусости, однако полностью останавливать прогресс также неправильно.