Против монополии на искусственный интеллект: манифест Mark Zuckerberg

Глава Meta Mark Zuckerberg выступил против сосредоточения контроля над технологиями искусственного интеллекта будущего в руках нескольких крупных структур или правительств и опубликовал новый манифест. Как сообщает Иксбт.ком, этим документом корпорация решительно подчеркнула свою приверженность открытости в сфере искусственного интеллекта, выдвинула инициативу по свободному распространению моделей ИИ и учредила специальный фонд на один миллиард долларов. Об этом Иксбт.ком сообщает .

В манифесте под названием «Будущее принадлежит всем: путь к позитивному будущему искусственного интеллекта» определены три ключевых принципа развития технологий искусственного общего интеллекта — AGI, который, как ожидается, превзойдёт человеческий интеллект. Они заключаются в расширении возможностей каждого человека, провозглашении изобретательности главной целью и сохранении баланса сил как гарантии безопасности. Зукерберг отметил, что пользователи не должны подчиняться централизованным ограничениям, а обязаны сами нести ответственность за свои действия.

Меры безопасности и свобода моделей

Глава компании выступил в защиту дистилляции моделей — процесса обучения небольших нейронных сетей на основе ответов крупных и мощных алгоритмов. По его мнению, разработчики должны иметь право получать знания на основе наблюдаемых результатов. Для контроля безопасности Meta включила совет директоров в систему одобрения релизов. Отныне решения о выпуске весов моделей принимаются на основании критериев, утверждённых советом.

Также затронув вопрос государственного регулирования, глава компании призвал к раннему и активному сотрудничеству между лабораториями искусственного интеллекта и правительствами вместо бюрократических проверок с жёсткими сроками. Meta объявила о возобновлении выпуска моделей с открытым исходным кодом и направлении одного миллиарда долларов в фонд «Будущее принадлежит всем» для поддержки сообществ, расположенных рядом с дата-центрами компании.

Обсуждение в отрасли и противоречие подходов

Эта публикация вызвала широкое обсуждение в отрасли и специализированных изданиях. Издания 404 Медиа и Гизмодо подчеркнули, что концепция свободного распространения моделей не даёт достаточного ответа на риски злоупотребления автономными агентами, и отметили, что этот шаг служит защите бизнес-модели Meta, основанной на распространении моделей с открытыми весами.

Открытый доступ к весам нейронных сетей расширяет возможности их локального запуска, настройки и аудита независимыми специалистами. Однако общедоступность исходных параметров затрудняет отзыв опасных функций и контроль за использованием технологии после её загрузки на устройство пользователя. Опубликованный манифест наглядно продемонстрировал прямое противоречие между закрытыми экосистемами с жёстко централизованным контролем и открытой моделью, перекладывающей ответственность на конечного пользователя.