В США выдвинута важная инициатива по регулированию технологий AI. «Декларация гуманности», подписанная сотнями ученых, бывших чиновников и общественных деятелей, требует ставить интересы человека на первое место в развитии AI. Этот документ предлагает безопасную дорожную карту для будущего отрасли в то время, когда правительство еще не установило четких правил. Об этом сообщает techcrunch.com.
Авторы декларации, включая физика MIT Макса Тегмарка, подчеркивают обеспокоенность общества гонкой AI. Согласно опросам, 95% американцев выступают против создания неконтролируемого суперинтеллекта. В документе говорится о необходимости отказаться от опасного пути, который вытесняет людей с рабочих мест и передает власть неподотчетным корпорациям. Вместо этого предлагается развивать технологии, расширяющие возможности человека.
Новые правила опираются на пять основных столпов: сохранение контроля со стороны человека, предотвращение централизации власти, защита личной свободы и обеспечение ответственности компаний перед законом. Также предусмотрены строгие меры, такие как запрет на создание суперинтеллекта до гарантии безопасности, обязательная возможность отключения систем и ограничение самовоспроизводящихся архитектур.
Эта инициатива приобрела особую актуальность на фоне конфликта между Пентагоном и компанией «Anthropic». Стало очевидно, что медлительность правительства в сфере AI угрожает национальной безопасности. Эксперты подчеркивают, что, как и на рынке лекарств, продукты AI не должны допускаться к использованию до подтверждения их безопасности. Особым приоритетом определено тестирование приложений, предназначенных для молодежи.
Читайте «Zamin» в Telegram!
