Глава Google DeepMind предложил создать независимый орган для контроля за AI

Генеральный директор Google DeepMind Демис Хассабис выступил с инициативой создания нового международного органа по стандартизации, целью которого является регулирование самых передовых моделей в области искусственного интеллекта (AI) и обеспечение их безопасности. Это предложение вызвало широкий резонанс в технологическом сообществе, поскольку оно направлено не на ограничение развития AI, а на его ответственное управление. Об этом сообщает Techcrunch.ком сообщает .

В своей статье «Основы для Фронтиер AI и начало новой эры», опубликованной на его странице в социальной сети Кс, Хассабис предложил внедрить систему, аналогичную модели ФИНРА (Орган по регулированию финансовой индустрии) в финансовой системе США. По его мнению, такой орган должен проводить тестирование новых моделей перед их выпуском на рынок и разрабатывать лучшие практики по их внедрению.

Как будет работать новый механизм контроля?

Согласно предлагаемой системе, ведущие лаборатории, такие как Google, OpenAI и Anthropic, будут добровольно передавать свои самые мощные модели в этот орган по стандартизации для проверки за 30 дней до их публичного релиза. Если протокол оценки докажет свою эффективность, в будущем этот процесс может стать обязательным и превратиться в основное условие для размещения моделей AI на рынке США.

Хассабис подчеркнул, что этот орган будет работать в сотрудничестве с лабораториями не только над проверками перед выпуском, но и над устранением критических уязвимостей, выявленных после запуска моделей. Это гораздо более совершенный подход, чем проводимые в настоящее время правительством США ад хок (специальные) проверки моделей Anthropic и OpenAI.

По данным иксбт.ком, действующие правительственные проверки подвергаются резкой критике из-за нехватки технической экспертизы и непрозрачности процесса принятия решений. Предлагаемая же организация будет поддерживаться правительством, но финансироваться непосредственно индустрией AI и действовать независимо.

Баланс между индустрией и правительством

Вопрос регулирования сферы AI остается спорной темой между технологическими гигантами и новой администрацией США. Недавно советник Белого дома по вопросам AI Шрирам Кришнан заявил, что в структуре исполнительной власти не будет создаваться отдельное надзорное агентство по AI (подобное ФДА). Модель саморегулируемой организации, предложенная Хассабисом, может соответствовать этим политическим взглядам.

Демис Хассабис видит в составе этого органа следующих специалистов:

• Представители программного обеспечения с открытым исходным кодом (опен-сурке);
• Высококвалифицированные технические эксперты из индустрии;
• Независимые группы, специализирующиеся на безопасности AI.

«Сила этого подхода в том, что он, будучи технически совершенным, поддерживает инновации и поощряет ответственное поведение», — пишет глава DeepMind. По его словам, система будет гибкой к быстрым изменениям в отрасли и позволит усиливать меры контроля по мере роста уровня рисков.

Если эта инициатива будет реализована, она может стать первым реальным и эффективным стандартом безопасности искусственного интеллекта в мировом масштабе. Это гарантирует надежность систем AI не только для технологических компаний, но и для рядовых пользователей.