Глава Google DeepMind призвал к установлению международного контроля над искусственным интеллектом

Глава компании Google DeepMind Демис Хассабис призвал мировое сообщество создать независимую организацию для тестирования и оценки самых мощных моделей искусственного интеллекта (ИИ) перед их выпуском. По его мнению, такая структура критически важна для обеспечения глобальной безопасности и должна обладать полномочиями временно ограничивать распространение опасных технологий в случае необходимости. Об этом сообщает Иксбт.ком сообщает об этом.

В своей статье «А Фрамеворк фор Фронтиер AI анд те Давнинг оф а Нев Аге» Хассабис подчеркнул, что время для разработки глобальных правил для передовых систем ИИ не терпит отлагательств. Предлагаемый им международный надзорный орган должен функционировать как группа независимых экспертов, проверяющих безопасность сложнейших моделей для общества. Эта инициатива выдвигается на фоне растущих опасений в технологическом мире о том, что развитие ИИ может выйти из-под контроля.

Новый порядок под руководством США

По мнению главы DeepMind, США должны стать инициаторами создания этой международной структуры. Ведущая роль страны на технологическом рынке и огромный потенциал в сфере ИИ возлагают на нее такую ответственность. Предполагается, что в состав предлагаемого органа войдут специалисты по безопасности ИИ, представители научного сообщества и разработчики программного обеспечения с открытым исходным кодом.

Согласно данным издания Аксиос, Хассабис обсуждает эту инициативу с администрацией США, европейскими чиновниками и другими крупными лабораториями ИИ уже несколько месяцев. Он надеется, что новая организация начнет работу до конца текущего года. Однако на данный момент ни на международном уровне, ни в самих США не существует единой правовой базы или согласованного формата для такого регулятора.

На пороге искусственного общего интеллекта (AGI)

Хассабис предупреждает, что человечество приближается к уровню искусственного общего интеллекта (AGI). Это система, способная выполнять практически любую интеллектуальную задачу, доступную человеку, на равном или более высоком уровне. Такой технологический скачок неизбежно приведет к фундаментальным изменениям в экономике и обществе, поэтому механизмы контроля необходимо создавать уже сейчас.

Также глава Google DeepMind особо отметил риск использования систем ИИ для создания биологического оружия. Ранее он вместе с руководителями других технологических гигантов заявлял о необходимости усиления защиты в этом направлении. При этом специалисты напоминают о необходимости подготовки к ожидаемым изменениям на рынке труда.

На данный момент создание глобального надзорного органа остается сложной задачей. Разные страны по-разному оценивают риски ИИ, а крупные компании, с одной стороны, выступают за регулирование, а с другой — продолжают развивать свои модели в режиме гонки. Предложение Хассабиса фактически поставило важный вопрос о том, кто и как должен определять допустимые границы для самых мощных систем ИИ.