Исследователь Anthropic отказался от участия в гонке искусственного интеллекта

Джейкоб Коксон, бывший исследователь одной из ведущих компаний в области искусственного интеллекта Anthropic, покинул свой пост и открыто выразил свои опасения в социальных сетях. Он утверждает, что современная технологическая гонка создает глобальную угрозу, порождая системы, которые могут выйти из-под контроля человечества, и он не желает участвовать в подобных процессах. Об этом сообщает Иксбт.ком сообщает .

Как сообщает издание иксбт.ком, основной задачей Джейкоба Коксона в компании было обучение новых моделей AI путем обработки огромных объемов данных, то есть их предварительная подготовка. Однако нынешние темпы развития технологий и жесткая конкуренция между компаниями вызвали у специалиста серьезную обеспокоенность.

Риски искусственного интеллекта и проблема контроля

На своей странице в социальной сети Кс бывший исследователь обратил внимание на масштаб угроз, с которыми сталкивается человечество. По его мнению, ни один другой вид человеческой деятельности не несет такой опасности, какую может создать AI. Он опасается, что гонка между компаниями приведет к созданию систем AI, которыми люди в будущем не смогут управлять.

Коксон подчеркнул, что нынешний курс неверен и необходимы серьезные меры для предотвращения глобальной гонки. По его словам, для устранения подобных рисков может потребоваться даже введение временного запрета на дальнейшее улучшение возможностей моделей, несмотря на высокую стоимость таких мер.