Предупреждение Anthropic: искусственный интеллект на пороге автономного развития

Американская компания Anthropic предупреждает, что темпы развития искусственного интеллекта (ИИ) ускоряются слишком быстро. По мнению экспертов, в ближайшем будущем ИИ-агенты могут достичь уровня самостоятельного создания, обучения и совершенствования без вмешательства человека. В связи с этим компания рекомендует немного замедлить развитие данной технологии. Об этом сообщает Коинтелеграф.ком сообщает .

В блоге, опубликованном руководителем института Anthropic Мариной Фаваро и одним из основателей компании Джеком Кларком, отмечается, что ИИ-агенты уже сейчас самостоятельно запускают код и передают сложные задачи другим агентам. «На протяжении большей части истории ИИ люди контролировали каждый этап. Однако сейчас мы передаем значительную часть процесса развития самим системам ИИ, что значительно ускоряет нашу работу», — говорят эксперты.

Согласно данным, модель Claude, созданная Anthropic, в настоящее время самостоятельно пишет почти 80% программного кода, добавляемого в базу кодов компании. Если качество кода, написанного людьми и ИИ, сравняется, люди могут полностью прекратить написание кода и заниматься только его проверкой. Однако, если люди не будут успевать проверять код, созданный Claude, это станет препятствием для развития всей системы.

Такая тенденция в сочетании с достаточной вычислительной мощностью может привести к появлению системы ИИ, способной самостоятельно создать «преемника», более умного, чем она сама. Ранее OpenAI также сообщала о проведении исследований в области рекурсивного самосовершенствования и подчеркивала важность сохранения этого процесса под контролем человека и в соответствии с человеческими ценностями.

По словам представителей Anthropic, улучшение моделей ИИ ускоряется вдвое не каждые семь месяцев, а каждые четыре месяца. Это создает риск выхода ИИ из-под контроля до того, как многие институты будут готовы. Поэтому замедление темпов развития рассматривается как наиболее целесообразный путь для изучения огромных последствий технологии.