Anthropic ескертуі: Жасанды интеллект дербес дамудың алдында тұр

АҚШ-тың Anthropic компаниясы жасанды интеллект (ЖИ) даму қарқыны тым жылдамдап кеткені туралы ескерту жасауда. Сарапшылардың пікірінше, жақын болашақта ЖИ агенттері адамның араласуынсыз өзін-өзі құру, оқыту және жетілдіру деңгейіне жетуі мүмкін. Осыған байланысты, компания осы технологияның дамуын сәл бәсеңдетуді ұсынады. Бұл туралы Cointelegraph.com хабарлайды .

Anthropic институтының басшысы Марина Фаваро мен компанияның негізін қалаушылардың бірі Джек Кларк жариялаған блог постында ЖИ агенттерінің қазірдің өзінде кодтарды дербес іске қосып, күрделі тапсырмаларды басқа агенттерге тапсырып жатқаны атап өтілген. «ЖИ тарихының басым бөлігінде адамдар әр кезеңді бақылап отырды. Алайда қазір біз дамудың үлкен бөлігін ЖИ жүйелерінің өз сеніміне тапсырып отырмыз, бұл жұмысымызды айтарлықтай жылдамдатуда», – дейді сарапшылар.

Мәліметтерге сәйкес, Anthropic жасаған Claude моделі қазіргі уақытта компанияның код базасына қосылып жатқан бағдарламалық кодтардың шамамен 80 пайызын өз бетінше жазуда. Егер адамдар мен ЖИ жазған кодтардың сапасы теңессе, адамдар код жазуды толығымен тоқтатып, тек оны тексерумен айналысуы мүмкін. Дегенмен, егер адамдар Claude жасаған кодтарды тексеруге үлгермесе, бұл бүкіл жүйенің дамуына кедергі келтіреді.

Мұндай үрдіс жеткілікті есептеу қуатымен бірге, өзінен де ақылдырақ «мұрагерді» дербес жасай алатын ЖИ жүйесінің пайда болуына әкелуі мүмкін. Бұған дейін OpenAI да рекурсивті өзін-өзі жетілдіру бойынша зерттеулер жүргізіп жатқанын және бұл процесті адам бақылауы мен құндылықтарына сәйкес сақтап қалудың маңызды екенін мәлімдеген болатын.

Anthropic өкілдерінің сөзінше, ЖИ модельдерінің жетілдірілуі әр жеті айда емес, әр төрт айда екі есе жылдамдауда. Бұл көптеген институттар дайын болмай тұрып, ЖИ-дың бақылаудан шығып кету қаупін тудырады. Сондықтан, технологияның орасан зор салдарын зерттеу үшін даму қарқынын бәсеңдету ең қолайлы жол ретінде қарастырылуда.