Anthropic ogohlantirishi: Sunʼiy intellekt mustaqil rivojlanish arafasida

AQSHning Anthropic kompaniyasi sunʼiy intellekt (SI) rivojlanish surʼati shunchalik tezlashganidan ogohlantirmoqda. Mutaxassislarning fikricha, yaqin kelajakda SI agentlari inson aralashuvisiz oʻzini oʻzi qurish, oʻqitish va takomillashtirish darajasiga yetishi mumkin. Shu sababli, kompaniya ushbu texnologiya rivojini biroz sekinlashtirishni tavsiya qilmoqda. Bu haqda Cointelegraph.com xabar beradi.

Anthropic instituti rahbari Marina Favaro va kompaniya asoschilaridan biri Jack Clark eʼlon qilgan blogpostda taʼkidlanishicha, SI agentlari hozirning oʻzidayoq kodlarni mustaqil ishga tushirmoqda va murakkab vazifalarni boshqa agentlarga topshirmoqda. "SI tarixining katta qismida insonlar har bir bosqichni boshqargan. Ammo hozirda biz rivojlanishning katta qismini SI tizimlarining oʻziga topshiryapmiz, bu esa ishimizni sezilarli darajada tezlashtirmoqda", — deydi ekspertlar.

Maʼlumotlarga koʻra, Anthropic tomonidan yaratilgan Claude modeli hozirda kompaniya kodlar bazasiga qoʻshilayotgan dasturiy kodlarning qariyb 80 foizini oʻzi yozmoqda. Agar insonlar va SI yozgan kodlar sifati tenglashsa, odamlar kod yozishni butunlay toʻxtatib, faqat uni tekshirish bilan shugʻullanishi mumkin. Biroq, agar insonlar Claude yaratgan kodlarni tekshirishga ulgurmasa, bu butun tizim rivojida toʻsiqqa aylanadi.

Bunday tendensiya yetarli hisoblash quvvati bilan birga, oʻzidan ham aqlliroq "voris"ni mustaqil yarata oladigan SI tizimi paydo boʻlishiga olib kelishi mumkin. Avvalroq OpenAI ham rekursiv oʻz-oʻzini takomillashtirish ustida tadqiqotlar olib borayotganini va bu jarayonni inson nazorati hamda qadriyatlariga mos ravishda saqlab qolish muhimligini bildirgan edi.

Anthropic vakillarining soʻzlariga koʻra, SI modellarining takomillashishi har yetti oyda emas, balki har toʻrt oyda ikki baravar tezlashmoqda. Bu esa koʻplab institutlar tayyor boʻlmasidan oldin SI nazoratdan chiqib ketishi xavfini tugʻdiradi. Shu bois, texnologiyaning ulkan oqibatlarini oʻrganish uchun rivojlanish surʼatini pasaytirish eng maqbul yoʻl sifatida koʻrilmoqda.