Anthropic огоҳлантириши: Сунъий интеллект мустақил ривожланиш арафасида

АҚШнинг Anthropic компанияси сунъий интеллект (СИ) ривожланиш суръати шунчалик тезлашганидан огоҳлантирмоқда. Мутахассисларнинг фикрича, яқин келажакда СИ агентлари инсон аралашувисиз ўзини ўзи қуриш, ўқитиш ва такомиллаштириш даражасига етиши мумкин. Шу сабабли, компания ушбу технология ривожини бироз секинлаштиришни тавсия қилмоқда. Бу ҳақда Cointelegraph.com хабар беради.

Anthropic институти раҳбари Марина Фаваро ва компания асосчиларидан бири Жакк Кларк эълон қилган блогпостда таъкидланишича, СИ агентлари ҳозирнинг ўзидаёқ кодларни мустақил ишга туширмоқда ва мураккаб вазифаларни бошқа агентларга топширмоқда. "СИ тарихининг катта қисмида инсонлар ҳар бир босқични бошқарган. Аммо ҳозирда биз ривожланишнинг катта қисмини СИ тизимларининг ўзига топширяпмиз, бу эса ишимизни сезиларли даражада тезлаштирмоқда", — дейди экспертлар.

Маълумотларга кўра, Anthropic томонидан яратилган Claude модели ҳозирда компания кодлар базасига қўшилаётган дастурий кодларнинг қарийб 80 фоизини ўзи ёзмоқда. Агар инсонлар ва СИ ёзган кодлар сифати тенглашса, одамлар код ёзишни бутунлай тўхтатиб, фақат уни текшириш билан шуғулланиши мумкин. Бироқ, агар инсонлар Claude яратган кодларни текширишга улгурмаса, бу бутун тизим ривожида тўсиққа айланади.

Бундай тенденция етарли ҳисоблаш қуввати билан бирга, ўзидан ҳам ақллироқ "ворис"ни мустақил ярата оладиган СИ тизими пайдо бўлишига олиб келиши мумкин. Аввалроқ OpenAI ҳам рекурсив ўз-ўзини такомиллаштириш устида тадқиқотлар олиб бораётганини ва бу жараённи инсон назорати ҳамда қадриятларига мос равишда сақлаб қолиш муҳимлигини билдирган эди.

Anthropic вакилларининг сўзларига кўра, СИ моделларининг такомиллашиши ҳар етти ойда эмас, балки ҳар тўрт ойда икки баравар тезлашмоқда. Бу эса кўплаб институтлар тайёр бўлмасидан олдин СИ назоратдан чиқиб кетиши хавфини туғдиради. Шу боис, технологиянинг улкан оқибатларини ўрганиш учун ривожланиш суръатини пасайтириш энг мақбул йўл сифатида кўрилмоқда.