Сунъий интеллект (AI) моделларини ишга тушириш учун ҳисоблаш қувватларига бўлган талаб кескин ортиб бормоқда. Бу соҳадаги компаниялар иккита асосий тўсиққа дуч келишмоқда: керакли чипларни топиш ва уларни даромад келтира бошлайдиган маълумотлар марказларига жойлаштириш. Генерал Компуте номли янги инференс-неоклауд стартапи ушбу муаммоларга ўзига хос ечим таклиф қилмоқда. Компания ФУSE ВК бошчилигидаги инвестиция раундида 15 миллион доллар маблағ тўплади ва унинг бозор қиймати 60 миллион долларга баҳоланди. Бу ҳақда Techcrunch.com хабар беради.
Ҳозирда GPU чипларига талаб юқори бўлса-да, мутахассислар улар ўқитиб бўлинган AI моделларини ишлатиш (инференс) учун энг яхши ечим эмаслигини таъкидламоқда. Нвидиа, Гроқ ва Серебрас каби гигантлар қаторида Генерал Компуте ўз эътиборини Intel томонидан қўллаб-қувватланадиган СамбаNova чипларига қаратди. Ушбу ихтисослашган чиплар GPU'ларга қараганда анча тезроқ бўлиб, сониясига 600-700 токен ишлаб чиқариш имкониятига эга.
Генерал Компуте аллақачон 300 миллион долларлик СН50 чипларига буюртма берган ва уларни жорий этган биринчи неоклауд провайдери бўлишини маълум қилди. Ушбу чипларнинг афзаллиги шундаки, улар сув билан эмас, ҳаво билан совутилади ва камроқ энергия сарфлайди. Бу эса уларни янги инфратузилма қурмасдан, мавжуд маълумотлар марказларига, ҳатто ўз фаолиятини ўзгартирмоқчи бўлган криптовалюта майнерлари биноларига ҳам ўрнатиш имконини беради.
Компания ўтган ҳафтада ўзининг булутли хизматини ишга туширди ва MiniMax 2.7 очиқ кодли моделини ишга тушириш бўйича энг юқори тезликни намойиш этаётганини даъво қилмоқда. Инвесторлар СамбаNova ва Генерал Компуте ўртасидаги ҳамкорликни Нвидиа ва Коревеаве ўртасидаги муваффақиятли алоқаларга қиёслашмоқда.
“Zamin”ни Telegram'да ўқинг!
