Жасанды интеллект (AI) модельдерін іске қосу үшін есептеу қуаттарына деген сұраныс күрт артып келеді. Бұл саладағы компаниялар екі негізгі кедергіге тап болуда: қажетті чиптерді табу және оларды табыс әкелетін деректер орталықтарына орналастыру. General Compute атты жаңа инференс-необұлт стартапы бұл мәселелерге өзіндік шешім ұсынуда. Компания FUSE VC басшылығындағы инвестициялық раундта 15 миллион доллар қаражат жинады және оның нарықтық құны 60 миллион долларға бағаланды. Бұл туралы Techcrunch.com хабарлайды.
Қазіргі уақытта GPU чиптеріне сұраныс жоғары болғанымен, мамандар олардың оқытылып қойған AI модельдерін іске қосу (инференс) үшін ең үздік шешім емес екенін атап өтуде. Nvidia, Groq және Cerebras сияқты алпауыттар қатарында General Compute өз назарын Intel қолдайтын SambaNova чиптеріне аударды. Бұл мамандандырылған чиптер GPU-ға қарағанда әлдеқайда жылдам және секундына 600-700 токен өндіру мүмкіндігіне ие.
General Compute қазірдің өзінде 300 миллион долларлық SN50 чиптеріне тапсырыс бергенін және оларды енгізген алғашқы необұлт провайдері болатынын мәлімдеді. Бұл чиптердің артықшылығы – олар сумен емес, ауамен салқындатылады және аз энергия жұмсайды. Бұл оларды жаңа инфрақұрылым салмай-ақ, қолданыстағы деректер орталықтарына, тіпті өз қызметін өзгерткісі келетін криптовалюта майнерлерінің ғимараттарына да орнатуға мүмкіндік береді.
Компания өткен аптада өз бұлттық қызметін іске қосты және MiniMax 2.7 ашық кодты моделін іске қосу бойынша ең жоғары жылдамдықты көрсетіп отырғанын мәлімдеуде. Инвесторлар SambaNova мен General Compute арасындағы серіктестікті Nvidia мен Coreweave арасындағы табысты байланыстарға теңеуде.
“Zamin”-ді Telegram-нан оқыңыз!
