Sunʻiy intellekt (AI) modellarini ishga tushirish uchun hisoblash quvvatlariga boʻlgan talab keskin ortib bormoqda. Bu sohadagi kompaniyalar ikkita asosiy toʻsiqqa duch kelishmoqda: kerakli chiplarni topish va ularni daromad keltira boshlaydigan maʻlumotlar markazlariga joylashtirish. General Compute nomli yangi inferens-neoklaud startapi ushbu muammolarga oʻziga xos yechim taklif qilmoqda. Kompaniya FUSE VC boshchiligidagi investitsiya raundida 15 million dollar mablagʻ toʻpladi va uning bozor qiymati 60 million dollarga baholandi. Bu haqda Techcrunch.com xabar beradi.
Hozirda GPU chiplariga talab yuqori boʻlsa-da, mutaxassislar ular oʻqitib boʻlingan AI modellarini ishlatish (inferens) uchun eng yaxshi yechim emasligini taʻkidlamoqda. Nvidia, Groq va Cerebras kabi gigantlar qatorida General Compute oʻz eʻtiborini Intel tomonidan qoʻllab-quvvatlanadigan SambaNova chiplariga qaratdi. Ushbu ixtisoslashgan chiplar GPUʻlarga qaraganda ancha tezroq boʻlib, soniyasiga 600-700 token ishlab chiqarish imkoniyatiga ega.
General Compute allaqachon 300 million dollarlik SN50 chiplariga buyurtma bergan va ularni joriy etgan birinchi neoklaud provayderi boʻlishini maʻlum qildi. Ushbu chiplarning afzalligi shundaki, ular suv bilan emas, havo bilan sovutiladi va kamroq energiya sarflaydi. Bu esa ularni yangi infratuzilma qurmasdan, mavjud maʻlumotlar markazlariga, hatto oʻz faoliyatini oʻzgartirmoqchi boʻlgan kriptovalyuta maynerlari binolariga ham oʻrnatish imkonini beradi.
Kompaniya oʻtgan haftada oʻzining bulutli xizmatini ishga tushirdi va MiniMax 2.7 ochiq kodli modelini ishga tushirish boʻyicha eng yuqori tezlikni namoyish etayotganini daʻvo qilmoqda. Investorlar SambaNova va General Compute oʻrtasidagi hamkorlikni Nvidia va Coreweave oʻrtasidagi muvaffaqiyatli aloqalarga qiyoslashmoqda.
“Zamin”ni Telegramʻda oʻqing!
