Yapay zeka (AI) modellerini çalıştırmak için gereken işlem gücüne olan talep hızla artıyor. Bu alandaki şirketler iki temel engelle karşılaşıyor: gerekli çipleri bulmak ve bunları kârlı veri merkezlerine yerleştirmek. General Compute adlı yeni bir çıkarım (inference) neobulut girişimi, bu sorunlara benzersiz bir çözüm sunuyor. FUSE VC liderliğindeki yatırım turunda 15 milyon dolar toplayan şirketin piyasa değeri 60 milyon dolar olarak belirlendi. Bu haberi Techcrunch.com veriyor.
GPU çiplerine olan talep yüksek olsa da uzmanlar, bunların eğitilmiş AI modellerini çalıştırmak (çıkarım) için en iyi çözüm olmadığını belirtiyor. Nvidia, Groq ve Cerebras gibi devlerin yanı sıra General Compute, Intel destekli SambaNova çiplerine odaklandı. Bu özelleşmiş çipler, GPU'lardan çok daha hızlı olup saniyede 600-700 token üretme kapasitesine sahip.
General Compute, 300 milyon dolarlık SN50 çipi siparişi verdiğini ve bunları kullanan ilk neobulut sağlayıcısı olacağını duyurdu. Bu çiplerin avantajı, su yerine hava ile soğutulmaları ve daha az enerji tüketmeleridir. Bu sayede, yeni altyapı kurmaya gerek kalmadan mevcut veri merkezlerine ve hatta faaliyet alanını değiştirmek isteyen kripto para madencilerinin tesislerine bile kurulabiliyorlar.
Şirket geçen hafta bulut hizmetini başlattı ve açık kaynaklı MiniMax 2.7 modelini çalıştırmada en yüksek hızı sunduğunu iddia ediyor. Yatırımcılar, SambaNova ile General Compute arasındaki ortaklığı, Nvidia ile Coreweave arasındaki başarılı iş birliğine benzetiyor.
“Zamin”i Telegram'da okuyun!
