Yapay zeka pazarında yeni dönem: General Compute 400 milyon dolar yatırım aldı

Yapay zeka (AI) teknolojilerinin gelişmesiyle birlikte pazar katılımcıları artık sadece modelleri eğitmekle kalmıyor, aynı zamanda bunları verimli bir şekilde çalıştırma (inference) aşamasına da büyük önem veriyor. General Compute girişimi, yatırım firması Upper90'dan 400 milyon dolar tutarında kredi sağladı. Bu anlaşmanın kendine has özelliği, tarihte ilk kez özel inferans çiplerinin teminat olarak gösterilmesiyle gerçekleştirilen büyük bir finansal işlem olmasıdır. Bu haberi Techcrunch.com bildiriyor. aktarıyor.

Şimdiye kadar AI pazarında ana odak noktası, NVIDIA gibi şirketlerin pahalı grafik işlemcileri (GPU) üzerindeydi. Ancak General Compute tarafından kullanılan SambaNova çipleri, hazır modelleri daha hızlı ve daha ucuza çalıştırmak için tasarlanmıştır. TechCrunch verilerine göre pazar artık açık kaynaklı modelleri (open-source) uygun maliyetli altyapılarda çalıştırmaya yöneliyor; bu da OpenAI veya Anthropic gibi devlerin pahalı hizmetlerine bir alternatif oluşturuyor.

Inferans çiplerinin avantajı ve yeni strateji

Finn Puklowski tarafından kurulan General Compute, geleneksel AWS veya Azure gibi genel bulut hizmetlerinden farklı olarak, yalnızca AI iş yükleri için tasarlanmış bir "neocloud" oluşturmayı hedefliyor. Şirketin SN50 çipleri enerji verimliliği ile öne çıkıyor ve bunlar için pahalı su soğutma sistemleri gerekmiyor. Bu durum, söz konusu çiplerin çeşitli veri merkezlerine daha hızlı kurulmasını sağlıyor.

Şirket temsilcileri, yeni çiplerin GPU tabanlı bulut sistemlerine kıyasla inferans sürecini 16 kat daha hızlı gerçekleştirebildiğini belirtiyor. Bu gösterge, AI uygulamalarını gerçek zamanlı kullanan işletmeler için oldukça kritiktir. Çünkü her bir isteğin (token) maliyeti ve hızı, iş verimliliğini doğrudan etkilemektedir.

Yatırım pazarındaki değişimler

Upper90 kurucu ortağı Billy Libby, daha önce Goldman Sachs bankasında çalışmış olup 2021 yılında GPU çiplerini teminat göstererek kredi verme uygulamasını başlatmıştı. O dönemde geleneksel bankalar, çiplerin hızlı eskimesi ve risk seviyesinin yüksek olması nedeniyle bu tür işlemlerden kaçınıyordu. Günümüzde NVIDIA GPU'ları pazarın ana parçası haline gelmiş olsa da, Upper90 bir sonraki dalganın tam olarak özelleşmiş inferans çipleriyle ilgili olacağını öngörüyor.

Şu anda Groq ve Cerebras gibi yeni çip üreticilerine olan ilgi artıyor. Ayrıca Kimiʼs K3 gibi yeni modeller, kod yazma ve karmaşık görevlerde en önde gelen laboratuvarların ürünleriyle rekabet edebileceğini kanıtladı. Bu durum, pazarda açık kaynaklı modelleri destekleyen altyapıya olan talebi daha da artırıyor.

Özetle, General Compute ile Upper90 arasındaki bu büyük anlaşma, yapay zeka altyapısının çeşitlendiğini gösteriyor. Artık sadece süper bilgisayarlar değil, günlük görevleri hızlı ve ucuz bir şekilde yerine getiren özelleşmiş sistemler, küresel teknolojik yarışın ana yönü haline geliyor.