OpenAI Yeni Çipler Olmadan Yapay Zeka Maliyetlerini İki Katından Fazla Azalttı
Yapay zeka teknolojileri lideri OpenAI mühendisleri, yeni donanımlar satın almadan sistem işletim maliyetlerini önemli ölçüde azaltmanın bir yolunu buldular. The Information'ın verdiği bilgilere göre şirket, ChatGPT kullanıcılarının sorgularını işlemek için gereken hesaplama gücünü iki katından fazla azaltmayı başardı. Bu başarı sadece finansal tasarruf değil, aynı zamanda küresel ölçekteki hesaplama kaynakları kıtlığı ortamında stratejik bir avantaj anlamına geliyor. Ixbt.com haber veriyor.
Söz konusu olan, eğitilmiş modelin doğrudan kullanıcı sorgularına yanıt verme süreci, yani çıkarım (inference) optimizasyonudur. Günümüzde üretken yapay zeka geliştiren şirketler için çıkarım, en büyük maliyet kalemi olarak kabul edilmektedir. Model eğitimi belirli bir zaman diliminde gerçekleştirilirken, kullanıcılarla iletişim kurmak her sorgu için ayrı bir kaynak gerektirir.
Kaynakların rasyonel kullanımı stratejisi
Kaynakların belirttiğine göre, OpenAI tarafından uygulanan yeni optimizasyon sistemi, ChatGPT hizmetini kayıt olmadan veya ücretsiz katmanda kullananlara yöneliktir. Sonuç olarak, belirli bir zaman diliminde bu kullanıcılara hizmet vermek için gereken NVIDIA grafik işlemcileri (GPU) sayısı birkaç yüze kadar azalmıştır. Küresel ölçekteki bir servis için bu rakam beklenmedik derecede düşüktür.OpenAI şu ana kadar bu sonuca hangi teknolojik yöntemlerle ulaştığını resmi olarak açıklamadı. Uzmanlar, bu verimliliğin ek donanım kurulumuyla değil, mevcut sunucu altyapısının rasyonel kullanımı, bellek yönetiminin iyileştirilmesi veya veri paketleme işleme algoritmalarının geliştirilmesi yoluyla elde edildiğini tahmin ediyorlar.
Bu gelişme, yapay zeka pazarındaki ekonomik dengeyi değiştirebilir. NVIDIA çipleri için kuyruklar oluştuğu ve veri işleme merkezlerinin kurulması için milyarlarca dolar harcandığı bir dönemde, maliyetleri yazılım yoluyla azaltmak en etkili yoldur. Bu, OpenAI'ın hizmetlerini daha geniş bir kitleye sunmasına olanak tanır.
Gelecekteki stratejik fırsatlar
Bu teknoloji geniş ölçekte uygulanırsa, OpenAI şu imkanlara sahip olacaktır:- Ücretsiz hizmetlerin kapsamını genişletmek;
- Kurumsal müşteriler için tarifeleri düşürmek;
- Yapay zeka ajanlarının hesaplama gücünü ek maliyet olmadan artırmak;
- Mevcut altyapı ile daha fazla kullanıcıya hizmet vermek.
Özbekistan gibi gelişmekte olan pazarlar için de bu tür haberler büyük önem taşıyor. Çünkü hesaplama maliyetlerinin azalması, gelecekte ChatGPT ve benzeri teknolojilerin daha da ucuzlamasına ve yaygınlaşmasına hizmet edecektir.
Yorumlar 0
…