Yapay zeka ajanları, basit sohbet botlarından 136 kat daha fazla enerji tüketiyor
Yapay zeka (AI) teknolojileri geliştikçe, basit sohbet botlarından bağımsız hareket edebilen AI-ajanlar seviyesine yükseliyor. Ancak, Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) bilim insanları tarafından yürütülen bir araştırma, bu yeni nesil sistemlerin ekoloji ve enerji altyapısı için ciddi riskler oluşturabileceğini gösterdi. AI-ajanların tek bir sorguyu gerçekleştirmek için basit üretken modellere kıyasla 136,5 kat daha fazla elektrik enerjisi tükettiği ortaya çıktı. Bu konuda Ixbt.com haber veriyor.
Bilim insanları, ChatGPT gibi geleneksel sohbet botlarının kullanıcı sorgusuna tek bir yanıt oluşturmakla sınırlı olduğunu açıklıyor. AI-ajanlar ise karmaşık görevleri yerine getirmek için bağımsız olarak plan yapıyor, internette arama gerçekleştiriyor, yazılım kodlarını çalıştırıyor ve harici uygulamalarla etkileşime giriyor. Bu süreç, büyük dil modellerine (LLM) defalarca başvurulmasını gerektiriyor ve bu da hesaplama kaynaklarına olan ihtiyacı ciddi oranda artırıyor.
Enerji krizi ve hesaplama gücü
Profesör Minsoo Rhu liderliğindeki araştırmacı grubu, AI-ajanları veri merkezleri için özel bir yük türü olarak analiz etti. Deneyler, 70 milyar parametreli bir dil modeline dayalı tek bir AI-ajan sorgusunun ortalama 348,41 Wh enerji tükettiğini gösterdi. Karşılaştırma yapmak gerekirse, bu değer basit bir sohbet botunun kısa bir yanıtı için harcanan gücün yüzlerce katıdır.ixbt.com verilerine göre araştırmacılar, başka bir ilginç senaryoyu daha modellediler: Eğer AI-ajanlar günde Google arama motoru gibi 13,7 milyar sorguyu işleseydi, 198,9 GW güce ihtiyaç duyacaklardı. Bu, neredeyse tüm ABD genelinde tüketilen ortalama elektrik enerjisinin yarısına denk geliyor. Mevcut veri merkezleri ve enerji sistemleri, bu denli devasa bir yükü kaldırmaya hazır değil.
Araştırmada, AI-ajanların çalıştığı sırada grafik işlemcilerin (GPU) zamanın yüzde 54,5'inde harici araçlardan gelen yanıtı bekleyerek boşta kaldığı belirtiliyor. Ancak, bu bekleme süresinde bile donanımlar enerji tüketmeye devam ediyor. Bu durum, teknolojinin verimliliğinin hala oldukça düşük olduğunu gösteriyor.
Gelecekteki sorunlar ve çözümler
Şu anda OpenAI, Google, Microsoft ve Anthropic gibi teknoloji devleri, AI-ajanları yapay zeka gelişiminin bir sonraki aşaması olarak aktif bir şekilde teşvik ediyor. Ancak KAIST bilim insanlarının vardığı sonuç, bu teknolojinin geniş çapta uygulanmasının sadece algoritmaların zekasına bağlı olmadığı yönünde. Sektörü genişletmek için aşağıdaki alanlarda değişiklikler gerekiyor:- Yarı iletkenlerin enerji verimliliğini temelden artırmak;
- GPU (grafik işlemci) yükünü optimize etmek;
- Veri merkezlerinin mimarisini yeniden gözden geçirmek;
- Küresel enerji altyapısını genişletmek.
Yorumlar 0
…