Илон Маскқа тиесілі және Grok жасанды интеллектін дамытып жатқан xAI компаниясы есептеу қуаттарын кеңейтуде елеулі мәселеге тап болды. The Information басылымының хабарлауынша, компания Memphis және Colossus кластерлерінде 550 мыңға жуық NVIDIA H100 және H200 графикалық үдеткіштерін орнатқан.
Бұл туралы Ixbt.com хабарлайды.
Алайда, бұл инфрақұрылымның нақты жүктемесі небәрі 11 пайызды құрап отыр.
Бұл үдеткіштердің орасан зор паркінен тек 60 мың GPU эквиваленті ғана тиімді жұмыс істеп тұрғанын білдіреді. Мәселе құрылғылардың жетіспеушілігінде емес, мұндай ауқымды жүйені басқарудың күрделілігінде болып отыр.
Жүз мыңдаған графикалық процессорлар ауқымында деректерді тасымалдау және синхрондау кезеңдері арасындағы кідірістер тез жинақталады.
Дереккөзге сәйкес, xAI-дың бағдарламалық және бөлінген архитектурасы әлі жеткілікті деңгейде жетілмеген. Сол себепті, GPU деректерді немесе тапсырмаларды күтуге көп уақыт жұмсайды және жалпы тиімділік төмендейді.
Салыстырмалы түрде айтсақ, Meta және Google сияқты ірі компаниялар тиісінше 43 және 46 пайызға дейінгі көрсеткіштерге қол жеткізуде. Ал xAI жүктемені 50 пайызға жеткізуді мақсат етіп отыр.
“Zamin”-ді Telegram-нан оқыңыз!
