Сегіз жыл бұрын шығарылған Nvidia Tesla V100 графикалық үдеткіші жасанды интеллект модельдерін жергілікті түрде іске қосуда әлі де жоғары тиімділік көрсетуде. Hardware Haven арнасының авторы жүргізген тесттер бұл ескі серверлік картаның RTX 3060 12 GB және Radeon RX 7800 XT 16 GB сияқты заманауи модельдерден де жылдам жұмыс істейтінін көрсетті. Бұл туралы Ixbt.com хабарлайды.
Қазіргі уақытта екінші реттік нарықта шамамен 100 долларға табуға болатын Tesla V100-ді қарапайым ДК-ге орнату үшін SXM-to-PCIe адаптері, бөлек қуат көзі және 3D-принтерде басып шығарылған салқындату жүйесі қажет. Барлық қосымша жабдықтармен бірге жүйенің жалпы құны 235 долларды құрады.
Тест нәтижелері бойынша, GPT-oss 20B моделінде Tesla V100 секундына 130 токен өндірді, бұл Radeon RX 7800 XT (90 токен/с) көрсеткішінен айтарлықтай жоғары. Сондай-ақ, Gemma4:e4b моделінде де ол RTX 3060 12 GB картасын 108 және 76 токен/с қатынасында артта қалдырды.
Бұл картаның басты артықшылығы — HBM2 жадының жоғары өткізу қабілетінде және есептеу процестеріне арнайы бейімделгендігінде. Орнату процесі күрделі болғанымен, серверлік GPU-лар жасанды интеллект әуесқойлары үшін өте тиімді және арзан шешім болып қала береді.
Мамандар 32 ГБ жады бар Tesla V100 нұсқаларына да назар аударуды ұсынады. 400–500 доллар шамасында сатылатын бұл модельдер ауыр LLM-модельдерді жергілікті түрде іске қосу үшін қымбат заманауи RTX карталарына лайықты балама бола алады.
“Zamin”-ді Telegram-нан оқыңыз!
