Устаревшая Nvidia Tesla В100 обошла современные видеокарты в задачах ИИ

Графический ускоритель Nvidia Tesla В100, выпущенный восемь лет назад, по-прежнему демонстрирует высокую эффективность при локальном запуске моделей искусственного интеллекта. Тесты автора канала Хардваре Хавен показали, что эта серверная карта работает быстрее, чем современные модели, такие как RTX 3060 12 GB и Radeon RX 7800 КсТ 16 GB. Об этом сообщает Иксбт.ком сообщает Иксбт.ком.

Tesla В100, которую сейчас можно найти на вторичном рынке примерно за 100 долларов, требует для установки в обычный ПК адаптер СКсМ-то-ПКИе, отдельный блок питания и систему охлаждения, напечатанную на 3Д-принтере. Общая стоимость системы со всеми комплектующими составила 235 долларов.

Согласно результатам тестов, на модели ГПТ-осс 20Б карта Tesla В100 выдавала 130 токенов в секунду, что значительно выше показателя Radeon RX 7800 КсТ (90 токенов/с). Также в модели Гемма4:е4б она опередила RTX 3060 12 GB с результатом 108 против 76 токенов/с.

Главное преимущество этой карты заключается в высокой пропускной способности памяти ХБМ2 и специализации на вычислительных процессах. Несмотря на сложность установки, серверные GPU остаются выгодным и доступным решением для энтузиастов ИИ.

Специалисты также рекомендуют обратить внимание на версии Tesla В100 с 32 ГБ памяти. Эти модели, продающиеся за 400–500 долларов, могут стать достойной альтернативой дорогим современным картам RTX для локального запуска тяжелых ЛЛМ-моделей.