Графический ускоритель Nvidia Tesla V100, выпущенный восемь лет назад, по-прежнему демонстрирует высокую эффективность при локальном запуске моделей искусственного интеллекта. Тесты автора канала Hardware Haven показали, что эта серверная карта работает быстрее, чем современные модели, такие как RTX 3060 12 GB и Radeon RX 7800 XT 16 GB. Об этом сообщает Ixbt.com сообщает Ixbt.com.
Tesla V100, которую сейчас можно найти на вторичном рынке примерно за 100 долларов, требует для установки в обычный ПК адаптер SXM-to-PCIe, отдельный блок питания и систему охлаждения, напечатанную на 3D-принтере. Общая стоимость системы со всеми комплектующими составила 235 долларов.
Согласно результатам тестов, на модели GPT-oss 20B карта Tesla V100 выдавала 130 токенов в секунду, что значительно выше показателя Radeon RX 7800 XT (90 токенов/с). Также в модели Gemma4:e4b она опередила RTX 3060 12 GB с результатом 108 против 76 токенов/с.
Главное преимущество этой карты заключается в высокой пропускной способности памяти HBM2 и специализации на вычислительных процессах. Несмотря на сложность установки, серверные GPU остаются выгодным и доступным решением для энтузиастов ИИ.
Специалисты также рекомендуют обратить внимание на версии Tesla V100 с 32 ГБ памяти. Эти модели, продающиеся за 400–500 долларов, могут стать достойной альтернативой дорогим современным картам RTX для локального запуска тяжелых LLM-моделей.
Читайте «Zamin» в Telegram!
