El acelerador gráfico Nvidia Tesla V100, lanzado hace ocho años, sigue demostrando una gran eficiencia en la ejecución local de modelos de IA. Las pruebas realizadas por el canal Hardware Haven muestran que esta antigua tarjeta de servidor es más rápida que modelos modernos como la RTX 3060 12 GB y la Radeon RX 7800 XT 16 GB. Así lo informa Ixbt.com .
Disponible actualmente en el mercado de segunda mano por unos 100 dólares, la Tesla V100 requiere un adaptador SXM-a-PCIe, una fuente de alimentación independiente y un sistema de refrigeración impreso en 3D para su instalación en un PC estándar. El coste total del sistema, incluyendo todos los componentes, fue de 235 dólares.
Según los resultados de las pruebas, la Tesla V100 generó 130 tokens por segundo en el modelo GPT-oss 20B, significativamente más que la Radeon RX 7800 XT (90 tokens/s). También superó a la RTX 3060 12 GB en el modelo Gemma4:e4b con una relación de 108 a 76 tokens/s.
La principal ventaja de esta tarjeta reside en el gran ancho de banda de su memoria HBM2 y su optimización para procesos de cálculo. Aunque el proceso de instalación es complejo, las GPU de servidor siguen siendo una solución muy útil y asequible para los entusiastas de la IA.
Los expertos también recomiendan considerar las versiones de 32 GB de la Tesla V100. Vendidos por entre 400 y 500 dólares, estos modelos pueden ser una alternativa digna a las costosas tarjetas RTX modernas para ejecutar LLM más pesados de forma local.
¡Lee “Zamin” en Telegram!
