L'accélérateur graphique Nvidia Tesla V100, sorti il y a huit ans, affiche toujours une grande efficacité dans l'exécution locale de modèles d'IA. Les tests effectués par la chaîne Hardware Haven montrent que cette ancienne carte serveur est plus rapide que des modèles modernes comme la RTX 3060 12 Go et la Radeon RX 7800 XT 16 Go. C'est ce que rapporte Ixbt.com .
Actuellement disponible sur le marché de l'occasion pour environ 100 dollars, la Tesla V100 nécessite un adaptateur SXM-vers-PCIe, une alimentation séparée et un système de refroidissement imprimé en 3D pour être installée dans un PC standard. Le coût total du système, avec tous les composants, était de 235 dollars.
Selon les résultats des tests, la Tesla V100 a généré 130 jetons par seconde sur le modèle GPT-oss 20B, ce qui est nettement supérieur à la Radeon RX 7800 XT (90 jetons/s). Elle a également surpassé la RTX 3060 12 Go sur le modèle Gemma4:e4b avec un ratio de 108 contre 76 jetons/s.
Le principal avantage de cette carte réside dans la bande passante élevée de sa mémoire HBM2 et son optimisation pour les calculs. Bien que l'installation soit complexe, les GPU de serveur restent une solution très utile et abordable pour les passionnés d'IA.
Les experts recommandent également de considérer les versions 32 Go de la Tesla V100. Vendus entre 400 et 500 dollars, ces modèles peuvent être une alternative valable aux cartes RTX modernes coûteuses pour exécuter des LLM plus lourds localement.
Lisez “Zamin” sur Telegram !
