Une nouvelle ère sur le marché de l'IA : General Compute lève 400 millions de dollars

Avec le développement des technologies d'intelligence artificielle (IA), les acteurs du marché se concentrent désormais non seulement sur l'entraînement des modèles, mais aussi sur leur phase d'exécution efficace (inférence). La startup General Compute a levé 400 millions de dollars de crédit auprès de la société d'investissement Upper90. La particularité de cet accord est qu'il pourrait s'agir de la première transaction financière majeure de l'histoire garantie par des puces d'inférence spécialisées. C'est ce que rapporte Techcrunch.com rapporte .

Jusqu'à présent, le marché de l'IA se concentrait principalement sur les processeurs graphiques (GPU) coûteux d'entreprises comme NVIDIA. Cependant, les puces SambaNova utilisées par General Compute sont conçues pour exécuter des modèles prêts à l'emploi plus rapidement et à moindre coût. Selon TechCrunch, le marché cherche désormais à déployer des modèles open-source sur des infrastructures rentables, offrant ainsi une alternative aux services onéreux de géants comme OpenAI ou Anthropic.

Avantages des puces d'inférence et nouvelle stratégie

Fondée par Finn Puklowski, General Compute vise à créer un « neocloud » dédié exclusivement aux charges de travail IA, contrairement aux services cloud généraux comme AWS ou Azure. Les puces SN50 de l'entreprise se distinguent par leur efficacité énergétique et ne nécessitent pas de systèmes de refroidissement liquide coûteux. Cela permet une installation plus rapide de ces puces dans divers centres de données.

Les représentants de l'entreprise soulignent que les nouvelles puces peuvent effectuer le processus d'inférence 16 fois plus rapidement que les systèmes cloud basés sur GPU. Cet indicateur est crucial pour les entreprises utilisant des applications IA en temps réel, car le coût et la vitesse de chaque requête (token) impactent directement l'efficacité commerciale.

Changements sur le marché de l'investissement

Billy Libby, cofondateur d'Upper90, a travaillé chez Goldman Sachs et a lancé en 2021 la pratique du crédit garanti par des puces GPU. À l'époque, les banques traditionnelles évitaient de telles transactions en raison de l'obsolescence rapide des puces et du niveau de risque élevé. Bien que les GPU NVIDIA dominent aujourd'hui le marché, Upper90 prédit que la prochaine vague sera liée aux puces d'inférence spécialisées.

L'intérêt pour les nouveaux fabricants de puces comme Groq et Cerebras ne cesse de croître. De plus, de nouveaux modèles comme Kimi's K3 ont prouvé qu'ils pouvaient rivaliser avec les produits des laboratoires les plus avancés en matière de codage et de tâches complexes. Cela augmente encore la demande d'infrastructures prenant en charge les modèles open-source.

En conclusion, cet accord majeur entre General Compute et Upper90 témoigne de la diversification de l'infrastructure de l'intelligence artificielle. Désormais, non seulement les supercalculateurs, mais aussi les systèmes spécialisés effectuant des tâches quotidiennes de manière rapide et économique deviennent l'axe principal de la course technologique mondiale.