Chaque fois que vous envoyez une requête via ChatGPT, les données effectuent une véritable course de relais. L'information quitte la mémoire, passe par le CPU pour un traitement initial, puis se dirige vers le GPU pour des calculs complexes, avant de revenir. Ce processus se répète pour chaque mot généré par l'Intelligence Artificielle (IA). XCENA, une startup possédant des bureaux en Corée du Sud et aux États-Unis, vise à résoudre ce problème systémique. Techcrunch.com rapporte .
Cette startup vieille de quatre ans a mis au point une puce qui rapproche les capacités de calcul le plus possible de la mémoire DRAM. Cela permet d'effectuer les opérations de données standard sans les « voyages » coûteux et énergivores entre le processeur et la mémoire. Si cette technologie est déployée à grande échelle, elle pourrait réduire considérablement les coûts de l'infrastructure IA. Par conséquent, les investisseurs manifestent un grand intérêt : XCENA a récemment levé 135 millions de dollars lors d'un tour de table de série B, portant la valorisation de l'entreprise à 570 millions de dollars.
Les fondateurs de XCENA, Jin Kim, Dohun Kim et Harry Juhyun Kim, sont des experts ayant travaillé chez des géants de la mémoire comme Samsung et SK Hynix. « Au cours des dernières décennies, les CPU et les GPU sont devenus plus intelligents, mais la mémoire n'a pas changé. Nous voulons changer cela », déclare Jin Kim. Il souligne que le principal obstacle dans le domaine de l'IA n'est plus seulement la puissance de calcul, mais l'efficacité du système de mémoire.
La puce MX1 de l'entreprise se connecte au processeur via la technologie CXL (Compute Express Link) et traite les données directement au sein du module mémoire. Selon les représentants de la startup, une tâche qui nécessitait auparavant 10 serveurs pourra désormais être effectuée sur un seul serveur. Il s'agit d'une solution très attrayante, notamment pour les hyperscalers qui dépensent des milliards de dollars en infrastructure IA.
Actuellement, la puce MX1 est au stade de prototype. Selon le plan, la production de masse de ces puces sera lancée dans les usines de Samsung d'ici la fin de 2026. L'entreprise prévoit de réaliser ses premiers revenus à partir de 2027.
Lisez “Zamin” sur Telegram !
