
Tech • IA • Crypto
NVIDIA a présenté une transition vers des « usines d’IA » alimentées par une co‑conception extrême entre puces, infrastructure et logiciels afin de répondre à la demande croissante en IA générative et agentique.
L’informatique connaît des mutations parallèles: le passage des systèmes basés sur CPU au calcul accéléré par GPU, l’essor rapide de l’IA générative, et l’émergence de l’IA agentique capable de raisonner et d’agir. Ces tendances étendent l’usage de l’IA à de nombreux secteurs, de la recherche scientifique à la robotique et aux systèmes autonomes.
Bien que le nombre de transistors continue d’augmenter, les gains de coût et d’efficacité énergétique prévus par la loi de Moore et le Dennard scaling ont cessé vers 2005. Cela a forcé une refonte de l’informatique autour du parallélisme massif, les GPU prenant en charge des charges autrefois limitées aux CPU monothread.
Les modèles d’IA évoluent à environ 10× plus de paramètres par an, tandis que la génération de tokens explose sous l’effet de l’inférence et du raisonnement. Des architectures comme le mixture-of-experts augmentent fortement l’usage interne de tokens, jusqu’à 100× plus de tokens par sortie.
Les centres de données optimisés pour le coût sont remplacés par des usines d’IA conçues pour maximiser les tokens par watt et les tokens par dollar. Ils deviennent des systèmes de production générant des revenus via l’IA, plutôt que de simples infrastructures IT.
La disponibilité électrique détermine la capacité des usines d’IA. Des techniques proches du stockage d’énergie lissent les charges d’entraînement fluctuantes, réduisant les pics de demande. Cela permet jusqu’à 40 % de GPU en plus par gigawatt, augmentant directement production et revenus.
NVIDIA décrit une approche « gâteau à cinq couches »: énergie, puces, infrastructure, modèles et applications. L’optimisation se fait à la fois au sein de chaque couche et entre elles, assurant un fonctionnement unifié du silicium au logiciel.
Les systèmes combinent GPU Rubin, CPU Vera et des technologies réseau comme NVLink, Spectrum-X, ConnectX et BlueField DPU. Cette intégration permet de passer d’un rack unique à des centres entiers, tout en améliorant l’efficacité et en réduisant le coût par token jusqu’à 10×.
Les clusters GPU denses nécessitent un refroidissement liquide et le passage de 50V à des systèmes 400–800V. Le cuivre est utilisé dans les racks, tandis que les technologies optiques—en particulier le co-packaged optics (CPO)—réduisent les pertes de signal et économisent de l’énergie à grande échelle.
Les agents d’IA créent des boucles continues où les systèmes génèrent et traitent leurs propres prompts. Ces charges exigent des réseaux plus rapides et de nouvelles architectures mémoire, dont le KV cache (mémoire à court terme) et un stockage persistant pour le contexte long.
Des systèmes spécialisés comme CMX pour le court terme et STX pour le long terme soutiennent les flux agentiques. Ils améliorent le débit de tokens et l’efficacité jusqu’à 5×, permettant un raisonnement et une utilisation d’outils plus rapides.
NVIDIA continue d’optimiser les modèles de pointe, atteignant jusqu’à 30× de gains de performance sur les architectures récentes. Ses bibliothèques CUDA-X accélèrent des applications dans des domaines comme la conception de puces, la simulation et l’analytique de données.
L’IA agentique est présentée comme une nouvelle catégorie de travailleurs numériques capables de planifier, raisonner et exécuter des tâches. Ce cadre s’applique à de nombreux secteurs, promettant des gains de productivité importants, de la santé à l’industrie.
La transition vers des usines d’IA marque une refonte profonde de l’informatique, où des systèmes matériel‑logiciel étroitement intégrés maximisent efficacement la production d’IA à grande échelle.