DeepSeek : avancée NVIDIA dans le décodage spéculatif pour NeMo RL au 2 mai 2026

La recherche récente de NVIDIA révèle que la technique de décodage spéculatif dans NeMo RL permet une accélération de la génération de déroulement de 1,8 fois pour des modèles de 8 milliards de paramètres. Elle projette aussi une accélération potentielle jusqu'à 2,5 fois de bout en bout pour des modèles de 235 milliards de paramètres, optimisant significativement les performances des modèles de deep learning gigantesques.

Ce travail de NVIDIA démontre une accélération de génération de 1,8× à l’échelle des 8 milliards de paramètres grâce au décodage spéculatif dans NeMo RL. La projection s'étend à un gain de 2,5× sur l’ensemble du processus pour les modèles massifs de 235 milliards de paramètres, ce qui pourrait révolutionner l'efficacité énergétique et temporelle des systèmes d’IA avancés.