
Tech • IA • Crypto
La mise à niveau DSpark de DeepSeek accélère l’inférence IA, augmentant la vitesse de réponse jusqu’à 85 % et améliorant fortement le débit sans changer l’intelligence du modèle.
La dernière mise à jour de DeepSeek V4 se concentre sur la performance d’inférence plutôt que sur la capacité brute. L’objectif est de rendre les modèles plus rapides, moins coûteux et plus scalables face à la demande réelle. Cela reflète une tendance sectorielle où l’efficacité de déploiement devient aussi cruciale que la qualité des modèles.
DSpark apporte d’importantes améliorations de latence, avec des vitesses de réponse par utilisateur en hausse de 60–85 % sur V4 Flash et 57–78 % sur V4 Pro. Ces gains ont été observés en trafic réel, pas seulement en benchmarks contrôlés, ce qui confirme une préparation pour la production.
Le système s’appuie sur le décodage spéculatif, où un petit modèle auxiliaire propose plusieurs tokens à l’avance et un modèle plus grand les vérifie. Cela réduit les étapes séquentielles lentes tout en préservant la qualité, puisque le modèle principal garde le contrôle final.
Les méthodes précédentes de génération multi-tokens souffraient d’une perte de cohérence en fin de séquence, appelée suffix decay. DSpark introduit une approche semi-autoregressive avec des couches légères de correction, maintenant à la fois la vitesse et la cohérence.
Deux approches ont été testées: un Markov head et un RNN head. Bien que le RNN conserve davantage de contexte, ses gains restaient limités face à sa complexité. Le Markov head, plus simple, a été retenu pour son efficacité et sa facilité de mise à l’échelle.
Une innovation clé est la confidence-scheduled verification, où chaque token proposé est évalué selon sa probabilité d’acceptation. Sous forte charge, le système vérifie moins de tokens peu fiables, économisant des ressources GPU et améliorant le débit global.
En production, DSpark a augmenté le débit global de 51–52 % aux objectifs standards. Sous forte demande, les gains dépassent 400 % à 600 % par rapport aux anciennes bases difficiles à scaler. Un exemple montre qu’un GPU gérant 100 requêtes pourrait en traiter environ 185.
Les taux d’acceptation augmentent fortement avec le filtrage adaptatif, atteignant jusqu’à 95,7 % en chat, 92,5 % en math, et 92 % en code. Malgré des brouillons plus longs, la surcharge de latence reste faible, ajoutant seulement 0,2–1,3 % de délai.
DSpark fait partie de la pile open source DeepSpec, développée avec l’Université de Pékin et compatible avec des modèles comme Qwen 3 et Gemma. Son déploiement exige toutefois des ressources importantes, dont jusqu’à 38 To de cache et des configurations multi-GPU, limitant son accessibilité.
Les gains d’efficacité sont particulièrement importants dans les régions ayant un accès limité aux puces avancées. Des entreprises comme Tencent et Xiaomi privilégient aussi l’optimisation de l’inférence, signalant une compétition axée sur le coût et la scalabilité plutôt que la seule taille des modèles.
DSpark marque un tournant où l’efficacité de service, plus que l’intelligence pure, devient le principal levier d’avantage compétitif et d’usage réel de l’IA.