Inférence LLM
2 published articles
LLM & Modèles3 min read
Optimisation des systèmes
DSpark montre que l’inférence rapide de l’IA est un problème d’ordonnancement, pas un tour de modèle
L’article de DSpark de DeepSeek révèle que le décodage spéculatif naïf dégrade le débit en situation de forte concurrence. Sa solution, la vérification à ordonnancement par confiance, adapte la longueur des blocs par requête et déplace la frontière de Pareto des performances de service.
2026-07-12
DeepSeek2 min read
Optimisation de l'inférence LLM
Aleph Alpha construit un modèle d'inférence théorique pour décoder les performances de DeepSeek V3 à partir de primitives matérielles
Le modèle théorique d'Aleph Alpha prédit les performances d'inférence de DeepSeek V3 à partir des seuls paramètres matériels, révélant comment le nombre de GPU et la bande passante d'interconnexion déplacent le goulot d'étranglement entre le calcul, la mémoire et la communication.
2026-07-04