decodificación especulativa
2 published articles
Optimización de sistemas
DSpark demuestra por qué la inferencia rápida de IA es un problema de planificación, no un truco de modelo
El artículo de DSpark de DeepSeek revela que la decodificación especulativa ingenua degrada el rendimiento bajo alta concurrencia. Su solución, la verificación programada por confianza, adapta la longitud del bloque por solicitud y desplaza la frontera de Pareto del rendimiento del servicio.
2026-07-12
Decodificación especulativa semi-autorregresiva llega a producción
El DSpark de DeepSeek acaba de solucionar las dos cosas que frenaban una inferencia de IA más rápida
Un nuevo marco de decodificación especulativa de DeepSeek aborda los dos cuellos de botella que han limitado a los generadores paralelos: la decadencia de sufijos y la verificación ineficiente. DSpark logra velocidades de generación entre un 60 y un 85% más rápidas en producción al acoplar una arquitectura semi-autorregresiva con un programador de programación basado en confianza que elimina tokens de bajo valor antes de que el modelo objetivo los verifique.
2026-07-08