1 published article
半自回归推测性解码投入生产
DeepSeek的新推测性解码框架解决了限制并行草案器的两大瓶颈:后缀衰减和浪费性验证。通过将半自回归架构与置信度调度器相结合,在目标模型验证之前修剪低价值令牌,DSpark在生产环境中实现了60%-85%的生成速度提升。
2026-07-08