LLM推理
2 published articles
大语言模型与模型3 min read
系统优化
DSpark 揭示：快速 AI 推理是调度问题，而非模型技巧
DeepSeek 的 DSpark 论文揭示，简单的推测解码在高并发下会降低吞吐量。其解决方案, , 置信度调度的验证, , 根据每个请求调整块长度，并改变了服务性能的帕累托前沿。
2026-07-12
DeepSeek2 min read
大语言模型推理优化
Aleph Alpha 构建理论推理模型，从硬件原语解码 DeepSeek V3 性能
Aleph Alpha 的理论模型仅凭硬件参数即可预测 DeepSeek V3 的推理性能，揭示 GPU 数量和互连带宽如何改变计算、内存和通信之间的瓶颈。
2026-07-04