vLLM
2 published articles
DeepSeek2 min read
人工智能
DeepSeek-OCR 2 引入视觉因果流,开源文档理解再升级
DeepSeek-OCR 2 引入视觉因果流,实现类人视觉编码。该模型现已在 GitHub 上开源,支持 vLLM 和 Transformers,具备动态分辨率(最多 1,216 个视觉标记)及文档到 Markdown 的转换功能。
2026-07-09
人工智能3 min read
人工智能
Aleph Alpha新发布的超级内核库将MoE推理延迟降低200%
Alpha-MoE将多个操作融合到单个持久内核中,在vLLM和SGLang中相比基于Triton的内核实现了高达200%的推理速度提升,目标为FP8精度的MoE模型。
2026-07-09