NVFP4
3 published articles
Vibe编程Featured3 min read
性能更新
Ollama的MLX引擎在Apple Silicon上速度更快、内存占用更低
Ollama的MLX引擎更新带来了NVFP4量化，以实现更高质量的4位模型；通过融合Metal内核使推理速度提升20%；以及一个快照缓存系统，可消除多代理、思维模型和分支场景中共享上下文的重复处理。
2026-06-11
人工智能Featured5 min read
AI 基础设施
Nvidia Nemotron 3 Ultra 颠覆智能体工作流成本方程
Nemotron 3 Ultra，Nvidia 的密集-稀疏智能体模型，承诺将推理成本降低高达 30%（相比同级开源模型），同时保持前沿推理能力。凭借 100 万 token 上下文窗口和原生 NVFP4 量化，它被定位为企业工具调用工作负载的主力模型。
2026-06-04
人工智能Featured4 min read
本地AI推理
Ollama重写Apple芯片引擎：M5时代才是真正的主角
Ollama预览MLX支持的Apple芯片推理，将Qwen3.5-35B-A3B模型在M5上的预填充速度推至1,851 tok/s。该版本还引入NVFP4量化以保证生产级一致性，并为代理工作流提供更智能的缓存机制。
2026-03-30