Nvidia Nemotron 3 Ultra 颠覆智能体工作流成本方程

Nvidia 认为，AI 基础设施的未来将取决于多步推理链的总成本，而非单次推理的延迟。该公司今日在 Ollama Cloud 上发布了 Nemotron 3 Ultra。从纸面上看，该模型并不起眼，拥有 5500 亿参数。但查看细则：每个 token 仅激活 55 亿参数。90% 的稀疏率才是核心产品，而非参数数量。

Nemotron 3 Ultra 属于为智能体工作流构建的新一代模型：编排任务、编码智能体、深度研究以及跨数百个工具调用步骤运行的企业流水线。该模型支持 100 万 token 的上下文窗口，足以容纳整个代码库、长期的工具历史或多章节的研究线索，且不会损失准确性。

“智能体 AI 的真正成本不在于单次前向推理，”一位独立的 AI 基础设施分析师表示。“而在于在长链工具调用中维持连贯推理的累加成本。一个从第 1 步到第 300 步都能保持准确性的模型，将改变整个部署的经济性。”

架构层面的杠杆是 NVFP4，Nvidia 的 4 位浮点格式，它缩小了内存占用并加速了推理。结合每次 token 只激活十分之一参数的路由机制，Nemotron 3 Ultra 声称在智能体基准测试中提供领先的吞吐量，同时将推理成本相比能力相当的开放模型降低最多 30%。

Nvidia 的竞争定位很明确。随模型发布的基准测试图将其置于准确性 vs 吞吐量的右上象限，在智能体生产力、代码生成和指令遵循方面领先于现有的开源替代品。该公司强调，该模型的微调（而非预训练）是其脱颖而出的关键。Nemotron 3 Ultra 专门针对编排、强化学习反馈循环和长上下文检索进行了微调。

可用性与工具集成

该模型今日通过 Ollama Cloud 提供。用户使用单个命令 ollama run nemotron-3-ultra:cloud 调用它，并可将其桥接到现有的智能体框架中，如 Claude Code、Hermes Agent 和 OpenClaw，所有这些框架在发布时均支持该模型。Nvidia 承诺在未来几周内提供更多集成。

对开发者而言，其吸引力直截了当：用一个模型替换更昂贵的对应模型，如果基准测试成立，就能以更低的运行时成本获得相当或更好的准确性。100 万 token 的上下文可能特别吸引那些需要跨分布式 API 调用或数据库模式维护先前操作记忆的智能体团队。

对智能体 AI 生态的影响

Nemotron 3 Ultra 发布之际，行业正面临一个根本性的矛盾。智能体架构每个任务所需的 token 数量超过传统的问答模式，这推高了云服务账单。大多数优化工作集中在模型蒸馏或提示压缩上。Nvidia 则提供了一种稀疏、原生量化的模型，从架构层面声称能改变单位任务成本曲线。

“如果 Nvidia 能在不牺牲真实智能体任务准确性的前提下实现 30% 的成本节约，它将为经济可行性设定一个新的基准，”一位从事企业 AI 工作的初创公司创始人表示，他因正在与云提供商进行谈判而要求匿名。“目前，一个需要五次工具调用且上下文有 50000 token 的客户聊天，远比一个简单答案昂贵。这个差距是采用的最大障碍。”

该模型还考验了业界在多大程度上接受了将稀疏性作为生产策略。早期的稀疏模型因计算需求不可预测而饱受困扰，但 Nvidia 声称 Nemotron 3 Ultra 的路由每个 token 是确定性的，使其适用于对延迟敏感的工作负载。

竞争格局

该模型直接与 Anthropic、OpenAI 和 Meta 类似能力的密集模型竞争，尽管 Meta 也通过 Llama 4 变体探索了混合专家架构。Nvidia 的优势在于其自有硬件。NVFP4 是该公司为其 GPU 原生运行而设计的格式，这可能意味着 Nemotron 3 Ultra 能从固件和芯片级优化中受益，这是竞争对手无法复制的。

早期采用者将在编码、数据提取和工具编排等真实的、强调长上下文保持和指令遵循能力的多步骤任务上测试该模型。官方基准测试显示 Nemotron 3 Ultra 在这些维度上领先于开放模型，但独立验证将澄清 30% 的成本节约是否能在生产负载下实现。

目前，Nvidia 已为智能体 AI 工具包增加了一个可信的选择：它关注的是推理链的总成本，而非单次查询的价格标签。