SevenTnewS

AI 研究

这些研究人员找到了让 AI 智能体不说话就能思考的方法,速度快了 2.4 倍

RecursiveMAS 引入了一个名为 RecursiveLink 的模块,允许智能体交换未言明的想法,而无需将其转换为文本。该框架通过递归扩展协作,并在数学、科学、医学、代码和搜索基准测试中持续取得稳定提升。

Emmanuel Fabrice Omgbwa Yasse

2026-07-11 · 阅读需 3 分钟

这些研究人员找到了让 AI 智能体不说话就能思考的方法,速度快了 2.4 倍
来源 : Recursive Multi…·Recursive Multi…·Recursive Multi…

来自伊利诺伊大学厄巴纳-香槟分校(UIUC)、斯坦福大学、NVIDIA 和 MIT 的研究人员构建了 RecursiveMAS,这是一个将整个系统视为潜在空间中单一递归计算的多智能体框架。该预印本提出了一个简单的问题:如果递归语言模型对单个模型有效,为什么不能用于智能体? the-ai-agent-that-remembers-you-why-vitabench-20-reveals-a-chasm-between-good-chatbots-and-good-collaborators

为什么是潜在空间递归?

一旦你听说这个想法,它几乎太明显了。在大多数多智能体系统中,每个想法在传递给下一个智能体之前都会被解码成文字。这成本高昂,并且会形成语义瓶颈。RecursiveMAS 将所有中间推理过程保留在连续的潜在空间中,仅在最终轮次解码为文本。

该框架通过 RecursiveLink(一个轻量级的两层残差网络)连接异构智能体。内部链接将智能体的最后隐藏状态映射回其输入嵌入空间。外部链接在智能体之间传输潜在想法,即使这些智能体具有不同的隐藏维度。残差设计意味着该模块只需学习分布偏移,而不必学习整个语义。 how-the-m3-team-turned-math-proof-into-an-evolutionary-search-problem

架构与训练

RecursiveMAS 将所有智能体链入一个单一的递归循环中。每个智能体通过内部链接生成潜在想法,然后通过外部链接传递给下一个智能体。最后一个智能体完成后,其输出反馈给第一个智能体,从而闭合循环。训练使用一个两阶段的内外循环算法。内循环使用与真实答案嵌入分布对齐的回归目标来热启动每个 RecursiveLink。外循环展开整个系统进行多轮递归,并通过整个轨迹的反向传播优化所有链接。仅约 1300 万个参数(占整个系统的 0.31%)是可训练的。基础 LLM 保持冻结状态。

理论保证

有两项结果尤为突出。首先,基于文本的递归多智能体系统每一步都要承担与词汇表大小成正比的解码成本。RecursiveMAS 用成本低得多的潜在空间变换取而代之,消除了词汇表投影瓶颈。其次,在具有高置信度 Token 预测的现实假设下,基于文本的递归微调会面临梯度消失问题。RecursiveMAS 在循环反向传播中保持了稳定、接近恒定的梯度。 the-subtle-trap-waiting-for-ai-agents-in-production

性能与效率

在涵盖数学、科学、医学、代码和搜索的九个基准测试中,RecursiveMAS 持续击败了强大的基线模型。在 MATH500、AIME 2025、AIME 2026、GPQA-D、LiveCodeBench 和 MedQA 上,该框架在匹配的训练预算下,平均准确率比最佳基线模型提升了 8.3%。在逻辑密集型的 AIME 2025 竞赛数学任务上,提升幅度达 18.1%。在保留的代码生成基准测试 MBPP+ 上,提升了 13%。

在更深的递归轮次中,效率数据的对比更为明显。在第 3 轮,RecursiveMAS 相比基于文本的递归多智能体系统,实现了高达 2.4 倍的端到端推理加速,同时 Token 使用量减少了 75.6%。这些优势随着递归深度的增加而叠加,因为大多数递归轮次完全在潜在空间中进行。 moonshot-ais-k27-code-is-faster-and-cheaper-but-open-source-coding-models-face-a-new-benchmark-gap

跨协作模式的泛化

RecursiveMAS 是结构无关的。研究团队在四种协作模式下对其进行了实例化:顺序模式(规划者-批评者-求解器)、混合模式(领域专家加总结者)、蒸馏模式(专家-学习者)和审议模式(反思者与工具调用者)。在所有模式下,该框架都优于最强的单一智能体:混合模式提升 6.2%,审议模式提升 4.8%,蒸馏模式提升 8.0%(在这种模式下,它提升了一个较小的学习者,同时保持了相对于较大专家的 1.5 倍速度优势)。

这对多智能体系统意味着什么

这项工作指出了多智能体系统的一个新的扩展方向。与其增加更多智能体或更大的模型,潜在空间中的递归深度带来了显著的性能和效率提升。这为更灵活的智能体协调打开了大门,而无需每一步都产生解码到文本的开销,可能使复杂的多智能体架构在资源受限的部署环境中变得实用。 the-specialization-revolution-how-smaller-models-are-redefining-ais-future