通用人工智能不过是个神话：数学、生物学与机器学习皆已证实

人们的常规预期是合理的：随着AI系统能力的增强，它们也应变得更加通用。更强的能力和更广泛的应用范围似乎是天然的伴侣。更多的资源、更好的方法和更广泛的训练，应该能够产生越来越自信地处理更多任务的系统。

但实际情况却截然不同。在任何特定领域取得最显著成果的系统，往往是那些最专注于该领域的系统。蛋白质结构预测的突破来自一个为单一科学任务设计的系统。仔细审视AI发展的历史里程碑，反映的是强烈的领域针对性，而非不断扩展的通用性。 the-specialization-revolution-how-smaller-models-are-redefining-ais-future

这种模式反复出现。它跨越了不同领域、不同时代、以及几乎毫无共同之处的架构选择。如此一致的模式暗示着一个共同的成因。这个成因并不源于AI研究本身。

算法通过适配目标而取胜

1997年，Wolpert和Macready证明了一个在AI架构讨论中很少被提及的事实：没有任何单一的、通用的优化算法能够在所有可能的问题上都优于其他所有算法。这个证明是数学上的，而非哲学上的。平均而言，在一个学习者可能面临的每一个可以设想的问题上，所有算法的表现都同样好，也同样差。一个算法在某一类问题上的增益，必然以其他问题上的损失为代价。性能被重新分配，而非倍增。

其实际含义是直接的：“一个算法通过成为目标问题的良好适配来取胜”。该定理并非说通用性不可能。它说的是通用性并非一种性能优势。达成卓越性能的一致结构性路径是集中：用广泛性换取适配性。

当有限资源进入考量时，这一点变得更加尖锐。任何真实系统都在约束条件下运行。有限的计算能力、有限的数据、有限的开发时间。在有限能量的前提下，将可用资源导向学习有限任务集的方法，将优于将相同资源分配到无限范围的方法。算力是无情的：随着任务集的无限扩展，每个任务可用的资源趋近于零。在有限资源下，全覆盖和有意义的性能处于直接紧张状态。

该定理指向的结论并非通用性不好。它更狭窄、更具操作性。正如论文所述，“普遍通用性是一个理论概念，但在实际中，它不过是个神话”。在真实约束下存活下来的，不是试图做所有事情的系统，而是适配其目标的系统。 nvidia-nemo-automodel-delivers-37x-faster-moe-fine-tuning-via-expert-parallelism-and-deepep

生物学与市场早已洞察

另外两个领域在优化理论为其命名之前就得出了相同的预测。正如论文中描述生物学案例时所说：在一个生态位上的每一次性能提升，都会在其他地方付出代价。一个通才拥有适应多种环境的特征，但无法在任何一种环境中达到最优。能力过于分散，无法在特定条件下占据主导。没有不涉及权衡的性能提升。投入到一种能力上的资源，无法同时用于另一种能力。自然选择偏爱那些与局部条件相匹配的设计，而非那些为了在所有可能环境中实现均匀覆盖而优化的设计。能够存活并繁殖的有机体并非那些最通用的，而是那些最具体适配的。在进化时间尺度上累积的结果，并非是通才主导世界，而是专才填补了各个生态位。正如论文所述：“专业化并非生物学上的偶然事件；它是有限资源、相互竞争的目标以及奖励在少数进化相关挑战上表现出色的环境所共同导致的可预见后果”。

竞争市场通过不同途径遵循着同样的动态。未能达到性能门槛的组织和战略会被淘汰。不是通过灭绝，而是通过退出、资金枯竭以及被更适配的替代品所取代。竞争充当着一种选择机制：它放大有效策略，消除无效策略。该机制与生物选择毫无共同之处。没有遗传、没有突变、没有进化时间尺度。选择的单位不是有机体，而是组织、产品或战略。然而，结构性压力是相同的：有限资源、性能要求，以及系统性地淘汰那些分布过于广泛而无法在关键领域表现出色的实体。当性能标准清晰且持续时，集中的能力总能胜过分散的能力。 openais-gpt-56-launch-rewrites-the-economics-of-frontier-ai

进化和市场通过完全不同的机制运作。不同的时间尺度、不同的选择单位、不同的遗传机制。然而，两者在资源压力下都产生了相同的结果：适应性优于广泛性。定理预测了这一点。生物学和市场独立得出了它。当第三个领域通过完全不同的途径得到相同发现时，这种模式就不再仅仅是一个定理，而开始看起来像是关于受约束系统如何运作的某种更普适的规律。

机器学习不断重新发现专业化

同样的模式也出现在机器学习内部。它不是从优化理论推导出来的，而是通过构建系统并观察什么能改进它们的累积经验得出的。最明显的例子是负迁移：当一个在多个任务上训练的系统，因为这些任务相互竞争而非合作而出现的可衡量的性能下降。当任务共享结构时，联合训练会有帮助。但是，当任务竞争表征能力或在训练期间施加冲突的梯度时，单个任务的性能会低于专用系统所能达到的水平。从广泛性中获得的收益变成了对深度的成本。它是将有限的能力分配到相互拉扯的任务上的一个已记录在案的后果。而专才系统由于没有面临这种竞争，就不必付出这个代价。

前沿模型的架构提供了另一种形式的证据。混合专家系统实现其广度，并非通过所有参数的统一通用性，而是通过将每个输入路由到网络的一个专门子集。为不同的任务激活不同的专家。本文作者将此解读为一种结构上的让步：一个旨在实现通用的系统，通过内部恢复专业化来达成其成果。这是一种有争议的解读，而非已证明的定理。这些架构是为了计算效率而设计的，它们关于通用性局限性的含义是一种合理的推断，而非明确的设计意图。但这仍然是值得注意的一点：最强大的通用系统，是通过在内部做专业系统按设计所做的事情，来达到其性能的。 aleph-alphas-new-megakernel-library-cuts-moe-inference-latency-by-200

最清晰的历史例子遵循同样的逻辑。AlphaFold通过针对特定任务、采用特定于任务的架构和训练选择，在蛋白质结构预测方面实现了跨越式进步。它的成功来自于更专注的聚焦，而非更广泛的覆盖。该论文将AlphaFold作为一个典型例子。并非作为所有专业系统都能实现同等增益的证据，而是作为对该机制的一个异常清晰的说明。这个机制已反复出现：论文指出，AI历史上的里程碑事件，即便其结果看起来像是通用智能的展示，也常常反映了强烈的领域针对性，而非广泛的通用能力。

规模效应不会改变什么

如果不谈及AI研究中最常被引用的观察之一，这篇图景将是不完整的。Sutton的“苦涩教训”认为，依赖领域知识的方法总是会被那些扩大计算规模的方法所超越。表面上看，这似乎使专业化的论点变得复杂：如果规模和通用性胜出，那么专业化可能只是在资源受限下有用的启发式方法，而这些限制会随着计算成本降低而缓解。

这种反对意见源于对两个不同概念的混淆。领域知识指的是手工编码的特征、工程化的先验知识以及旨在让系统洞察特定领域的规则。“苦涩教训”针对的是这一点，并且它这样做是正确的。明确编码领域知识的系统随着规模扩大已被持续超越。而领域专业化则不同：它是将系统资源、架构和训练导向一个有限任务集，而非广泛分配的决定。这不是对某个领域知识的编码，而是一个关于范围的决定。

这篇论文精确地划分了界限：“领域知识效用递减与领域专业化的有用性是两回事。随着规模扩大，我们为了构建一个可以完成蛋白质折叠的系统，需要了解的蛋白质知识会减少；然而，这样的系统仍然受益于专门针对蛋白质的研究。” 规模效应改变了系统可以从数据中学习什么。但它并没有改变这样一个事实：将资源集中在有限任务集上优于将它们分散到无限范围。“苦涩教训”和专业化论点是在不同维度上运作的。一个描述了知识应该如何获取，另一个描述了系统应该指向什么。两者可以同时成立。规模效应改变了系统学习的机制。但它并没有消解那个使适配性比广泛性更有价值的约束条件。 why-deep-learning-infrastructure-may-be-the-next-trillion-dollar-bottleneck-and-whos-racing-to-fix-it

趋同本身就是证据

在四种分析传统中，相同的模式通过不同的路径出现。这不是一个需要解释的巧合。这就是证据。当一个优化问题、一个生态系统、一个市场或一次训练运行中，有限资源遇到选择压力时，适配性总能战胜广泛性。具体机制各不相同。时间尺度各不相同。选择单位各不相同。但结构性动态是相同的，并且产生相同的结果。

定理并非导致生物学模式的原因。生物学也非导致市场模式的原因。两者同样不是机器学习模式的原因。它们都面临同一个底层的约束：在稀缺条件下追求性能，需要集中。定理从数学上确立的，进化史从经验上验证的，竞争市场从制度上展现的，而机器学习从架构上重新发现的, , 专业化不是一种偏好。它是当有限资源遇到性能要求时所涌现出的必然结果。