不，AI并非竞争者，而是我们智力的延伸

现代AI系统能撰写文章、生成代码并维持流畅的对话。然而，它们在人类看来微不足道的任务上却屡屡受挫：追踪变化中的物体、在陌生环境中进行组合推理，或区分真相与看似合理的虚构。这些矛盾加剧了两极分化的争论。一些人将其视为类人智能的早期形式；另一些人则将其斥为高级的自动补全工具。

越来越多的跨学科研究，包括亚当·弗兰克、马塞洛·格莱泽和埃文·汤普森的《盲点》，以及DeepMind研究员亚历山大·勒奇纳的《抽象谬误》，指向了不同的框架。与其追问AI是否正在变得像人类一样智能，这些研究提出了一个更根本的问题：如果AI系统之所以有效，是因为它们依赖于根植于人类认知的结构呢？

语言的沉淀

在最近一篇题为《自然智能中人工智能的起源》的论文中，研究人员认为，现代AI系统既不应被理解为人类思维，也不应被视作琐碎的统计把戏。相反，它们扩展了起源于人类认知本身的结构。借鉴埃德蒙德·胡塞尔的现象学，论文提出语言已经包含了人类理解的沉淀结构，而AI系统则学习对这些结构进行建模和扩展。

作者指出，人类感知并非被动接收感官数据。我们将世界体验为通过变化而展现的稳定事物：当我们移动时，一个杯子仍然是同一个杯子；即使单个音符消逝，一段旋律仍然可辨。语言通过以概念形式表达这些稳定结构而出现。“红”、“圆”或“大于”等词语，表达了起源于生活经验的关系。

大型语言模型学习这一语言世界内的统计关系。它们捕捉概念如何在大量人类写作中相互关联。这解释了为什么AI系统能在多个领域产生连贯的回答。但这也解释了它们为何会产生幻觉。人类始终对世界负责：经验不断纠正我们的期望和信念。相比之下，AI系统仅仅扩展文本内部的模式。它们能以惊人的流畅性延续推理逻辑，但缺乏与现实世界的亲身体验，而这正是意义和真理的锚点。

组合性差距

这一框架有助于解释AI研究中反复出现的几个挑战。其中之一是“组合性差距”，即语言模型在熟悉的推理模式上表现良好，但当要求以真正新颖的方式组合概念时却失败的趋势。研究日益表明，更大的模型在提升流畅性和事实回忆速度方面，远快于提升真正的组合推理能力。从这个角度看，这不仅仅是工程上的限制，而是一种结构性边界：AI系统可以扩展语言中已沉淀的模式，但它们不具备能让人类生成真正新的概念关系的世界导向理解。

类似的模式也出现在结合语言和视觉的多模态系统中。这些系统通常能正确标记图像，但在对物体及其部件进行稳健推理时仍会失败。它们学习视觉模式与语言之间的相关性，而不是像人类那样感知随时间展开的稳定物体。结果是，系统看似流畅得令人印象深刻，但在熟悉模式之外却令人惊讶地脆弱。

安全作为系统设计

这一观点重新构建了关于AI安全的辩论。公众讨论经常在“恶意超级智能”的恐惧与AI几乎不构成重大风险的主张之间摇摆。论文认为，这两种极端都误解了当前系统的本质。最直接的风险并非源于AI拥有类人意图，而是因为它能在没有对世界进行反思性责任的情况下扩展推理模式。系统可能生成具有说服力但无根据的输出，在大规模范围内自动化有缺陷的决策，或在治理不当的环境中执行有害行动。

这与行业从模型安全转向系统安全的趋势相一致。在实践中，组织已经依赖分层保障措施（业内日益称之为“约束框架”）来约束、验证和监控AI行为。论文认为，这些机制并非临时补丁，而是反映了AI架构本身的根本特征：可信行为来自于构建AI系统并对其行为负责的人的工作，这种责任不能委托或共享给模型。

超越竞争

展望未来，作者认为现象学提供的不仅仅是批评, , 它提供了一个理解AI潜力的框架。AI系统揭示了人类认知本身一些深刻的东西：意义可以被形式化、扩展并以强大的新方式规模化。他们认为，AI的核心社会风险最终在于，抽掉它源于人类经验和认知的梯子，将AI误解为贬低我们人性的竞争智能，从而反过来贬低了AI本身的真正潜力。

因此，问题不在于AI是否会取代人类智能。而是在于，我们如何能负责任地构建能够扩展人类理解，同时仍扎根于这种理解所起源的世界的系统。如果我们误将AI系统视为自主思维，我们可能会过度信任它们。如果我们将其斥为琐碎的把戏，我们可能会忽视我们这个时代最重要的技术发展之一。一个更接地气的解释则同时承认两种真相：AI是人类智能的真正延伸，正因如此，人类仍然对其如何被理解、治理和使用负有责任。