微软新方法将黑箱大脑AI转化为可解读理论

近十年来，大语言模型一直是预测人脑如何响应语言的最精确工具。将LLM输入与受试者在fMRI扫描仪中听到的相同故事，该模型的内部表征能以惊人的保真度预测单个皮层区域的激活情况。然而，这些模型却无人能解读。它们是庞大且不可理解的参数集合，无法被直接翻译为可解释的内容。一个预测脑活动的模型可以告诉你某个区域对语言有反应，但却无法说明这种反应是针对食物、场所、数字还是其他截然不同的东西。随着黑箱模型的 proliferate，预测与理解之间的鸿沟已成为计算神经科学的核心难题之一。llms-corrupt-your-documents-when-you-delegate-a-close-look-at-the-delegate-52-benchmark

将黑箱转化为可测试理论

在一篇被《自然·神经科学》接收的论文中，微软研究院的科学家与加州大学伯克利分校、加州大学旧金山分校及哥伦比亚大学的同事合作，提出了摆脱这种可解释性危机的方法。他们的框架, , 生成式因果测试（GCT）, , 将大脑预测模型蒸馏为关于每个皮层区域所响应内容的简短可读描述，然后对这些描述进行检验。LLM编写新的故事，旨在激活特定脑区。受试者在扫描仪中聆听这些故事。如果解释正确，目标脑区便会激活。其结果是一种方法，将无法解读的预测模型重新转化为科学的货币：即能够在后续实验中得到确认或反驳的简洁假设。ai-as-an-extension-of-human-intelligence-not-a-replacement

GCT的工作原理

GCT分两步进行：解释，然后验证。生成解释时，该方法首先针对单个体素或脑区建立一个预测模型，并识别出最强烈驱动其预测响应的短语。然后，LLM将这些单词概括为简洁的语言解释，通常是诸如“食物准备”或“地点名称”这样的单个短语。

关键的第二步闭环。为了建立对该解释的信任，GCT利用LLM编写新的故事，其中每个段落都精心构建，以根据解释驱动某个脑区。三位受试者返回扫描仪阅读这些合成故事。如果某个脑区对其“驱动性”段落的激活显著高于基线文本，则该解释通过了真正的因果检验，而不仅仅是相关检验。ifbench-the-new-benchmark-testing-ai-instruction-following

在所有三位受试者中，核心方法得以确认：合成故事可靠地驱动其目标脑区高于基线水平，证明GCT的简短解释捕捉到了皮层真正响应的内容。在基础大脑预测模型最稳健的区域，解释也最为可信：模型越稳定，其解释在扫描仪中被确认的可靠性就越高。在选择性已经已知的脑区验证了该方法后，研究人员将GCT转向更困难的问题。

GCT还足够敏锐，能够解决长期存在的歧义。三个参与处理位置的邻近脑区：后压部皮层（RSC）、海马旁位置区（PPA）和枕叶位置区（OPA），通常被视为功能相似。起初，为一个区域编写的故事也会激活其他区域。但通过生成差异化刺激, , 旨在打开一个区域同时保持其邻近区域静默的故事, , GCT将三者区分开来。例如，RSC对专有名词位置名称（如“东京”或“康涅狄格州”）的响应比一般位置更强。这正是原始预测模型无法自行提供的、细微且具备区域特异性的理论。

在已知区域之外，作者发现了新的前额叶“微区域”。通过扫描候选位置的网格并只保留最稳定的网格点，GCT揭示了这些之前未被绘制的微区域，这些区域对非常特异的概念具有响应性：一个区域对人物对话敏感（如“说”或“告诉”），另一个区域对提及时钟时间敏感（如“一点钟”），还有一个对数字测量值敏感（如“50英尺”）。这些都是没有人专门寻找过的区分；它们之所以出现，是因为该方法能够提出假设并立即进行测试。microsofts-phi-4-achieves-state-of-the-art-efficiency-in-new-research-paper

意义与展望

GCT的意义远不止于神经科学。许多领域的研究人员越来越面临同样的困境：一个预测完美但无法解释任何问题的模型。GCT表明，一个数据驱动的模型不必成为探究的终点。它可以被蒸馏为可读、可实验检验的理论，并且可以通过按需生成新实验来对照现实检验该理论。

具体到神经科学，GCT指向了一种更快、更富假设的皮层映射方式：在这种方式中，AI系统提出某个脑区可能编码的内容，闭环实验在同一研究中确认或拒绝该内容。同样的生成与验证哲学可以扩展到其他领域，在这些领域，强大的预测模型已超越了我们理解它们的能力。更广泛的启示是令人乐观的：科学中黑箱模型的兴起不一定意味着可读理论的退却。有了合适的框架，两者可以共同进步。open-by-design-ai2-brings-fully-open-ai-infrastructure-online-with-nsf-omai

这项工作由微软研究院、加州大学伯克利分校（Alex Huth, Bin Yu, Sihang Guo, Aliyah Hsu）、哥伦比亚大学（RJ Antonello，共同第一作者）和加州大学旧金山分校（Shailee Jain）合作完成。该论文发表在《自然·神经科学》上，代码已在GitHub上发布。