Terence Tao: Nobody Understands Why AI Actually Works (2025-12-31, gemini-2.5-pro)
1. 导读
在这期访谈中，数学家陶哲轩（Terence Tao）探讨了人工智能在数学科研与知识验证中的应用边界。陶哲轩从形式化证明与统计学习的区别出发，分析了当前大语言模型在严密逻辑任务中的能力局限。
对话讨论了模型生成结果在形式完美与逻辑真确之间的脱钩现象，指出机器擅长海量中等难度问题的规模化求解，但在缺乏确定性验证路径时存在不可靠性，强调了人在回路验证与高维几何分析的重要性。
2. 核心观点
陶哲轩认为：当前大语言模型基于统计模式匹配，缺乏形式化逻辑自洽的现实锚定（grounding）。 在严密科学研究中，AI 更务实的角色是作为协助探索海量长尾问题的辅助工具，而结论的正确性仍高度依赖形式化系统或人类专家的审查与验证。
1. AI 的根本缺陷是缺乏现实锚定，推理过程无法自我验证
陶哲轩指出，当前大语言模型主要通过学习语料中的统计相关性来模拟推理，其内部并不具备物理现实或严格逻辑的直接锚定（not grounded）。当模型遇到未涵盖或分布外的边界条件时，容易生成结构完整但推导有致命逻辑漏洞的解答。这种概率属性难以满足数学证明所要求的确定性。例如，模型能够复述教科书上的定理证明，但更多来自训练数据的记忆重现，而非独立的因果推导。
2. AI 在科研中的务实定位在于处理海量中等难度问题，而非攻克顶级猜想
公众往往关注 AI 能否直接证明顶级猜想，陶哲轩认为这种期望偏离了当前技术的优势所在。人类科研人员的精力主要集中在少数关键理论瓶颈上，而大量处于中等难度、具有明确验证路径的长尾问题往往因为人力有限被长期搁置。AI 的核心优势在于规模化处理，即使单次尝试成功率有限，只要搭配形式化验证系统，也能高效筛选出大量有效解，拓展科研探索的覆盖面。
3. “验证能力”将取代单纯的“信息检索”，成为关键认知技能
由于模型生成能力大幅提升，文本呈现的流畅度与内容的正确性正在脱钩。模型可以生成格式严谨、措辞专业但前提完全错误的推演。因此，未来的认知重点将从单向接收结论转向批判性审查与交叉验证。在教学与科研中，分析并纠正模型推导中的隐蔽逻辑谬误，正在成为新的核心训练内容。
4. 高维空间的几何特性违背直觉，增加了理解模型行为的难度
陶哲轩通过几何例子说明为何难以凭常识直观理解神经网络内部状态：在三维空间中，内切球占据立方体的大部分体积；而在千维空间中，内切超球体的体积占比几乎接近于零。深度神经网络参数处于极高维流形中，其决策边界的表现与低维物理经验截然不同，这需要依托形式化理论与严谨数学工具进行分析，而不能仅凭经验直觉揣测。
5. 数学符号体系具有工具演化属性，AI 正在融入这一演进过程
在探讨数学的“发明”与“发现”时，陶哲轩认为二者兼备：客观规律等待被发现，而人类不断发明符号与语言来降低推理门槛。为了提升描述效率，数学概念与定义会随历史演进不断优化（如对质数定义的规范）。AI 作为新型符号与计算辅助工具，正在被纳入这一工具演变的长河中。
3. 批判与质疑
陶哲轩的论述严谨，但也面临若干现实适用边界：
首先，依赖“专家验证”的前提是验证本身具有低成本路径。 在纯粹数学中，形式化证明检查器（如 Lean）可以提供机械化检验；但在生物医药、材料化学等依赖实体实验的学科中，验证合成路径或药效需要高昂的时间与资金成本，难以单纯依靠快速试错来过滤不可靠预测。
其次，长尾问题规模化求解可能引入潜在系统性偏差。 当大规模调用模型解决互相依赖的跨学科子问题时，若底层模型存在共同的概率盲区或偏见，微小误差在长链路中可能累积放大，影响整体系统的稳健性。
第三，对 AI 能力边界的界定主要基于现有自回归 LLM 范式。 陶哲轩强调的不可靠性紧密关联自回归架构的统计特性。若未来结合神经符号系统（Neuro-Symbolic）、形式化定理求解器（Formal Theorem Prover）实现真正的符号推理闭环，其能力边界可能会被重新定义。
第四，验证门槛提高可能加剧专业能力的分化。 审查与识别高阶逻辑漏洞需要扎实的专业底蕴，若普通使用者缺乏系统性批判能力，容易形成对模型输出的被动依赖。
4. 行业视野
这场访谈为观察 AI 与基础学科的结合提供了多维视角：
人机协同验证成为主流路线。 基础科研领域对错误容忍度极低，推动了自动化形式证明与大语言模型的深度结合，AI 负责生成候选猜想与证明策略，形式化系统与学者负责严格校验。
智能形态的多维性超越单一跑分。 陶哲轩指明，在海量模式匹配与高维参数搜索上机器远胜人类，但在因果归纳与严密判定上仍存短板，这促使行业重新思考通用智能的评价维度。
范式演化与科学工具链重塑。 计算机辅助证明在历史上曾经历从四色定理的争议到现代形式化验证的接纳过程，AI 辅助生成证明有望进一步改变数学家的协作与验证方式。
5. 启示与建议
这场对话提示：在重视模型生成效率的同时，必须同步建设确定性检验机制。
对科研人员与开发者的建议：
- 重视可解释性与形式化输出： 推动模型生成能够被编译器或证明器（如 Lean、Coq）直接解析的形式化中间语言，建立确定性的验证闭环。
- 探索神经符号结合架构： 将深度学习的探索能力与符号推理的严密性结合，构建分工明确的生成与校验系统。
对教育工作者的建议：
- 加强逻辑辨析与代码审查能力培养： 将识别 AI 生成内容中的隐含漏洞、边界失效和逻辑跳跃纳入日常训练。
对技术创业者与投资人的建议：
- 聚焦“垂直生成 + 规则验证”的工作流： 在法律审查、芯片设计验证、财务合规等对严谨度要求极高的场景中，将生成模型与确定性规则检查引擎深度集成。
结论强弱判断： 陶哲轩关于当前模型缺乏现实锚定、生成形式与真确性脱钩的判断属于强信号；而关于 AI 在科研中仅限于长尾问题处理的定位，则属于基于当前工程进展的合理推断。
6. 金句摘录
-
“But now our our ability to produce high-quality presentation has far outpaced our ability to produce high-quality content.”
- 中文意译： “现在，我们生成高质量呈现形式的能力，已经远远超出了产出高质量真实内容的能力。”
- 语境： 指出 AI 能够用工整格式包装本质错误的内容，使批判性辨别能力变得更为关键。
-
“The mystery is not so much how they run… but what is surprising is that it works really well for certain tasks, and it doesn’t work well for others. And we don’t know in advance… which tasks are good for which ones or not.”
- 中文意译： “谜团不在于它们是如何运行的……而在于它们在某些任务上极其出色，在另一些任务上却完全失效，而我们事前无法准确预测。”
- 语境： 描述当前深度学习领域在理论预测与实际工程能力之间的脱节。
-
“I think AI actually their best use case is not to to target them on on the most high-profile problems, but actually on the millions of medium difficulty problems.”
- 中文意译： “我认为 AI 的最佳应用场景并非挑战那些最受关注的顶级难题，而是去处理那数以百万计的中等难度问题。”
- 语境： 强调 AI 的核心优势在于规模化处理能力，适合解决科研长尾领域中被忽视的繁复问题。
-
“If you take a thousand dimensional cube and you inscribe a thousand dimensional ball inside it, it’s actually incredibly tiny.”
- 中文意译： “如果你在一个一千维的立方体中内切一个一千维的球体，这个球体的体积占比实际上小到不可思议。”
- 语境： 用反直觉的高维几何特性解释为何三维物理世界的经验直觉无法直接用于解释高维神经网络的行为。