Yann Lecun: Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI (2024-03-08, gemini-2.5-pro)
1. 导读
Meta 首席 AI 科学家、图灵奖得主 Yann LeCun 在这场访谈中系统阐述了他对当前 AI 技术路线的判断：以 GPT-4 和 Llama 为代表的自回归语言模型（Autoregressive LLMs）无法直接通向通用人工智能（AGI）。他从物理世界交互与信息带宽切入，指出单纯依赖自回归机制的语言模型缺乏真正的世界模型，并提出了以联合嵌入预测架构（JEPA）与目标驱动规划为核心的技术替代路径。
对话不仅涵盖了自回归范式的底层瓶颈，还深入探讨了为何单纯通过规模定律（Scaling Law）扩充参数和语料无法解决常识与规划问题。此外，LeCun 还就开源模型对防范技术垄断的重要性、AI 安全与过度监管的弊端分享了具体见解。
2. 核心观点
Yann LeCun 的核心论断是：智能的核心依赖对物理世界的预测模型，而不是对语言符号的序列生成。 现有的自回归大语言模型本质上更接近“系统一”式的反应模式，缺乏理解物理世界、持久记忆、严谨推理和长程规划四项关键能力。他认为外界容易因语言表达的流利程度而高估模型的认知深度；要实现人类水平的智能，单纯扩大模型规模与语料并不足以弥补架构本身的结构性局限，必须转向新的系统范式。
自回归 LLMs 是一条通往通用人工智能（AGI）的死胡同
LeCun 指出，仅靠预测下一个词元（token）的自回归机制，语言模型无法获得对物理现实的实质理解。这背后的核心差异在于信息带宽：一个四岁儿童通过视觉等感官接收到的信息量（约 10^15 字节）远超训练当前大型语言模型所用的全部文本数据（约 10^13 字节）。语言是现实世界经过高度压缩与抽象的产物，信息密度相对稀疏，无法独立支撑完整的世界模型。这解释了莫拉维克悖论（Moravec’s paradox）：大语言模型可以顺利通过专业考试，却很难像十岁儿童那样在几分钟内学会收拾餐桌，或在几十个小时内掌握驾驶。它们缺少对直觉物理与因果关系的常识认知，而这类常识必须在连续的多维感官交互中习得。
真正的学习在于预测抽象表征，而非像素级的生成
在过去十年中，通过生成模型（Generative Models）直接预测视频下一帧来学习世界模型的路线收效有限。原因在于真实世界充满不可预测的细节（例如树叶随风晃动），强行预测每一个像素会消耗大量参数去拟合无关紧要的随机噪声，难以提炼出稳定的物理规律。LeCun 提出的替代方案是联合嵌入预测架构（JEPA, Joint-Embedding Predictive Architecture）。JEPA 不在原始像素空间生成细节，而是在抽象的表征空间中进行预测。例如，模型通过被遮挡视频片段的高维表征去预测完整画面的表征，迫使系统只捕捉具有可预测性的本质物理规律与运动轨迹，从而学到鲁棒的抽象表征。Meta 发布的 I-JEPA 和 V-JEPA 即是该架构在无标注图像与视频特征学习上的验证。
未来 AI 的核心能力是“目标驱动规划”，而非“序列生成”
LeCun 认为当前语言模型的生成过程类似于条件反射，按词元逐步输出，每个词元分配的计算量固定，难以就复杂问题展开长程推演。真正的智能类似于“系统二”思维，需要在采取行动前进行规划和优化。借助基于 JEPA 构建的世界模型，智能系统可以运行“模型预测控制”（Model Predictive Control）：在采取行动前，先在内部世界模型中模拟推演不同行动序列的结果，挑选最符合设定目标（Objective）的方案执行。这种基于优化的目标驱动架构，能让系统的输出经过约束推演，而非单纯基于统计概率顺次拼接。
开源是遏制 AI 权力集中和偏见的唯一解药
谈及围绕大模型产生的价值取向争议，LeCun 认为单一且闭源的商业模型不可能做到绝对客观，因为价值判断与文化背景密切相关。试图依靠中心化的人工干预强行打造一个普适且完全中立的系统，往往会导致规则过度修正乃至变形。他认为解决这一问题的路径是保持模型生态的多样性，而开源是实现多样性的基础。基础模型开源后，不同地区、行业和社群可以根据各自的文化背景与业务需求进行微调与部署。这不仅能降低技术接入壁垒，也是防止信息分发与认知接口被少数科技巨头垄断的关键机制。
3. 批判与质疑
LeCun 的论述逻辑严整，但其技术设想仍建立在数个尚待大规模验证的前提之上，面临以下几处现实挑战：
首先，对纯文本学习世界模型的能力界限可能估计过严。 尽管语言的信息带宽远低于视觉信号，但人类语言中蕴含着极其丰富、高度凝练的逻辑结构与常识关系。大模型在大规模文本训练中表现出的上下文推理与泛化能力，说明符号系统内部仍具备构建高阶表征的潜力。纯文本模型能走多远、其表示能力的上限到底在哪里，在工程实践中依然是一个开放问题。
其次，JEPA 架构在更大规模与通用任务上的有效性仍待验证。 目前 V-JEPA 等实验在动作分类、物理合理性判断等下游任务上表现良好，但离支撑复杂物理机器人完成日常非结构化操作（如整理复杂房间）所需的通用世界模型，仍有明显的工程距离。该架构能否像 Transformer 一样在大规模数据与算力支持下稳定扩展，仍需更多验证。
再者，非符号世界模型与符号语言系统的整合存在工程断层。 LeCun 提倡先让系统像动物一样通过感知交互建立底层世界模型，再将语言系统叠加于其上。然而人类智能的一大特征正是符号抽象与感知经验的深度协同。如何将连续、高维的物理世界表征与离散的自然语言符号高效打通，避免两种系统各自为战，是这一路线必须跨越的难题。
最后，分层规划（Hierarchical Planning）的自动学习机制尚未解决。 LeCun 坦言，如何让机器自主从宏观目标（如“前往另一座城市”）逐层拆解至微观物理动作（如“肌肉控制与步态调整”），目前在理论和算法层面均无成熟方案。若无法实现分层抽象规划，基于优化的系统在长时程、复杂任务中将面临组合爆炸。
4. 行业视野
Yann LeCun 的思考为当下 AI 产业的发展路径提供了对照视角：
它对单纯依赖规模定律的共识构成了理论分歧。当前主流观点倾向于认为持续扩充数据量和模型参数即可逐步实现智能跃迁；LeCun 则代表了“架构优先”的路线，主张基础拓扑结构的缺陷无法仅凭参数规模来掩盖。这一分歧在具身智能、因果推断与端到端学习等方向引发了更多对模型架构本身的反思。
同时，这场对话也反映了业内对自回归模型固有缺陷的共识正在扩大。针对事实幻觉、逻辑推演脆弱和不可控等问题，行业开始更多地转向混合路线：将大语言模型作为语言交互界面，辅以外部代码执行器、检索数据库与环境模拟器（即 Agent 范式），本质上也是在为纯自回归机制补足规划与校验环节。
在开源与商业化格局上，Meta 持续开源 Llama 系列的战略，对专有 API 商业模式形成了显著的制衡效应。开放权重模型加速了中小开发者与学术界的落地尝试，降低了下游采用门槛，并为全球开发者在技术自主权与定制化方面提供了替代选择。
在安全治理与监管方面，LeCun 主张防范权力垄断多于防范虚构的技术生存威胁。他认为不应通过过度的预防性准入门槛限制技术扩散，而应通过开源生态的竞争保持技术透明度与多元选择。
5. 启示与建议
这场讨论提醒从业者重新审视“语言智能是否等同于通用智能”这一基本假设：
对于开发者和创业者：
- 审视单纯依赖外部模型 API 的壁垒：仅做模型提示词封装的产品易被模型本身能力的迭代覆盖。结合专有场景、多模态传感器数据或具备物理环境交互闭环的系统，更易形成独立的业务壁垒。
- 跟进具身智能与多模态感知进展：机器人控制、自动驾驶和工业视觉检测等需要与物理环境实时交互的场景，正是下一代世界模型架构的重要验证地。提前积累物理交互数据与评测环境具备长远价值。
对于投资人：
- 关注架构创新与底层方法演进：除应用层产品外，可适当关注致力于世界模型学习、模型预测控制（MPC）以及具身硬件结合的早期团队，分散在单一 Transformer 路径上的配置。
- 避免只以算力规模衡量技术深度：算力是训练的必要支撑，但算法架构的设计同样决定了模型处理复杂物理常识与规划任务的上限，需要综合评估团队在架构设计与基础研究上的积累。
对于研究者：
- 聚焦分层规划与抽象表征学习：分层规划、跨模态表征对齐以及自监督物理世界表征学习目前仍存在大量理论与工程空白，是具备探索空间的学术方向。
总体而言，LeCun 对自回归模型局限的归纳切中了业界的实际痛点，其提出的 JEPA 路线则提供了一个具有探索价值的方向。实际的技术演进是否会沿着其设想展开，仍需关注后续开源模型与具身智能系统的实证成果。
6. 金句摘录
-
“If you’re really interested in human level AI, abandon the idea of generative AI.”
- 中文意译：“如果你真的对人类水平的人工智能感兴趣，就放弃生成式 AI 的想法吧。”
- 语境：在对比了生成模型（预测像素）在表征学习中的局限与联合嵌入架构（预测高维表征）的优势后，LeCun 提出研究重心应从原始信号生成转向抽象表征预测。
-
“We’re really fooled by their fluency… We just assume that if a system is fluent in manipulating language, then it has all the characteristics of human intelligence, but that impression is false.”
- 中文意译：“我们真的被它们的流畅性欺骗了……我们想当然地认为，一个能流畅操纵语言的系统就具备了人类智能的所有特征，但这种印象是错的。”
- 语境：LeCun 指出，人类习惯于将语言表达的流利程度与深层理解力画等号，这是评估大语言模型时容易出现的认知偏差。
-
“…the desire to dominate is something that has to be hardwired into an intelligent system. It is hardwired in humans… not in orangutans… and they are as smart as we are, almost.”
- 中文意译：“……支配欲这种东西，是必须被硬编码进一个智能系统里的。它被硬编码在人类体内……但却没有出现在猩猩（Orangutans）身上……而它们几乎和我们一样聪明。”
- 语境：在探讨模型潜在风险时，LeCun 借由灵长类动物的差异指出，智能本身并不必然附带支配欲望，支配动机是特定社会性物种演化的产物，而非智能的天然伴生物。
-
“What works against this is people who think that for reasons of security, we should keep the AI systems under lock and key… That would lead to a very bad future in which all of our information diet is controlled by a small number of companies who proprietary systems.”
- 中文意译：“与此（AI 多样性）背道而驰的，是那些认为出于安全考虑我们应该把 AI 系统锁起来的人……那将导致一个非常糟糕的未来，我们所有的信息食粮都将被少数几家公司的专有系统所控制。”
- 语境：LeCun 强调，以绝对安全为名对 AI 进行封闭管控可能带来信息渠道过度集中的后果，主张通过开源来保障技术使用的广泛性与多样性。