导语
在本期访谈中，人工智能领域的先驱、图灵奖得主约书亚·本吉奥与主持人莱克斯·弗里德曼展开了一场深度对话。本吉奥从神经科学与AI的对比出发，剖析了当前深度学习模型在理解世界、进行长期推理以及实现泛化方面的根本性局限。他不仅指出了技术上的瓶颈，如信用分配和表征解耦，更从教育、伦理和科研方法论的角度，提出了通往更鲁棒、更符合人类价值观的未来AI的潜在路径。
AI与人脑信用分配的根本差异
图灵奖得主约书亚·本吉奥在访谈中深入探讨了当前AI与人脑在信用分配、世界理解及知识表征上的核心差异。他指出AI在长期信用分配、因果推理和常识理解上存在短板，并强调通过主动交互、解耦表征及机器教学等新方向，是突破当前AI局限、迈向更通用智能的关键。
大纲与深读 9 章
展开「深读」看每一段讨论的问题与论据。
01
生物与人工神经网络的信用分配
- 生物神经网络能进行超长时间跨度的信用分配，而人工神经网络在这方面效率低且不符合生物学原理。
- 人类能根据新证据改变对过去决策的看法并从中学习，这是当前LSTM等架构难以实现的。
- 高效的遗忘机制使人类只记住关键信息，这与意识和情绪等高层认知过程密切相关。
深读这一段
讨论的问题：生物神经网络与人工神经网络在‘信用分配’能力上的核心差异是什么？
论据 / 案例：当前循环神经网络在处理数百个时间戳的序列时表现尚可，但面对更长时间跨度则越来越困难；而人类可以记住一年前做的事并根据新证据改变想法。
02
深度神经网络的表征弱点
04:46- 当前神经网络对数据的理解停留在非常基础和低级的层面，缺乏人类认知的健壮性和抽象性。
- 训练目标（而非数据集或架构）是关键瓶颈，应转向基于因果解释和主动干预的学习框架。
- 需要联合学习语言和世界模型，让语言为高层语义概念的表征提供线索。
深读这一段
讨论的问题：当前深度神经网络在理解世界方面最薄弱的环节是什么？
论据 / 案例：纯无监督学习得到的高层表征不如监督学习（甚至仅用标签）得到的表征强大，说明语言/标签线索至关重要。
03
超越规模：学习框架的革新
08:33- 单纯增加网络深度（如从100层到1万层）不足以解决理解深度不足的问题。
- 需要彻底改变学习方式，例如从被动观察转向通过主动干预来学习因果关系的智能体。
- 当前最先进的深度学习方法甚至在简单网格世界中也需数百万样本，而人类仅需数十个。
深读这一段
讨论的问题：除了增加模型规模，实现更深层次理解还需要什么根本性变革？
论据 / 案例：强化学习（如AlphaGo）和智能体学习是当前热点，但工业应用回报尚少，长期看对构建世界模型至关重要。
04
分布式表征与因子化
14:24- 神经网络强大的原因在于其分布式表征，但当前参数高度耦合，缺乏足够的因子化和组合性。
- 理想的表征应在语义空间中同时‘解纠缠’变量（因果因子）和变量间的关系（规则）。
- 解纠缠的规则能避免灾难性遗忘，实现更好的泛化，类似于经典AI中规则彼此独立的特点。
深读这一段
讨论的问题：如何结合符号AI的组合性优势来改进神经网络的表征能力？
论据 / 案例：在像素等感官空间中信息是纠缠的，但在正确的高层语义空间中，变量及其相互关系有望被解纠缠。
05
泛化与因果知识
17:04- 当前机器学习无法预测模型在训练集分布之外的表现，而人类可以。
- 人类能泛化到新分布（如科幻小说中的外星世界），是因为能迁移底层的因果关系和物理机制知识。
- 构建能学习因果机制和世界物理规律的模型是实现强泛化的关键。
深读这一段
讨论的问题：机器学习如何才能像人类一样，泛化到与训练分布完全不同的新环境中？
论据 / 案例：人类阅读设定在完全不同星球的科幻小说仍能理解，因为底层的物理和社会互动因果知识是共通的。
06
AI安全：公共讨论与学术研究
18:37- 公共讨论应关注更紧迫的中短期社会影响，如隐私、就业、权力集中和歧视，而非遥远的‘天网’式末日情景。
- 《机械姬》等电影描绘了完全错误的科学图景（天才闭门造车），这对公众理解真实科学有害。
- 学术界应研究长期风险，但其发生的可能性极低，与当前机器学习原理不符。
深读这一段
讨论的问题：如何区分并引导AI安全在公共领域和学术界的不同讨论重点？
论据 / 案例：面部识别导致的‘老大哥’情景、自主武器、就业市场影响、权力集中和歧视等是更现实的中短期威胁；而末日风险如同研究小行星撞击地球，值得学术探讨但非当务之急。
07
机器教学与价值对齐
23:45- 通过对抗性方法等技术减少数据集中的偏见是短期可行的措施，政府应进行监管。
- 长期目标是在机器中植入道德价值观，例如通过让模型理解不公平情境引发的愤怒等基本情绪。
- ‘机器教学’是一个重要领域，旨在设计能有效引导学习者（如人类或AI）的教学策略。
深读这一段
讨论的问题：如何将人类价值观和公平性等‘道德’概念系统地融入机器学习？
论据 / 案例：‘Baby AI Game’项目旨在研究教学代理如何利用环境知识，以最有效的方式引导学习代理。
08
对话理解与非语言知识
26:53- 图灵测试中最困难的部分是理解对话所依赖的、隐含的非语言世界知识。
- 像Winograd模式这样语义模糊的句子，需要足够世界知识才能正确解释。
- 目标是构建能同时理解世界因果关系并将其与语言表达关联的系统。
深读这一段
讨论的问题：让机器真正通过图灵测试（理解自然语言）的最大挑战是什么？
论据 / 案例：Winograd模式挑战凸显了理解世界及其因果关系对于解释句子歧义的必要性。
09
科研坚持与未来方向
29:35- 科学进步是渐进的，所谓‘开创性时刻’（如AlphaGo）被高估，但其应用影响可能巨大。
- 强化学习（广义的智能体学习）是当前令人兴奋的方向，尽管短期商业回报有限。
- 生成模型（如GANs）是构建能理解世界的模型的关键组成部分，将推动基于模型的强化学习。
深读这一段
讨论的问题：面对AI寒冬和潮流变化，科研人员应如何坚持？未来的突破性进展可能在何处？
论据 / 案例：蒙特利尔学界在2-3年前几乎不研究强化学习，现在已成为学生和资深研究者（如Yoshua Bengio）最热门的话题之一。
金句
- "" —— 关于生物神经网络，我们有太多未知，这既神秘又迷人，因为这或许是改进我们人工神经网络的关键所在。
- "" —— 我认为我们需要更好地将语言学习与语言所指的世界学习结合起来，让二者能够相互促进。
- "" —— 我认为关键在于训练目标和训练框架...要从被动观察数据转变为通过干预世界来学习的主动智能体。
- "" —— 科学并非发生在某个隐藏之处、由某个天才独立完成...科学的每一步进展都源于大量人群的协作与社群互动。
- "" —— 倾听你内心的声音...如果你对某事有强烈的直觉且未被实际证据所反驳，那就坚持去做。
原文链接
↗完整内容见原文：Lex Fridman Podcast · AI与人脑信用分配的根本差异
