图灵奖得主朱迪亚·珀尔:因果推理是AI突破的关键

图灵奖得主朱迪亚·珀尔在访谈中深入探讨了因果推理对于构建真正智能系统的重要性。他指出当前机器学习仅基于关联,而人类智能的核心在于理解“为什么”,需要通过因果模型、干预和反事实推理来实现。珀尔还分享了个人经历,以及对AI未来发展可能超越人类能力的担忧。

朱迪亚·珀尔

导语

在本期访谈中,我们荣幸地邀请到了图灵奖得主、UCLA教授朱迪亚·珀尔。作为人工智能与统计学领域的先驱,珀尔教授开创并推广了概率图模型(如贝叶斯网络)以及因果推理的深刻思想。他认为,当前以关联学习为主的机器学习正面临瓶颈,而理解“为什么”——即因果逻辑——是构建真正智能系统不可或缺的核心。珀尔结合其新著《为什么:关于因果关系的新科学》,阐述了如何通过因果模型、干预和反事实推理来突破现有AI的局限,并分享了他对未来智能、个人经历以及人类社会的深刻见解。

大纲与深读 11 章

展开「深读」看每一段讨论的问题与论据。

01

初识科学之美

  • 犹大· pearl回忆童年对解析几何的痴迷,病了三天。
  • 解析几何连接了代数与几何,让证明过程转化为符号操作。
  • 这种跨学科的连接体验是他科学探索的起点。
深读这一段

讨论的问题:是什么样的科学神秘感最初吸引了你?

论据 / 案例:童年时发现可以用代数进行几何作图,兴奋得卧床三天。

02

教育背景与工程实践

01:00
  • 高中老师是1930年代从德国逃难来的数学家,教学方法独特。
  • 数学学习与数学史、人物故事紧密结合。
  • 从工程学士到物理学博士,再到LLC实验室的超导研究。
深读这一段

讨论的问题:你的教育背景如何塑造了你的思维方式?

论据 / 案例:老师按时间顺序教授数学史,将定理与人物联系起来;在LLC实验室做超导研究。

03

因果关系与相关性的区别

16:00
  • 用铃铛和硬币的例子说明忽略变量会创造虚假相关性。
  • 统计学家知道条件化可以破坏或创造相关性。
  • 心理学等领域常错误地从相关性推断因果关系。
深读这一段

讨论的问题:为什么从相关性推断因果关系是危险的?

论据 / 案例:通过忽略铃铛,两枚硬币看起来相关;辛普森悖论的例子。

04

因果推断的古老历史与数学空白

20:00
  • 因果推断问题可追溯到但以理在巴比伦的实验(约公元前6世纪)。
  • 德谟克利特宁愿发现一个原因也不愿做波斯国王。
  • 但直到20世纪20年代才发展出处理因果关系的数学工具。
深读这一段

讨论的问题:人类探索因果关系的历史有多悠久?

论据 / 案例:但以理让囚犯分食国王食物和蔬菜的实验;物理学方程是代数等式,缺乏方向性。

05

贝叶斯网络与因果表示

24:00
  • 当前机器学习本质上是条件概率估计器。
  • 贝叶斯网络表达了依赖关系,但不一定是因果关系。
  • 构建因果网络需要人类专家提出初始因果模型。
深读这一段

讨论的问题:如何将贝叶斯网络转化为因果网络?

论据 / 案例:机器学习被视为条件概率估计器;因果模型需要专家指定初始变量关系(如潮汐与月亮)。

06

do算子与干预数学化

30:00
  • do算子区分了关联(观察)与干预(行动)。
  • 干预意味着切断变量X的所有外部影响,仅由肌肉力量控制。
  • 通过模型可以在无法进行物理实验时进行反事实推断。
深读这一段

讨论的问题:如何用数学表达‘如果我们做了X会怎样’?

论据 / 案例:do(X)算子;在模型中进行“手术”,切断指向X的所有箭头;血压对死亡率的干预推断。

07

反事实推理与解释

40:00
  • 反事实推理是解释、责任和自由意志的基础。
  • 例如,如果没吃阿司匹林,头痛会持续——这解释了阿司匹林的作用。
  • 物理学家在方程中使用反事实(如重量加倍弹簧加倍),但机器人无法自动进行。
深读这一段

讨论的问题:反事实推理为何如此重要且困难?

论据 / 案例:阿司匹林治愈头痛的例子;胡克定律的反事实应用;机器人无法从方程进行反事实思考。

08

因果学习的挑战

48:00
  • 婴儿通过玩耍、操纵和家长指导学习因果关系。
  • 从简单因果模型(如20个变量)到复杂模型(如2000万变量)需要结合多个学科。
  • 隐喻是将熟悉领域的因果关系映射到新领域的关键。
深读这一段

讨论的问题:机器如何像婴儿一样学习因果关系?

论据 / 案例:婴儿在婴儿床上学习物体互动;古希腊用龟壳隐喻测量地球半径;癌症研究仅需约20个变量。

09

自由意志、意识与AI安全

64:00
  • 自由意志是拥有自己的蓝图并能在脑中修改它。
  • 意识是拥有一个自我的模型,将自己视为环境的一部分。
  • 构建新物种(高级AI)存在失控风险,但我们可以用因果理论指导。
深读这一段

讨论的问题:如何理解自由意志和意识,并确保AI安全?

论据 / 案例:自我的蓝图与修改;进化史上的先例(人类);因果理论(样本一加理论)而非单纯历史经验。

10

人性、邪恶与希望

72:00
  • 仇恨和不宽容的深度教育可以将人变为恐怖分子。
  • 恐怖主义正在被“正常化”,成为政治辩论的一部分。
  • 从儿子Daniel身上学到好奇心而非恐惧;给年轻人的建议是提出自己的问题并用自己的方式解决。
深读这一段

讨论的问题:面对邪恶与极端主义,人性的希望在哪里?

论据 / 案例:儿子Daniel在巴基斯坦被处决;《华尔街日报》文章《邪恶的正常化》;Daniel帮助无家可归者的温暖记忆。

11

科学遗产与反叛精神

80:00
  • 《为什么》旨在普及常识,鼓励学生反叛权威。
  • 希望的核心遗产是“反事实基本定律”方程。
  • 告诫年轻人:你不能问一个你无法提出的问题,而提问需要词汇。
深读这一段

讨论的问题:你希望留给科学界最重要的遗产是什么?

论据 / 案例:《为什么》作为学生的反叛宣言;反事实基本定律方程;“你不能问一个你无法提出的问题”作为结束语。

金句

  • "You cannot answer a question that you cannot ask, and you cannot ask a question you have no words for." —— 你无法回答一个你无法提出的问题,而你无法提出一个你没有词汇来描述的问题。
  • "We are building a new species that has the capability of exceeding our capabilities." —— 我们正在创造一个新物种,它有能力超越我们的能力。
  • "Follow your questions and try to understand things your own way." —— 追随你的问题,并尝试用你自己的方式去理解事物。

原文链接

查看完整访谈

完整内容见原文:Lex Fridman Podcast · 图灵奖得主朱迪亚·珀尔:因果推理是AI突破的关键