图灵奖得主朱迪亚·珀尔:因果推理是AI突破的关键
图灵奖得主朱迪亚·珀尔在访谈中深入探讨了因果推理对于构建真正智能系统的重要性。他指出当前机器学习仅基于关联,而人类智能的核心在于理解“为什么”,需要通过因果模型、干预和反事实推理来实现。珀尔还分享了个人经历,以及对AI未来发展可能超越人类能力的担忧。
导语
在本期访谈中,我们荣幸地邀请到了图灵奖得主、UCLA教授朱迪亚·珀尔。作为人工智能与统计学领域的先驱,珀尔教授开创并推广了概率图模型(如贝叶斯网络)以及因果推理的深刻思想。他认为,当前以关联学习为主的机器学习正面临瓶颈,而理解“为什么”——即因果逻辑——是构建真正智能系统不可或缺的核心。珀尔结合其新著《为什么:关于因果关系的新科学》,阐述了如何通过因果模型、干预和反事实推理来突破现有AI的局限,并分享了他对未来智能、个人经历以及人类社会的深刻见解。
大纲与深读 11 章
展开「深读」看每一段讨论的问题与论据。
01
初识科学之美
- 犹大· pearl回忆童年对解析几何的痴迷,病了三天。
- 解析几何连接了代数与几何,让证明过程转化为符号操作。
- 这种跨学科的连接体验是他科学探索的起点。
深读这一段
讨论的问题:是什么样的科学神秘感最初吸引了你?
论据 / 案例:童年时发现可以用代数进行几何作图,兴奋得卧床三天。
02
教育背景与工程实践
01:00- 高中老师是1930年代从德国逃难来的数学家,教学方法独特。
- 数学学习与数学史、人物故事紧密结合。
- 从工程学士到物理学博士,再到LLC实验室的超导研究。
深读这一段
讨论的问题:你的教育背景如何塑造了你的思维方式?
论据 / 案例:老师按时间顺序教授数学史,将定理与人物联系起来;在LLC实验室做超导研究。
03
因果关系与相关性的区别
16:00- 用铃铛和硬币的例子说明忽略变量会创造虚假相关性。
- 统计学家知道条件化可以破坏或创造相关性。
- 心理学等领域常错误地从相关性推断因果关系。
深读这一段
讨论的问题:为什么从相关性推断因果关系是危险的?
论据 / 案例:通过忽略铃铛,两枚硬币看起来相关;辛普森悖论的例子。
04
因果推断的古老历史与数学空白
20:00- 因果推断问题可追溯到但以理在巴比伦的实验(约公元前6世纪)。
- 德谟克利特宁愿发现一个原因也不愿做波斯国王。
- 但直到20世纪20年代才发展出处理因果关系的数学工具。
深读这一段
讨论的问题:人类探索因果关系的历史有多悠久?
论据 / 案例:但以理让囚犯分食国王食物和蔬菜的实验;物理学方程是代数等式,缺乏方向性。
05
贝叶斯网络与因果表示
24:00- 当前机器学习本质上是条件概率估计器。
- 贝叶斯网络表达了依赖关系,但不一定是因果关系。
- 构建因果网络需要人类专家提出初始因果模型。
深读这一段
讨论的问题:如何将贝叶斯网络转化为因果网络?
论据 / 案例:机器学习被视为条件概率估计器;因果模型需要专家指定初始变量关系(如潮汐与月亮)。
06
do算子与干预数学化
30:00- do算子区分了关联(观察)与干预(行动)。
- 干预意味着切断变量X的所有外部影响,仅由肌肉力量控制。
- 通过模型可以在无法进行物理实验时进行反事实推断。
深读这一段
讨论的问题:如何用数学表达‘如果我们做了X会怎样’?
论据 / 案例:do(X)算子;在模型中进行“手术”,切断指向X的所有箭头;血压对死亡率的干预推断。
07
反事实推理与解释
40:00- 反事实推理是解释、责任和自由意志的基础。
- 例如,如果没吃阿司匹林,头痛会持续——这解释了阿司匹林的作用。
- 物理学家在方程中使用反事实(如重量加倍弹簧加倍),但机器人无法自动进行。
深读这一段
讨论的问题:反事实推理为何如此重要且困难?
论据 / 案例:阿司匹林治愈头痛的例子;胡克定律的反事实应用;机器人无法从方程进行反事实思考。
08
因果学习的挑战
48:00- 婴儿通过玩耍、操纵和家长指导学习因果关系。
- 从简单因果模型(如20个变量)到复杂模型(如2000万变量)需要结合多个学科。
- 隐喻是将熟悉领域的因果关系映射到新领域的关键。
深读这一段
讨论的问题:机器如何像婴儿一样学习因果关系?
论据 / 案例:婴儿在婴儿床上学习物体互动;古希腊用龟壳隐喻测量地球半径;癌症研究仅需约20个变量。
09
自由意志、意识与AI安全
64:00- 自由意志是拥有自己的蓝图并能在脑中修改它。
- 意识是拥有一个自我的模型,将自己视为环境的一部分。
- 构建新物种(高级AI)存在失控风险,但我们可以用因果理论指导。
深读这一段
讨论的问题:如何理解自由意志和意识,并确保AI安全?
论据 / 案例:自我的蓝图与修改;进化史上的先例(人类);因果理论(样本一加理论)而非单纯历史经验。
10
人性、邪恶与希望
72:00- 仇恨和不宽容的深度教育可以将人变为恐怖分子。
- 恐怖主义正在被“正常化”,成为政治辩论的一部分。
- 从儿子Daniel身上学到好奇心而非恐惧;给年轻人的建议是提出自己的问题并用自己的方式解决。
深读这一段
讨论的问题:面对邪恶与极端主义,人性的希望在哪里?
论据 / 案例:儿子Daniel在巴基斯坦被处决;《华尔街日报》文章《邪恶的正常化》;Daniel帮助无家可归者的温暖记忆。
11
科学遗产与反叛精神
80:00- 《为什么》旨在普及常识,鼓励学生反叛权威。
- 希望的核心遗产是“反事实基本定律”方程。
- 告诫年轻人:你不能问一个你无法提出的问题,而提问需要词汇。
深读这一段
讨论的问题:你希望留给科学界最重要的遗产是什么?
论据 / 案例:《为什么》作为学生的反叛宣言;反事实基本定律方程;“你不能问一个你无法提出的问题”作为结束语。
金句
- "You cannot answer a question that you cannot ask, and you cannot ask a question you have no words for." —— 你无法回答一个你无法提出的问题,而你无法提出一个你没有词汇来描述的问题。
- "We are building a new species that has the capability of exceeding our capabilities." —— 我们正在创造一个新物种,它有能力超越我们的能力。
- "Follow your questions and try to understand things your own way." —— 追随你的问题,并尝试用你自己的方式去理解事物。