卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’

诺贝尔奖得主丹尼尔·卡尼曼在访谈中阐述了其双系统理论,将人类思维划分为快速直觉的‘系统一’与缓慢理性的‘系统二’。他指出当前深度学习本质上是高级的‘系统一’模式匹配,尚不具备因果推理的‘系统二’能力,并对AI的未来发展、人类记忆的建构性以及协作与决策的本质提出了深刻见解。

丹尼尔·卡尼曼

导语

诺贝尔经济学奖得主丹尼尔·卡尼曼以其对人类判断与决策心理的研究而闻名。在本次访谈中,他深入探讨了其核心理论——人类思维的“双系统”模型,并将这一框架应用于分析当前人工智能的发展。卡尼曼认为,以深度学习为代表的AI本质上是高度发达的“系统一”,擅长模式匹配,但尚不具备真正的因果推理和意义理解的“系统二”能力。他还分享了对人类记忆建构性、科学实验的局限性以及人类协作本质的深刻见解。

大纲与深读 8 章

展开「深读」看每一段讨论的问题与论据。

01

二战与人类本性

  • 二战大屠杀是对人类心理的深刻教训,表明任何人都可能在特定条件下参与极端行为。
  • 将他人非人化并拥有不受控制的权力是导致暴行的关键因素。
  • 内群体忠诚与外群体非人化是根植于人性的基本特征。
深读这一段

讨论的问题:二战,特别是大屠杀,揭示了关于人类心理的哪些根本性教训?

论据 / 案例:阿蒙·歌德审判(Amon Goeth trial)表明德国人并不特殊,这种事可能发生在任何地方。

02

双系统思维理论

08:00
  • 系统1是快速、本能、自动化的思维,无需意志努力,例如看到2+2立即想到4。
  • 系统2是缓慢、刻意、需要逻辑和努力的思维,例如计算27×14,占用工作记忆和执行功能。
  • 系统2源于动物进化出的感知系统,通过语言和大脑容量发展出反事实思考和条件推理能力。
  • 系统1包含后天习得的技能(如驾驶),能通过模式匹配高效解决问题。
深读这一段

讨论的问题:人类思维的双系统(系统1和系统2)的核心特征、区别及其进化起源是什么?

论据 / 案例:国际象棋大师的直觉(系统1)能快速选出强招,而系统2仅用于验证。

03

对AI发展的启示

16:00
  • 当前深度学习更像系统1的产物,擅长模式匹配和预测,但缺乏系统2的推理能力。
  • AI缺乏因果表征、意义理解以及与物理世界接触的“接地”能力,这是当前的主要局限。
  • 从AlphaGo到AlphaZero的发展速度令人震惊,但AI在因果推理和快速学习方面仍远落后于人类儿童。
  • 机器与人类协作可能困难重重,因为机器需要识别自身无法解决问题的“元认知”能力。
深读这一段

讨论的问题:人类思维的特性(特别是双系统理论)对于构建和理解人工智能系统有何启示?

论据 / 案例:DeepMind的AlphaGo到AlphaZero的快速演进;加里·马库斯(Gary Marcus)指出人类儿童只需几个例子就能学习,而AI需要百万级数据。

04

行人交互与博弈

24:00
  • 自动驾驶汽车需要理解行人意图,而行人过马路的行为(如眼神交流、迈步前移开视线)是一种复杂的非语言博弈。
  • 建模行人行为是困难的,因为涉及预测其基于信号和信任的互动,而非简单视为障碍物。
  • 当前自动驾驶系统大多将行人视为不可撞击的物体,而非需要交互博弈的智能体。
深读这一段

讨论的问题:在行人与自动驾驶汽车交互的场景中,人类心理和行为(如信任、承诺信号)带来了哪些AI难以解决的挑战?

论据 / 案例:行人过马路前会“看向别处”(looking away)以示意驾驶员其已承诺过街的博弈行为。

05

经验自我与记忆自我

40:00
  • 人类拥有“经验自我”(活在当下)和“记忆自我”(构建关于经历的故事),后者在决策中占主导。
  • 记忆自我对故事的构建遵循特定规则,例如时间不重要,重要的是高峰和结局(峰终定律)。
  • 人们旅行在很大程度上是为了构建记忆(供记忆自我),而非单纯体验当下,这解释了为何会为拍照而影响体验。
深读这一段

讨论的问题:什么是“经验自我”与“记忆自我”?它们的矛盾如何影响我们对幸福的理解和决策?

论据 / 案例:思想实验:如果度假后会失忆并销毁所有照片,人们可能选择不同的度假方式。

06

心理实验与复制危机

56:00
  • 心理学复制危机的主要问题出在“被试间”实验,因为研究者的直觉基于“被试内”情境,容易高估效应。
  • 研究者作为参与者能体验两种条件(被试内),但真实世界的被试只经历其一,导致实验操纵的“力量”常被错误估计。
  • 好的心理学家需要让实验捕捉到现实世界中重要且真实的现象,而这需要跨越从实验室到现实的巨大归纳鸿沟。
深读这一段

讨论的问题:心理学研究(特别是实验设计)面临的核心挑战是什么?如何区分有价值的研究与徒劳的实验?

论据 / 案例:区分被试内实验(同一人体验两种条件)与被试间实验(不同人体验不同条件)的直觉差异。

07

合作与观点改变

72:00
  • 真正高效的合作是高度个人化的,基于相互欣赏和思想共鸣,能产生“1+1>2”的信息增益。
  • 人们在重大议题(如政治、宗教)上极少因证据改变观点,而是追随其信任的领袖或社群的故事。
  • 改变公众观点往往依赖于社区领袖叙事的改变,而非单纯提供证据。
深读这一段

讨论的问题:理想的学术合作具有什么特质?以及在现实中,人们的核心观点是如何形成和改变的?

论据 / 案例:与阿莫斯·特沃斯基(Amos Tversky)的合作中,常出现“接收的信息多于发送的信息”的现象。

08

智能测试与未来展望

75:00
  • 当前AI在特定领域已超越人类,但距离“通用人工智能”(能在所有领域像人一样思考且更好)还很遥远。
  • 图灵测试的自然语言对话部分过于简单,能理解幽默、双关、新颖隐喻的对话才更具挑战性。
  • 对人类水平或超人类水平AI的看法是既着迷又恐惧,但对其未来形态的预测是徒劳的。
  • 生命的终极“为何”(the why)超出了人类的理解能力,对此无需主动寻找答案。
深读这一段

讨论的问题:什么是衡量人工智能的良好测试?以及人类作为智能体的终极驱动力或意义是什么?

论据 / 案例:AlphaZero的通用性远超AlphaGo,但仍非常狭窄;图灵测试(Turing test)因过于简单而受批评。

金句

  • "Intelligence is not only the ability to reason. It is also the ability to find relevant material in memory, and to deploy attention when needed." —— 智力不仅仅是推理的能力,也是在记忆中找到相关材料并在需要时调动注意力的能力。
  • "Deep learning matches patterns and anticipate what's going to happen so it's highly predictive. What deep learning doesn't have... is the ability to reason. There is no system two there." —— 深度学习匹配模式并预测接下来会发生什么,因此具有高度的预测性。深度学习所缺乏的……是推理的能力。那里没有‘系统二’。
  • "In any system where humans and the machine interact, that the human will be superfluous within a fairly short time, that is if the machine has advanced enough so that it can really help the human, then it may not need the human for a long time." —— 在任何人类与机器互动的系统中,如果机器足够先进以至能真正帮助人类,那么人类可能很快就会变得多余。
  • "We have one system or one self that does the living, but the other system, the remembering self, is all we get to keep. And basically, decision making and everything that we do is governed by our memories, not by what actually happened." —— 我们有一个体验的自我在生活,但另一个系统,那个记忆的自我,是我们唯一能保留下来的东西。基本上,我们的决策和所做的一切都由我们的记忆而非实际发生的事所支配。

原文链接

查看完整访谈

===

SUGGEST

人物档案建议观点条目:

  • topic: 双系统思维理论 | stance: 人类思维依赖快速直觉的系统一和缓慢理性的系统二,日常决策主要由系统一驱动。 | quote: "Intelligence is not only the ability to reason. It is also the ability to find relevant material in memory, and to deploy attention when needed." | date: 2026-08-29
  • topic: 对当前AI的评价 | stance: 深度学习本质是高级的“系统一”模式匹配,缺乏因果推理的“系统二”能力,因此强大但有限。 | quote: "Deep learning matches patterns and anticipate what's going to happen so it's highly predictive. What deep learning doesn't have... is the ability to reason. There is no system two there." | date: 2026-08-29
  • topic: 记忆与决策 | stance: 人生由体验构成,但决策和评价完全基于建构性的记忆自我,而非实时的体验自我,二者常存在冲突。 | quote: "We have one system or one self that does the living, but the other system, the remembering self, is all we get to keep." | date: 2026-08-29
完整内容见原文:Lex Fridman Podcast · 卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’