丹尼尔·卡尼曼

丹尼尔·卡尼曼

Daniel Kahneman
诺贝尔经济学奖得主、心理学家
海外PC 优先级✓ 已收录 1 期访谈

立场时间线 7 条 · 7 个议题

同一议题按时间排列,说法变化一目了然。

双系统思维
2020-01

人类思维分为快速直觉的系统一和缓慢理性的系统二,而智力不仅是推理能力,还包括从记忆中检索相关材料并按需调动注意力。

“Intelligence is not only the ability to reason. It is also the ability to find relevant material in memory, and to deploy attention when needed.——智力不仅仅是推理的能力,也是在记忆中找到相关材料并在需要时调动注意力的能力。”

来源访谈 →
相关观点 (3)杰弗里·辛顿 · 人类认知本质:人类并非纯粹的理性推理机器,而是主要依靠类比进行思考的‘类比机器’。尼克·博斯特罗姆 · 计算主义:意识取决于计算的结构与过程而非物质载体,与人类大脑完全相同的计算就足以产生意识唐杰 · 记忆与推理:记忆靠更多参数存储知识,而推理能力的提升依赖高质量后训练数据和有效深度,不再是简单堆参数
AI局限
2020-01

以深度学习为代表的当前AI本质是高度发达的“系统一”,擅长模式匹配与预测,但缺乏“系统二”式的推理能力,因而强大却有局限。

“Deep learning matches patterns and anticipate what's going to happen so it's highly predictive. What deep learning doesn't have... is the ability to reason. There is no system two there.——深度学习匹配模式并预测接下来会发生什么,因此具有高度的预测性。深度学习所缺乏的……是推理的能力。那里没有‘系统二’。”

来源访谈 →
相关观点 (3)弗朗索瓦·肖莱 · 深度学习局限:深度学习本质是逐点的几何映射学习,需要训练数据对输入-输出空间密集采样,因而在抽象推理和远距离泛化任务上能力有限。朱迪亚·珀尔 · AI瓶颈:珀尔认为当前深度学习等机器学习本质上是条件概率估计器,只能学习变量间的关联,无法回答因果问题,这限制了AI达到真正智能水平。黄仁勋 · AI扩展:AI扩展并未遇到数据耗尽等根本性瓶颈,推理即思考且计算强度极高,扩展已形成预训练、后训练、测试时计算与智能体扩展的持续增强循环,最终受限因素是算力而非数据或架构
人机协作
2020-01

机器一旦先进到能真正帮助人类,人类将在很短时间内变得多余,因此纯粹的人机协作可能只是不稳定的过渡阶段。

“In any system where humans and the machine interact, that the human will be superfluous within a fairly short time, that is if the machine has advanced enough so that it can really help the human, then it may not need the human for a long time.——在任何人类与机器互动的系统中,如果机器足够先进以至能真正帮助人类,那么人类可能很快就会变得多余。”

来源访谈 →
相关观点 (3)凯特·达林 · 自动化与就业:未来不是机器人变得像人并取代人类工作,而是人类技能与机器人补充性技能的结合,自动化长期会提高生产力和平均生活水平,但转型期阵痛需被正视。加里·卡斯帕罗夫 · 人机协作:人机关系的未来方向是人与机器协作而非对抗,纯粹比拼算力人类无法与机器抗衡维杰·库马尔 · 人机协作:机器人最终是为人类服务的,人机交互不可避免,互动虽给搜救等任务增加复杂性,但机器人主动建模人类状态可提升整体安全性
记忆与决策
2020-01

人的决策和一切行为都由记忆自我而非实际发生的体验支配,体验自我与记忆自我的幸福常常冲突。

“We have one system or one self that does the living, but the other system, the remembering self, is all we get to keep. And basically, decision making and everything that we do is governed by our memories, not by what actually happened.——我们有一个体验的自我在生活,但另一个系统,那个记忆的自我,是我们唯一能保留下来的东西。基本上,我们的决策和所做的一切都由我们”

来源访谈 →
相关观点 (3)丽莎·费尔德曼·巴瑞特 · 情绪建构论:情绪是大脑将身体感觉与记忆结合进行意义建构的结果,而非固有的生理反应。丽莎·费尔德曼·巴瑞特 · 现实建构性:我们体验到的现实是大脑基于预测主动建构的,而非被动感知的结果。丽莎·费尔德曼·巴瑞特 · 身份建构:人的身份是动态的,在每一刻由过去的记忆与当下的感知共同定义。
机器学习差异
2020-01

认同加里·马库斯的观点:人类儿童能从两三个例子快速学习而机器学习需要百万级数据,说明人类天生具备先验知识框架,而AI领域尚未解决如何内置这种先验知识。

“人类儿童能从极少的例子(两三个)中快速学习,而机器学习需要百万级数据。这表明人类天生具备某种预期或知识框架,使高效学习成为可能,而AI领域尚未解决如何内置这种“先验知识”的问题。”

来源访谈 →
相关观点 (3)Dwarkesh Patel · 样本效率:人类与AI的样本效率差距接近百万倍,AI掌握技能所需的数据和练习量远超人类。加里·马库斯 · 常识瓶颈:马库斯认为常识缺失是当前AI最大瓶颈,常识既包括物理知识也包括心理知识,机器可解释的常识知识库将极大加速AI进步。Ryan Greenblatt · 领域特性:他认为机器学习相对数学是浅层领域,更依赖爬山式累加创新而非深邃抽象,因此AI更容易通过大量可验证子任务训练获得核心研发直觉。
机器理解
2020-01

要让机器真正理解语言和意义,可能需要赋予其感知系统并与物理世界互动(“接地”),不与外界感知交互的系统谈论世界的方式是空洞的。

“要让机器真正理解语言和意义,可能需要赋予其感知系统,使其与物理世界产生互动(“接地”)。一个完全不与外界感知交互的系统,其谈论世界的方式是空洞的。身体对于构建关于世界的知识至关重要。”

来源访谈 →
相关观点 (3)Matt Pocock · 人机沟通:人与AI智能体之间存在沟通壁垒,必须先在人与智能体之间建立一套通用语言,协作才能真正顺畅。戴维·费鲁奇 · 可沟通AI:费鲁奇希望机器最终能与人类交流理解,从人类获取知识并向人类传达知识,而非构建无法沟通的外星智能。罗德尼·布鲁克斯 · 机器思考:机器当然能思考,因为人本身就是机器,而人都在思考。
复制危机
2020-01

心理学等领域的复制危机主要出在“被试间”实验上:研究者本人处于“被试内”视角,因而对“被试间”实验的效应强度和可预测性产生严重误判。

“问题主要出在“被试间”实验上。研究者本人处于“被试内”视角(能清晰感受两种条件的对比),但这使得他们对“被试间”实验(不同的人处于不同条件)的效应强度和可预测性产生严重误判。”

来源访谈 →
相关观点 (1)Dwarkesh Patel · AI科研:由于重大概念性突破无法即时验证,无法轻易为其训练强化学习循环。

金句墙 4 条

“Intelligence is not only the ability to reason. It is also the ability to find relevant material in memory, and to deploy attention when needed.”

智力不仅仅是推理的能力,也是在记忆中找到相关材料并在需要时调动注意力的能力。

卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’ · 2020/1/14

“Deep learning matches patterns and anticipate what's going to happen so it's highly predictive. What deep learning doesn't have... is the ability to reason. There is no system two there.”

深度学习匹配模式并预测接下来会发生什么,因此具有高度的预测性。深度学习所缺乏的……是推理的能力。那里没有‘系统二’。

卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’ · 2020/1/14

“In any system where humans and the machine interact, that the human will be superfluous within a fairly short time, that is if the machine has advanced enough so that it can really help the human, then it may not need the human for a long time.”

在任何人类与机器互动的系统中,如果机器足够先进以至能真正帮助人类,那么人类可能很快就会变得多余。

卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’ · 2020/1/14

“We have one system or one self that does the living, but the other system, the remembering self, is all we get to keep. And basically, decision making and everything that we do is governed by our memories, not by what actually happened.”

我们有一个体验的自我在生活,但另一个系统,那个记忆的自我,是我们唯一能保留下来的东西。基本上,我们的决策和所做的一切都由我们的记忆而非实际发生的事所支配。

卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’ · 2020/1/14

访谈收录

卡尼曼谈双系统思维与AI:深度学习仍是‘系统一’