不要把智能与权力混为一谈

文章探讨了“智能”定义的常见误区,指出将智能等同于“在广泛领域实现目标的能力”会使其与“权力”混淆。作者以特朗普、斯大林为例,说明现实中的权力更多源于制度赋予的权威和信任,而非个体大脑的超级计算能力。在AI语境下,当前AI的进步方向(如编程)与权力获取的相关性不强。正确的模型或许是,未来是AI集体在商业规则下竞争,而非单一超级智能体凭智识统治一切。

导语

在讨论人工智能未来时,一个关键的概念混淆常常被忽略:智能与权力。Dwarkesh Patel 指出,如果我们简单地将“智能”定义为“在广泛领域实现目标的能力”,那么历史上最具权势的人物(如斯大林)就该被视为最智能的人。这种定义将智能与权力直接等同,但现实世界的运行逻辑并非如此。本文旨在厘清这一区别,并探讨其对理解AI发展轨迹的重要意义。

大纲与深读 5 章

展开「深读」看每一段讨论的问题与论据。

01

智力与权力的混淆

  • 有人将智力定义为跨领域实现目标的能力,据此认为斯大林是史上最具智力的人。
  • 这种定义实质上将智力等同于权力,而特朗普、普京等强权人物并不以抽象思维见长。
  • 物理学等领域的顶尖智力与政治权力之间的关联性,甚至可能弱于身高与权力的关联。
深读这一段

讨论的问题:如果智力被定义为“跨领域实现目标的能力”,那么如何区分智力与权力本身?

论据 / 案例:作者举例:如果采用此定义,斯大林会是史上最具智力的人;特朗普、习近平、普京紧随其后。但世界最强大的人在抽象思维(如旋转图形)上并未达到顶尖。

02

AI智能与权力追求的脱钩

00:20
  • 当前AI变得更智能的方式(如通过经济任务训练)与追求权力的能力相关性不强。
  • 我们容易混淆“追求权力的AI”与“在科技领域具有超智能的AI”。
  • AI可以像特朗普一样被赋予技能和驱动力,但其当前发展路径并非如此。
深读这一段

讨论的问题:当前AI系统的智能化路径(如针对经济任务优化)是否会自然导向权力追求?

论据 / 案例:作者指出:当前AI通过训练在编码等特定经济任务上变得出色,这与权力追求的相关性不强。

03

现实世界中权力的真正来源

00:35
  • 我们的直觉常受《外交》或围棋等游戏的影响,认为权力源于高智商的策略谋划。
  • 在现实世界中,权力更多源于获得他人协作的权威与信任,而非孤立的超强脑力。
  • 特朗普的权力源于其政府的合法性赋予的权威,而非其大脑是最高效的优化引擎。
深读这一段

讨论的问题:现实世界中的权力究竟是如何产生的?

论据 / 案例:作者论据:权力是授权和信任的产物,使数百万人协作;特朗普的权力来自政府合法性,而非个人大脑的优化能力。

04

个体与群体的智力效应

00:55
  • 个体智商与个体收入仅中度相关,但国家智商与国家发展成果强相关。
  • 智力有溢出效应:更聪明的社会合作更多、储蓄更多,能协调建造航天飞机等复杂项目。
  • 英国历史上有许多像特里维西克(发明高压蒸汽机但贫困而死)这样的个体,这些个体的集合支撑了帝国。
深读这一段

讨论的问题:个体智力与群体智力在产生社会结果上有何不同?

论据 / 案例:引用Garett Jones的观点:个体IQ与个体收入相关性弱,但国家IQ与国家结果强相关。案例:理查德·特里维西克发明高压蒸汽机却死于贫困,但众多类似个体使英国建立了全球帝国。

05

对AI未来竞争模式的展望

01:15
  • 正确的思维模型是:自动化公司将在常规资本主义竞争中胜出,而非单个AI以智取胜。
  • AI集体之间的竞争可能比人类想象的更有效,因为AI间通信障碍远小于人机通信。
  • 单个AI可以像群体一样运作(可复制、共享记忆/权重),因此单个AI本身就已是一个“集体”。
深读这一段

讨论的问题:未来AI竞争的主要模式会是怎样的?

论据 / 案例:作者结论:自动化公司将通过常规商业竞争胜出。评论者Lucas Klein补充:单个AI可复制、共享权重,本身即是一个“集体”,且AI间通信障碍越来越小。

金句

  • "If your definition of intelligence is "the ability to achieve your goals across a wide variety of domains", then Stalin was the most intelligent person who ever lived." —— 如果你把智能定义为“在广泛领域实现目标的能力”,那么斯大林就是有史以来最智能的人。
  • "In the real world, power is more the product of having the authority and trust to get lots of people to collaborate with you, rather than some galaxy brain scheming capability." —— 在现实世界中,权力更多是你拥有权威和信任,能让许多人与你协作的产物,而非某种超级大脑的谋划能力。
  • "The right mental model is that automated firms will outcompete everyone else in normal capitalist ways, rather than a single AI outthinking everyone else." —— 正确的思维模型应该是,自动化公司将以常规的资本主义方式击败所有竞争对手,而不是单个AI凭智识超越所有人。
  • "The correlation between extreme power and this kind of intelligence might be even weaker than the correlation between extreme power and height." —— 极端权力与这类(抽象概念操作)智能之间的相关性,甚至可能弱于极端权力与身高之间的相关性。

原文链接

查看完整访谈

=== SUGGEST=== 无

完整内容见原文:Dwarkesh Podcast · 不要把智能与权力混为一谈