AI不是智能工程,而是决策市场

在访谈中,迈克尔·I·乔丹教授澄清了当前AI领域的本质:它并非追求通用智能的科学,而是一个正在形成的、基于统计和计算的工程领域。他强调,该领域的核心在于做出大规模、有后果的决策,并构建连接生产者与消费者的新市场。乔丹教授批评了过度依赖广告的商业模式,并以音乐产业为例,设想了一个由数据和算法驱动的、能直接创造经济价值的新型创作者经济。

迈克尔·I·乔丹

导语

迈克尔·I·乔丹是机器学习领域的奠基人之一,但他对当前“人工智能”的命名和愿景提出了深刻的质疑。他认为,我们并未在创造“智能”,而是在构建一个全新的、基于数据和决策的工程领域,类似于化学工程从化学中诞生。这场对话的核心在于重新定义AI:不是模仿人类思维,而是设计能大规模处理现实世界不确定性、并创造新经济市场的系统。乔丹教授以音乐产业为例,描绘了一个AI驱动的、能直接连接创作者与消费者的未来,同时批判了当前科技巨头过度依赖广告的商业模式。

大纲与深读 9 章

展开「深读」看每一段讨论的问题与论据。

01

AI历史定位与类比

00:38
  • 将当前AI发展类比为化学工程或电气工程从基础科学中诞生的过程
  • 认为当前AI是基于统计和计算机科学的工程学雏形,而非真正的智能科学
  • 指出AI领域存在过度承诺和炒作的问题,需要更清晰的定义
深读这一段

讨论的问题:如何从历史视角理解当前AI/机器学习的发展阶段?

论据 / 案例:化学工程从化学中诞生,电气工程从电磁学中诞生;机器学习是基于统计和计算思想的工程学原型形式

02

大脑理解与科学局限

01:56
  • 强调人类对大脑工作原理的理解极其有限,类似于古希腊人对登月的想象
  • 认为脑机接口等应用在缺乏基础理解的情况下更多是工程尝试而非科学突破
  • 指出神经科学研究需要数百年,当前理解仍停留在隐喻层面
深读这一段

讨论的问题:我们对人脑计算的理解处于什么水平?

论据 / 案例:单个突触的电镜图像显示其为‘独立城市’,涉及离子、蛋白质、DNA等复杂交互;锂盐治疗躁郁症原理不明

03

AI定义与领域边界

07:23
  • 主张将当前AI重新定义为‘基于数据的大规模决策系统’,而非模仿人类智能
  • 强调AI的核心是‘预测+决策’,决策部分涉及真实世界的后果和风险
  • 反对‘人工智能’这一术语,认为它制造了不切实际的期望
深读这一段

讨论的问题:当前AI领域的准确定义和核心挑战是什么?

论据 / 案例:麦卡锡因与控制论创始人维纳的个人矛盾而创造‘AI’一词,该术语导致承诺无法兑现

04

预测与决策之争

12:36
  • 批评纯预测方法的局限性,强调决策需考虑因果关系、风险评估和不确定性
  • 指出医疗等高风险场景不能仅依赖神经网络的预测概率
  • 强调决策涉及市场力量、他人行动和外部性,需要更全面的框架
深读这一段

讨论的问题:预测和决策在AI系统中应如何平衡?

论据 / 案例:以心脏病诊断为例,即使预测准确率超过医生,也需进行‘假设分析’和医患对话

05

音乐市场构想

15:03
  • 提出构建透明、数据驱动的音乐创作者-听众直接交易市场
  • 设想创作者可通过仪表板查看实时收听数据,并获得演出和商品销售机会
  • 强调AI应创造新市场而非取代人类工作,需解决数据透明和反欺诈问题
深读这一段

讨论的问题:如何用AI构建公平高效的音乐市场?

论据 / 案例:假设场景:创作者在Providence有1万次收听,当地可据此邀请演出;听众可一键购买创作者T恤

06

推荐系统与文化融合

17:39
  • 推荐系统需连接真实经济价值,而非仅依赖点击率优化
  • 平台需与创作者文化建立可信关系,而非强行收购或控制
  • 算法推荐应帮助用户发现未知兴趣,而非强化现有偏见
深读这一段

讨论的问题:推荐系统如何更好地服务创作者和用户?

论据 / 案例:亚马逊早期书籍推荐让用户发现新知;Netflix通过制作原创内容建立文化信誉

07

广告模式批判

19:07
  • 指出广告模式导致平台优先考虑点击率而非真实价值,助长假新闻
  • 主张建立创作者-消费者直接交易市场,平台通过微支付分成盈利
  • 认为Facebook等公司因商业模式缺陷难以转型,而Amazon更接近理想模式
深读这一段

讨论的问题:如何改革当前以广告为主导的平台商业模式?

论据 / 案例:以搜索印度旅行建议为例:理想模式是用户广播需求,创作者提供付费个性化建议

08

隐私与信任困境

22:00
  • 批评Facebook等公司过度收集数据且缺乏透明审计机制
  • 认为用户对数据使用应有选择权和控制权,区分‘浏览’与‘购买’场景
  • 指出微软通过‘不作恶’战略成功转型,而Facebook信任度持续走低
深读这一段

讨论的问题:如何在数据利用与用户隐私间取得平衡?

论据 / 案例:用户不希望Facebook仅凭窃听对话就推送印度旅行广告;Microsoft在Satya Nadella领导下重塑信任

09

人类复杂性与算法局限

24:57
  • 强调人类兴趣的丰富性和不可预测性,算法难以完全捕捉
  • 主张平台应提供探索空间而非过度个性化,允许意外发现
  • 认为订阅模式不适用于音乐等易复制内容,价值在于人际连接
深读这一段

讨论的问题:算法推荐应如何处理人类兴趣的复杂性?

论据 / 案例:用户偶然点击英国女王新闻,不希望算法因此持续推送相关内容;街头偶遇智利音乐可能发现新爱好

金句

  • "This is not about AI... this is about building systems that bring value to human beings and use human data and mix in human decisions." —— 这无关人工智能……这是关于构建能为人类带来价值、使用人类数据并融合人类决策的系统。
  • "We don't know what intelligence is and real intelligence we don't know much about abstraction and reasoning at the level of humans we don't have a clue." —— 我们不知道智能是什么,对于人类层面的抽象和推理,我们一无所知。
  • "Prediction is everything, but prediction plus decision making is everything." —— 预测就是一切,但预测加上决策才是全部。
  • "The fake news actually rides on top of that because it means that you're monetizing with click-through rate and that is the core problem." —— 虚假新闻实际上是附着其上的,因为这意味着你通过点击率变现,而这才是核心问题。

原文链接

查看完整访谈

完整内容见原文:Lex Fridman Podcast · AI不是智能工程,而是决策市场