导语
本期节目访谈嘉宾为Anthropic CEO Dario Amodei，双方就AI技术在过去三年的发展进行深入对话。核心议题围绕“缩放定律”的延续性、强化学习新范式、AI对经济与就业的冲击，以及技术奇点临近的社会认知错位展开。
3年后AI最大的意外：无人承认指数增长将终结
核心观点
- Dario认为，AI技术自身的指数级进步基本符合他三年前的预期，从“聪明的高中生”到“聪明的本科生”再到“能独立做研究的博士生”，技术演进速度并未显著偏离轨道。但最让他感到震惊的，是公众与政策制定者对“指数增长即将触顶”这一事实的集体忽视。
- 关于强化学习（RL）的缩放定律，Dario坚持其2017年提出的“大计算块假说”——决定模型能力的核心变量不是算法巧思，而是算力、数据量、数据分布、训练时长、可扩展的目标函数以及数值稳定性等少数几个要素。预训练和RL遵循的是同一套规律。
- 针对“模型需要海量数据和算力才能学会基本技能，缺乏人类式的高效学习算法”的质疑，Dario回应称，这并非根本性缺陷。他类比GPT-1到GPT-2的演进：只有覆盖足够广泛的数据分布，泛化能力才会涌现。RL领域正在复制这一过程，从数学竞赛到代码再到更丰富的环境，泛化将随之而来。
- Dario提出一个新颖的类比：大模型的预训练和RL阶段，本质上介于人类进化与人类学习之间——“更像是进化的过程，而非个体学习的过程”。模型在长上下文中的即时学习能力，则介于人类长期学习与短期反应之间，这解释了其样本效率差异。
- 关于AGI时间表，Dario明确给出量化预测：对于“数据中心里的天才之国”这一愿景，他持90%的置信度，认为在十年内必然实现；对于端到端编码任务，他认为是1-2年内的事，且“十年后还做不到是不可想象的”。但核心不确定性集中在“不可验证的任务”上。
- 针对AI技术经济扩散速度的质疑，Dario以Anthropic自身为例：2023年营收0-1亿美元，2024年1-10亿，2025年10亿至90-100亿，2026年1月又增加数十亿。他认为AI扩散将“快于任何前代技术，但绝非瞬间完成”，是一个“快速但非无限”的过程。
- 在谈到软件工程领域的实际影响时，Dario明确区分了几个层次：AI写90%的代码、AI完成90%的端到端SWE任务、对SWE人才需求下降90%——这三者是完全不同的里程碑。他承认当前AI编码模型带来的“全要素生产率提升”仅约15-20%，但这一数字正在快速攀升。
- 关于最关键的“在职学习”能力，Dario认为，现有范式下，通过预训练泛化与长上下文学习，或已足以支撑“天才之国”的实现，并可能创造数万亿美元的市场。但他同时透露，Anthropic正在推进真正的持续学习（continual learning）研究，且“未来一两年内大概率能解决”。
- 在商业模式上，Dario认为API模式比多数人预期的更持久——因为技术快速迭代总能催生新的应用场景，API提供了最接近“裸机”的灵活性。同时他预测会出现按结果付费、按劳动力计酬等更多元化的定价模式，不同token的价值差异可能巨大，从几美分到数千万美元不等。
- 在治理层面，Dario主张“开放的竞争性宪法”模式——不同公司可以有不同的AI宪法，通过公开对比与外界反馈形成迭代压力。他反对单一、僵化的立法预设，主张“快速但不仓促”的监管节奏，在生物安全、透明度等已明确的风险领域先行立法。
金句
- "The most surprising thing has been the lack of public recognition of how close we are to the end of the exponential." —— “最令人意外的是，公众完全没有意识到我们距离指数增长的终点有多近。”
- "It's somewhere between the process of humans learning and the process of human evolution." —— “（大模型的预训练）介于人类学习和人类进化之间。”
- "We're governed by a constitution that's aligned to a set of values and not necessarily just to the end user." —— “我们受一套与特定价值观对齐的宪法约束，而不仅仅是服务于终端用户的即时需求。”
本内容由 AI 根据访谈字幕提炼，观点归嘉宾所有。
