智能差距：人类比AI高效百万倍

导语

Dwarkesh Patel，著名AI播客主持人，本期深入探讨AI的“样本效率”问题。他指出，尽管AI在能力上突飞猛进，但其学习效率远低于人类——数据消耗量相差近百万倍。这一差距不仅解释了当前AI的局限，更拷问着“规模扩张”路线能否通往通用智能。

核心观点

• 智能的定义是样本效率：即在特定领域用多少数据就能熟练运作。过去几年，AI进步主要靠扩大数据分布，而非提升训练样本效率。
• 强化学习本质是合成数据生成：通过大量计算配合验证器，筛选出“好数据”，再像预测下一个词那样训练模型学习这些正确轨迹。
• 人类专家数据极其定制化：每个技能需要数百位专家生成示例、编写评分标准，岗位类型细致到“Word文档专家”“并购尽职调查专家”等，催生了年入数十亿美元的数据标注产业。
• 模型像“弗兰肯斯坦”而非人：正确理解AI的方式是，它由数十亿精心构造的示例缝合而成，而非像人类那样学会多种技能。
• 开放模型落后前沿仅四个月的原因：数据是进步的主要驱动力，且易于从API蒸馏；若超参数或架构才是关键，追赶将困难得多。
• 数据差距是百万倍量级：人类一生接触约2亿tokens，前沿模型训练数据达数十万亿tokens；即使算上多模态传感器数据，盲聋人仍是通用智能的案例，说明该差距可能被低估。
• 规模扩张无法补偿样本效率：即便参数无限增加，按Chinchilla定律也仅能将数据需求降低约10倍，而人类比模型高效数千至百万倍——人类处于完全不同的扩展曲线上。
• “进化预训练”论点不成立：基因组仅3GB且大部分非编码，不足以存储预训练网络参数；更合理的类比是，进化找到了正确的超参数，人类仍是“从零开始”构建脑连接组。
• 白领工作自动化“低效但盈利”：AI训练低效无所谓，因为其技能可摊销到数十亿次会话中；人类因寿命限制，无法承受如此海量的训练。
• 外分布思考是瓶颈：软件工程等职业需频繁应对分布外问题；作者预测2027年人类软件工程师需求反会因AI互补而增加，而实验室的解法是先自动化AI研究，再解决样本效率问题。

金句

• "It's not like a human who has learned all these different skills... It's more like a Frankenstein's monster which has been built out of a billion graphs of carefully constructed examples all sewn together." —— “它不像一个学会多种技能的人类……更像一个由十亿个精心构造的示例缝合而成的弗兰肯斯坦怪物。”
• "We see these AIs as a galaxy glittering with capabilities. But at their center... is an unimaginably massive black hole of data." —— “我们视AI为闪耀着能力的星系，但其核心，用肉眼看不见之处，是一个难以想象的巨大数据黑洞。”
• "Humans are somewhere between thousands to millions of times more sample efficient than these models." —— “人类的样本效率比这些模型高出数千至百万倍。”

本内容由 AI 根据访谈字幕提炼，观点归嘉宾所有。