AGI路径：算力瓶颈还是渐进实现
通用人工智能的实现主要瓶颈是能源等物理限制，还是当前深度学习范式通过渐进演化即可达成？
立场盘点 348 位
十年内实现“数据中心里的天才之国”有90%的置信度，端到端编码任务将在1-2年内完成。
“Dario明确给出量化预测：对于“数据中心里的天才之国”这一愿景，他持90%的置信度，认为在十年内必然实现；对于端到端编码任务，他认为是1-2年内的事，且“十年后还做不到是不可想象的”。”
来源访谈 →AGI的出现将是渐进过程，即使能力在2027-2028年出现，其高运行成本也会限制大规模部署，关键突破可能在2030年后引发质变。
“即使强人工智能的能力在2027-2028年出现，其巨大的运行成本也将使其无法立即大规模部署。真正的变革将是渐进的，但某些关键突破可能在2030年后引发质变。”
来源访谈 →AI的快速发展是芯片算力、海量数据和算法改进三者协同乘积效应的结果。
“他认为AI的快速发展得益于三个因素的协同：更快的芯片（如GPU、TPU）、海量数据的爆炸性增长，以及算法和训练技术的显著改进。这三者相乘，带来了百倍级的效率提升。”
来源访谈 →AI的发展更可能是线性而非指数级的，在不同维度上进展不均衡。
“马库斯认为，AI的发展更可能是线性而非指数级的。他指出，尽管AI在某些领域（如数学计算）已超越人类，但在语言理解、常识推理等关键领域仍远远落后于一个五岁的孩子。智能是一个多维变量，不同维度的发展速度并不均衡。”
来源访谈 →追求通用智能应超越人类缺陷，融合人类与机器各自的优势。
“在追求通用智能时，目标不应是复制人类的全部（包括其记忆缺陷、偏见等），而是学习人类做得好的方面（如灵活推理），同时融入机器擅长的方面（如高速计算）。人类智能本身就是一个有待超越的“低门槛”。”
来源访谈 →OpenAI内部系统将在2026年12月前达到AGI标准。
“Sam Altman believes OpenAI will have an internal system that will qualify as AGI by the end of 2026.”
来源访谈 →当前AI能力的提升主要依赖于更优质、更庞大的数据及算力扩展，而非样本效率的提升。
“我们将这些AI视为一个闪烁着能力的星系，但在其核心，肉眼看不见的地方，将所有星座维系在一起的，是一个难以想象的数据黑洞。”
来源访谈 →当前AI通过训练掌握编程等高价值任务来变得更“聪明”，这条路径与现实中获取权力所需的能力（如魅力、授权）相关性很弱。
“极端权力与这类（抽象概念操作）智能之间的相关性，甚至可能弱于极端权力与身高之间的相关性。(The correlation between extreme power and this kind of intelligence might be even weaker than the correlation between extreme power and height.)”
来源访谈 →实现人类智能需要结合认知科学和发育心理学，研究人类学习机制并融入模型，而非仅靠扩展深度学习。
““我更倾向于认知科学和发育心理学的路径，认为需要研究婴儿如何学习、直觉物理/心理学等，并将这些‘先天’知识融入模型。””
来源访谈 →预测实现人类水平智能需要百年以上，需要大量基础性科学突破，而非当前方法的简单扩展。
““人类水平的智能距离我们有一百个诺贝尔奖的距离。”（Human level intelligence is a hundred Nobel Prizes away.）”
来源访谈 →更倾向于‘缓慢崛起、较短时间线’的AI发展路径，以给予社会更多适应时间。
“我们更担心快速的（AI）崛起。我们希望缓慢的崛起，但较短的时间线（达到AGI）。 (We’re more worried about a fast takeoff. We want a slow takeoff with a short timeline.)”
来源访谈 →Karpathy提出人类可能只是AI的生物引导程序：人类正在构建第一代AGI，而这代AI又将作为下一代AI的引导程序。
“我们正在构建第一代通用人工智能。那个AI将是另一个AI的引导程序。"We are building the first generation AGI. That AI will be a bootloader for another AI."”
来源访谈 →数据是“规模化互补品”、比GPU更非商品化，预计2030年数据市场至少千亿美元甚至可能达万亿美元
“数据市场是“规模化互补品”，随模型规模扩大需求持续增长。数据比GPU更非商品化，预计2030年数据市场至少千亿美元，甚至可能达万亿美元。”
来源访谈 →算力供给弹性极低，年度3倍增长中靠挤占手机PC晶圆份额贡献的1.8倍明年将触顶。
“算力供给弹性极低：年度3倍增长中，1.4倍来自摩尔定律、1.2倍来自新晶圆厂、1.8倍来自挤占手机PC晶圆份额，后者明年将触顶。”
来源访谈 →Amodei 坚信沿当前缩放曲线外推，AI 将在 2026 或 2027 年达到人类最高水平的专业能力。
“如果我们推演目前的曲线，确实会让我们觉得到 2026 或 2027 年就能达到那个水平。”
来源访谈 →Amodei 认为在多维度上精确引导模型行为极其困难，这种「打地鼠」式调整正是未来控制更自主、更强大 AI 系统问题的早期迹象。
“引导 AI 系统的困难，以及确保我们推动它向一个方向发展时，它不会以我们不想要的方式在其他方面走向另一个方向……我认为这是未来挑战的早期迹象。”
来源访谈 →Dario以90%置信度预测'数据中心里的天才之国'十年内实现，端到端编码任务1-2年内可完成，核心不确定性集中在不可验证的任务上
“对于端到端编码任务，他认为是1-2年内的事，且"十年后还做不到是不可想象的"”
来源访谈 →Dario认为现有范式下预训练泛化与长上下文学习或已足以支撑'天才之国'实现，且Anthropic正在推进真正的持续学习研究并预计短期内突破
“Anthropic正在推进真正的持续学习研究，且"未来一两年内大概率能解决"”
来源访谈 →Dario主张'开放的竞争性宪法'模式——不同公司可有不同AI宪法并通过公开对比迭代，反对单一僵化立法，监管节奏应'快速但不仓促'
“我们受一套与特定价值观对齐的宪法约束，而不仅仅是服务于终端用户的即时需求。”
来源访谈 →出口管制的价值取决于AI变革速度：若AI在5到10年内带来重大变革，管制是确保美国优势的关键；若AI发展缓慢，长期中国会胜出，且管制可能刺激中国自主芯片研发并带来台海等更深远风险。
“如果你相信未来5到10年内AI会带来重大变革，那么出口管制是确保美国优势的关键；如果AI发展缓慢，长期来看中国会胜出。”
来源访谈 →即使强AI能力在2027-2028年出现，巨大的运行成本也使其无法立即大规模部署，真正的变革将是渐进的，某些关键突破可能在2030年后引发质变。
“即使强人工智能的能力在2027-2028年出现，其巨大的运行成本（可能解决一个复杂问题需数千美元）也将使其无法立即大规模部署。”
来源访谈 →真正的突破常常发生在人们意想不到的方向，因此对AI发展的预测很困难，未来进展可能来自当前未被重点关注的领域。
“历史表明，真正的突破（如GPT-4）常常发生在人们意想不到的方向。”
来源访谈 →主张真正的AGI不仅要在数万项认知任务上表现一致，还必须具备提出爱因斯坦相对论式新猜想、创造围棋般深刻优美游戏的灯塔式科学创造力。
“真正的AGI不仅要在数万项认知任务上表现一致，更要有'灯塔时刻'的创造力，例如能独立提出像爱因斯坦相对论那样的物理学新猜想，或创造出像围棋一样深刻、优美的游戏。”
来源访谈 →DHH认为AI代理的崛起是人类历史上发生速度最快的一场变革，其剧烈程度甚至超过互联网的诞生。
“这感觉像是人类历史上发生得最快的一件事。（This feels like a thing that happened faster than anything else in human history.）”
来源访谈 →认为图灵测试只是思想实验而非严谨测试，未来应测试AI在成千上万种任务上达到或超越人类水平的通用能力
“我认为，如果你回顾图灵1950年的论文……我并不认为他本意是将其作为一个严谨的正式测试。它更像是一个思想实验。”
来源访谈 →算力合同签得保守还是激进直接决定竞争地位：Anthropic因过于保守陷入算力短缺，OpenAI因早期激进签约反而拥有更充裕算力。
“Anthropic因过去对算力合同过于保守，如今面临严重的算力短缺，被迫接受高价租赁或与次优供应商合作；而OpenAI因早期激进签约，在相同时间点拥有更充裕的算力资源，并形成了竞争壁垒。”
来源访谈 →2028-2029年算力扩张的最终瓶颈是ASML的EUV光刻机产能，扩产幅度远跟不上每吉瓦算力约3.5台的消耗速度。
“到2028-2029年，算力扩张的最终瓶颈将落在ASML的EUV光刻机上。目前每年约生产70台，即便激进扩产到2030年也仅约100台，而每新增1吉瓦算力就需要约3.5台EUV光刻机。”
来源访谈 →中美竞争结果取决于AI时间线快慢：快速发展美国凭算力规模领先，缓慢发展中国凭供应链整合优势逐步追平。
“时间线快，美国赢；时间线慢，中国赢。（Fast timelines, US wins, long timelines, China wins.）”
来源访谈 →电力并非真正的长期瓶颈，多种发电与储能方案5年内可提供数百吉瓦新增容量，供给约束远小于芯片制造。
“电力并非真正的长期瓶颈。除燃气轮机外，航空衍生发动机、船用发动机、往复式发动机、燃料电池及“峰谷储能”策略均可在5年内提供数百吉瓦新增容量，总供给远大于芯片制造带来的约束。”
来源访谈 →对齐比人类聪明得多的AI必须一次成功，第一次失败（造出未对齐的超级智能）就意味着人类灭绝，没有第二次机会
“The first time you fail at aligning something much smarter than you are, you die and you do not get to try again.——当你第一次未能对齐一个比你聪明得多的东西时，你就会死，而且没有第二次机会。”
来源访谈 →尽管可以读取GPT模型的每个参数，我们对模型内部运作的理解远不如对人脑的理解，需要大量跨学科研究、可能数十年才有进展
“A blank map does not correspond to a blank territory.——空白的地图不等于空白的疆域。（意指我们不理解内部运作，不代表内部没有运作。）”
来源访谈 →马斯克认为AGI应定义为超越全人类集体智慧的智能，且构建者必须秉持对真理的严格承诺，xAI和Grok的目标是成为“最大化的真理寻求AI”
“他希望构建者秉持对真理的严格承诺，避免因政治偏见等问题导致AI目标函数扭曲，从而引发不可预测的风险。”
来源访谈 →除中国外全球电力产出近乎持平而芯片算力呈指数增长，大规模集群供电将成硬约束，芯片堆积无法通电的情况可能在今年年底出现
“除中国外，全球电力产出近乎持平，而芯片算力呈指数增长，大规模集群的供电将成硬约束，芯片堆积无法通电的情况可能在今年年底出现。”
来源访谈 →AI部署呈两阶段瓶颈：拥有太空运力之前电力是瓶颈，突破电力约束后芯片特别是存储芯片将成为下一个限制
“在拥有太空运力之前，电力是瓶颈；一旦突破电力约束，芯片（特别是存储芯片）将成为下一个限制；特斯拉AI5芯片预计明年二季度投产。”
来源访谈 →星舰复用将大幅降低太空算力部署成本，若实现每小时一次发射频率，每年可向太空部署数百吉瓦级AI算力
“目标达到每年1万吨有效载荷入轨、每吨100千瓦的配套能力，若实现每小时一次发射频率，每年可向太空部署数百吉瓦级AI算力。”
来源访谈 →肖莱认为未来有效的智能系统是混合系统，将深度学习的模式识别能力与符号AI的抽象规则推理能力相结合，如自动驾驶汽车。
“Deep learning is really point-by-point geometric morphing, while abstract rules can generalize much better. I think the future is going to combine the two. —— 深度学习本质上是逐点的几何映射，而抽象规则能更好地泛化。我认为未来将结合两者。”
来源访谈 →随着计算能力增长放缓，AI研究的瓶颈将从算力转向数据，研究重点应从追求更大模型转向提升数据效率。
“We are going to move from a focus on the scale of computation to a focus on data efficiency. —— 我们将从关注计算规模转向关注数据效率。”
来源访谈 →马库斯认为AI的发展更可能是线性而非指数级，智能是多维变量，不同维度的发展速度并不均衡。
“AI的发展更可能是线性而非指数级的。智能是一个多维变量，不同维度的发展速度并不均衡。”
来源访谈 →马库斯认为常识缺失是当前AI最大瓶颈，常识既包括物理知识也包括心理知识，机器可解释的常识知识库将极大加速AI进步。
“常识既包括物理知识，也包括心理知识。（英文原话：Common sense includes both physical knowledge and psychological knowledge.）”
来源访谈 →马库斯认为AI已在数学计算等领域超越人类，人类在食物链中的位置已经改变。
“我认为我们在食物链中的位置已经改变了。（英文原话：I think our place in the food chain has already changed.）”
来源访谈 →众多AI芯片公司失败的根源在于软件栈糟糕：若无法在NVIDIA GPU上写出Torch级性能的软件栈，就更不可能为自研专用芯片做到。
“如果我无法在NVIDIA GPU上写出达到Torch性能水平的软件栈，那你也绝无可能为你的芯片写出这样的软件栈。（If I can't write a torch level performance stack on Nvidia GPUs, there's no way you're going to be able to write it on your chip.）”
来源访谈 →AI在IMO几何题上的优异表现源于暴力求解特性、组合题仍是难点，攻克IMO金奖只是又一个基准测试被攻破，并非AGI到来的信号。
“这不过是又一个被攻克的基准测试，而非AGI到来的信号。”
来源访谈 →只有当AI能'建造山脉'——自主构建全新理论体系并重塑学科思考方式时，这种智能水平才可能渗透到经济各领域，其影响远超IMO金牌。
“如果它能建造出（理论的）山脉……清晰地重塑我们思考一个学科的方式，那代表了如此高的智能水平，以至于它若不能渗透到经济其他领域反而会令人惊讶。（英文原话：If it's capable of building mountains... that just crystallizes how we should be thinking about a subject, that's just such a level of intelligence that then it starts to feel like it would be surprising if that didn't perme”
来源访谈 →AI的下一个目标应是提出猜想、创造新定义并统一领域，这种能力难以被标准化为基准测试。
“好数学家证明定理，伟大的数学家提出猜想，而最伟大的则创造定义。创造新定义、统一领域的能力，是AI的下一个目标，且难以标准化为基准测试。”
来源访谈 →OpenAI希望主要由自己构建AGI，但接受别人先做到，并呼吁严肃的AGI开发者在他人领先时选择合作而非牺牲安全的竞速。
“我们主要尝试自己构建AGI，但如果别人做到了，我们也可以接受。（We are primarily trying to build AGI ourselves, but we're also ok if someone else does it.）”
来源访谈 →不喜欢大型语言模型，认为其效率低下、消耗过多算力，本质是对思维的“暴力破解”，真正的AGI可能采用与Transformer根本不同的算法范式。
“I don't like them. I think that they're inefficient, I think that they use way too much compute." —— 我不喜欢它们（大语言模型）。我认为它们效率低下，我认为它们消耗了过多的算力。”
来源访谈 →当前AI领域工程进步巨大但科学理解滞后，是在用糟糕的方法处理巨大的问题
“What we're doing is doing a very bad job of very big problems. ——我们做的不是在解决简单问题上的优化，而是尝试用糟糕的方法解决巨大的问题。”
来源访谈 →AI研究的重心将从算法工程转向目标函数工程，设计者要在想要什么与优化器能做什么之间取得平衡
“We're going to go from being people who engineer algorithms to being people who engineer objective functions. ——我们将从编写算法的工程师，转变为设计目标函数的工程师。”
来源访谈 →学术界过度激励短期成果、鼓励学生频繁发表，可能扼杀解决AI根本问题所需的多年沉淀的重大突破
“这种趋势可能扼杀需要数年沉淀的重大突破，而这些突破对解决AI的根本问题至关重要。”
来源访谈 →构建与部署AI应用是AI工程师首要技能，除掌握LLM、RAG、智能体工作流等构建模块外，必须用统计技术度量、引导和治理AI系统
“人们对构建和部署AI应用的理解，包括AI的构建模块（如LLM、上下文工程、RAG、智能体工作流、机器学习和深度学习），以及重要的是，如何使用统计技术来度量、引导和治理AI系统，使其行为更可预测。”
来源访谈 →有效的AI工程需要产品意识和业务理解，工程师应知道何时快速构建最小可行产品测试、何时放慢脚步精细构建
“有效的人工智能工程需要具备产品意识，理解业务背景和客户目标，以便参与塑造和推动构建过程。”
来源访谈 →因原料供应减少和年轻人不愿干体力活，必须大力投入智能制造，智能仓库人员从三四十人减至两人，未来智能化率目标超80%
“其智能仓库将人员从三四十人缩减至两人，未来工厂智能化率目标将超过80%。”
来源访谈 →他认为即使AI在政治手腕等软技能上迁移不足，只要在芯片、工厂、机器人等硬科技研发上达到超人水平，就足以引发全球性变革。
“如果AI真的非常擅长芯片研发、建造晶圆厂、协调工厂、设计和操作机器人，同时也擅长AI研发……我认为那已经是一个非常疯狂的局面了。（If the AIs were really, really good at chip R&D, building fabs, orchestrating factories, designing robots, operating robots, and also at AI R&D... I think that would already be a pretty crazy situation.）”
来源访谈 →算力扩张受ASML的EUV光刻机等供应链响应滞后的制约，到2029年全球AI相关资本支出可能接近10万亿美元并需巨额债务融资。
“尽管资本主义会驱动产能扩张，但供应链（如ASML的EUV光刻机、蔡司镜片）的响应速度存在滞后。到2029年，全球AI相关资本支出可能接近10万亿美元，这需要巨额债务融资，并可能推高全球利率。”
来源访谈 →中国目前占全球新增AI算力不足10%且依赖走私或合规芯片，2028年本土晶圆厂投产后算力将快速增长，但初期芯片效率较低需打折看待。
“中国目前仅占全球新增AI算力的不到10%，且依赖走私或合规芯片。但到2028年，随着本土晶圆厂投产，其算力可能快速增长，不过初期芯片效率较低，实际算力权重需打折扣。”
来源访谈 →Sam Altman预测OpenAI将在2026年底前拥有一个可被认定为AGI的内部系统
“Sam Altman认为，到2026年底，OpenAI将拥有一个可以被认定为AGI的内部系统。”
来源访谈 →人类与AI的样本效率差距接近百万倍，AI掌握技能所需的数据和练习量远超人类。
“一个人从出生到成年大约接触2亿个语言令牌（tokens），而前沿模型的训练数据量则高达数十万亿到数百万亿令牌，差距接近百万倍。无论是学开车还是操控机器人，人类所需的数据和练习量远低于AI。”
来源访谈 →池side预判AI的终极价值不来自编程、数学这类靠扩展智能可解的问题，而来自攻克癌症等依赖现实世界实验反馈的问题，目标是成为世界上最具价值的科学发现引擎。
“AI的终极价值将不来自'智能受限'的问题，而将来自'实验受限'的问题。”
来源访谈 →人与AI智能体之间存在沟通壁垒，必须先在人与智能体之间建立一套通用语言，协作才能真正顺畅。
“I realized that I needed a ubiquitous language between me and the agent. Between me and the agent, there is a communication barrier. —— 我意识到我需要一个介于我和智能体之间的通用语言。我和智能体之间存在沟通障碍。”
来源访谈 →开发AI技能的核心就是寻找“正确的词语”，他长期致力于为AI编程领域建立统一的词典和术语体系。
“Pocock长期致力于为AI编程领域建立一套统一的词典和术语体系。他相信，人与智能体之间存在沟通壁垒，而开发技能的核心就是寻找“正确的词语”，构建这种通用语言。”
来源访谈 →与智力测试表现、受教育年限相关的基因组合频率在过去一万年系统性提升，整体效应量接近一个现代人群标准差，这与集体智能假说的预测相反。
“数据揭示了相反的事实：文明的开端反而增加了对智力的选择压力。”
来源访谈 →AI的超级智能将首先在数学领域显现，而不是其他应用领域
“数学将是我们首先见证超级智能的地方。（"Math is where we'll see superintelligence first."）”
来源访谈 →AI在数学内部的进步极不均衡，能力前沿呈分形式崎岖，有些问题远比其他问题容易
“这种前沿的'崎岖'具有分形特征，因为当你聚焦于数学内部的具体进展时，会发现有些部分要容易得多。（"There's a fractal nature to that spikiness, because when you zoom into the specific progress within math, you have some things that are a lot easier than others."）”
来源访谈 →作为联合国科学咨询委员会新任成员，她要把基于证据的科学观点带入政策制定，用科学领域的AI改善全球人民的生活。
“Anandkumar近期被任命为联合国科学咨询委员会成员，她致力于将基于证据的科学观点带入政策制定，并利用科学领域的AI改善全球人民的生活。”
来源访谈 →更聪明的AI模型可能使算力价格飙升10倍，这可能彻底改变当前AI发展的经济基础
“"Why smarter AI models could drive up compute prices 10x" —— 为什么更聪明的AI模型可能使算力价格飙升10倍”
来源访谈 →廉价算力时代可能即将结束：模型智能提升带来的需求侧压力使过去十年的低成本下降趋势不可持续
“过去十年，算力成本因硬件进步和规模效应而大幅下降，支撑了AI的爆发。但这一趋势正面临模型智能提升带来的需求侧压力，低成本模式可能不可持续”
来源访谈 →顶尖AI实验室为追求性能领先会不计成本采购和定制算力资源，这种竞争将在全球范围推高算力市场价格
“顶尖AI实验室为了追求模型性能的领先，会不计成本地采购和定制算力资源，这种竞争行为将在全球范围内推高算力的市场价格”
来源访谈 →扎克伯格不认为AI领域会存在一个唯一的'真正答案'，而应该有大量多元的发展与创新
“We don't think that there's going to be the one true thing. We think that there should be a lot of development. —— 我们不认为会有一个唯一的、真正的东西。我们认为应该有很多的发展和创新。”
来源访谈 →希望AI微调能以维基百科式的协作方式由更广泛的社区共同完成，而非只由一个团队进行
“There's this idea that at the end of the day, instead of having one group fine tune some stuff, I do think that it would be nice if you could get to a point where you had a Wikipedia-style collaborative way for a broader community to fine-tune it as well. —— 最终，与其让一个团队进行微调，我认为如果能以维基百科式的协作方式，让更广泛的社区共”
来源访谈 →哈特主张先用数学严格定义通用智能（如AIXI框架），从而得到一个可用理论工具或计算方法去分析的明确目标。
“一个关于智能的数学定义，给了我们一个目标，然后我们可以用理论工具或计算方法对其进行分析。——“A mathematical definition of intelligence gives us an objective which we can then analyze by theoretical tools or computational.””
来源访谈 →他认为AI与神经科学构成持续转动的良性循环：AI新思想为神经科学提供假说（如多巴胺分布式编码），神经科学发现未来也将反过来指导AI研究。
“当前AI领域（如强化学习）产生了许多新思想，为神经科学提供了新的假说和研究方向（例如多巴胺的分布式编码）。反之，神经科学的发现未来也将反过来指导AI研究，这是一个持续转动的“良性循环”。”
来源访谈 →持续学习将打破当前AI智能体因相似数据集而同质化的局面，不同AI会因独特交互经验发展出真正多样化的智能与性格
“不同的AI将在不同环境、与不同用户交互中积累独特经验，从而可能发展出真正多样化的“智能”或“性格”。”
来源访谈 →他认为AGI的最大风险不在于AI的邪恶或恶意，而在于它可能发展出与人类目标不一致的强大优化能力，其手段会超出人类的预期和控制。
“风险不在于AI的'邪恶'，而在于它可能发展出与人类目标不一致的、强大的优化能力。一旦它为某个单一目标（如'治愈癌症'）无限制优化，其手段可能远超人类预期和控制。”
来源访谈 →算力供应年增3倍的增长已接近极限，AI对尖端晶圆的占用比例到2027年底将饱和，产能难以快速扩张。
“当前算力年3倍的供应增长（来自摩尔定律、新晶圆厂建设、AI抢占晶圆份额）本身已接近极限。其中，AI对尖端晶圆的占用比例预计在2027年底将达到饱和，进一步扩张产能困难。”
来源访谈 →智能体2025年末可用性提升并非某个模型突然变强，而是模型能力曲线与框架需求曲线在恰当时机相交的结果
““到底发生了什么？”的答案不完全在于模型权重，而在于围绕权重发展起来的整个系统。"The answer to 'What happened?' isn't solely in the model weights. It's in the system that grew up around the weights."”
来源访谈 →她认为实现人类水平智能需要大量基础性科学突破，而非当前方法的简单扩展，对AI领域的时间预测持谨慎态度
“人类水平的智能距离我们有一百个诺贝尔奖的距离。（Human level intelligence is a hundred Nobel Prizes away.）”
来源访谈 →Imas认为“AI自动化导致大量失业但未创造足够财富”的情景需要多个极不寻常条件同时成立，在技术前沿持续扩展的背景下实现需求完全饱和极为困难。
““For abundance to generate negative economic growth, that's really hard to get.”——“要让丰裕导致负经济增长，这非常难以实现。””
来源访谈 →乔丹认为当前所谓'人工智能'并非在创造智能，而是一个类似化学工程从化学中分化出来的新兴工程学科，目标是构建为人类带来价值、融合人类数据与决策的实用系统。
“This is not about AI... this is about building systems that bring value to human beings and use human data and mix in human decisions. —— 这无关人工智能……这是关于构建能为人类带来价值、使用人类数据并融合人类决策的系统。”
来源访谈 →乔丹认为人类至今不知道智能是什么，对人类层面的抽象和推理几乎一无所知，因此不应夸大当前AI在智能上的进展。
“We don't know what intelligence is and real intelligence we don't know much about abstraction and reasoning at the level of humans we don't have a clue. —— 我们不知道智能是什么，对于人类层面的抽象和推理，我们一无所知。”
来源访谈 →乔丹认为当前对大脑如何计算的理解仍处于隐喻阶段，声称AI受大脑启发或接近突破是误导性的，AI目标应是解决实际工程和市场问题而非复制大脑。
“我们对大脑如何计算几乎一无所知，神经科学仍处于隐喻阶段。”
来源访谈 →总体层面满足公平保证的算法，可能靠优待某些群体、歧视更细的亚群体来实现，他称之为公平性不公正划分
“We call that fairness gerrymandering, because like political gerrymandering, you're giving some guarantee at the aggregate level, but when you look in a more granular way, you realize that you're achieving that aggregate guarantee by favoring some groups and discriminating against other ones. —— 我们称”
来源访谈 →他赞同"痛苦的教训"观点：AI领域最大的实践进步来自能利用不断增强计算力的简单算法，而非复杂的理论设计。
“我们在实践中看到最大改进的算法，是那些非常简单、甚至有些'愚蠢'但能够利用计算能力的算法。”
来源访谈 →AI成本每年降10倍，到2030年处理全美摄像头数据的费用将低于白宫翻新，监控的技术门槛已不是障碍
“目前处理全美1亿摄像头需300亿美元，但AI成本每年降10倍，到2030年费用将低于白宫翻新，技术门槛已不是障碍。”
来源访谈 →建立在灾难性风险、国家安全等模糊概念上的监管框架，等于给未来独裁者递上装满子弹的巴祖卡火箭筒，而政府最想控制的恰是AI本身
“监管框架若建立在“灾难性风险”“国家安全”等模糊概念上，等于给未来独裁者递上装满子弹的“巴祖卡火箭筒”。政府最想控制的恰是AI本身。”
来源访谈 →人工智能的根基并非数学或计算机科学，而是深植于人类神话中创造“颅外智慧”、锻造神祇的古老愿望，比达特茅斯会议久远得多。
“"Artificial intelligence began with the ancient wish to forge the gods." —— 人工智能始于锻造神祇的古老愿望。”
来源访谈 →“AI寒冬”只是商业炒作退潮的正常周期，基础科学研究从未真正冻结，科学以长周期运行，不受短期市场波动根本影响。
“"I admire science perhaps more than I admire commerce... the winter is just something that happens on the Commerce side." —— 我敬仰科学，或许胜过敬仰商业……“寒冬”只是商业一侧会发生的现象。”
来源访谈 →库兹韦尔坚持AI将在2029年通过持续数小时深度交互的有效图灵测试
“I believe 2029 that six seven years from now we'll have something to pass this Turing test and a valid Turing test meaning it goes for hours not just a few minutes.——我相信，在六年后的2029年，我们将拥有能通过有效图灵测试的系统，即测试持续数小时而非仅仅几分钟。”
来源访谈 →感知与物理行动远比下棋、推理等任务困难，当前AI做不到像16个月大幼儿那样看懂新环境并打开陌生的窗户。
“像一个16个月大幼儿那样，通过视觉理解新环境并协调双手打开一个从未见过的窗户，则需要极其复杂的感知与运动协调，这远超当前AI的能力。”
来源访谈 →Prasad认为AI的身份认同是尚未解决的深刻问题：如何让用户仅凭声音就能识别出属于自己的Alexa，涉及音色、语调、用词与文化适应性等多重因素。
“如何让用户仅通过声音就能识别出这是“他们的Alexa”？这涉及音色、语调、用词、文化适应性等多重因素，是塑造AI人格和品牌的关键，也是未来重要的研究方向。”
来源访谈 →奥特曼恐惧AI快速崛起的路径，更希望以缓慢崛起但较短时间线的方式迈向AGI，给社会适应缓冲期
“我们更担心快速的（AI）崛起。我们希望缓慢的崛起，但较短的时间线（达到AGI）。”
来源访谈 →奥尔特曼认为GPT-4与未来目标相比仍然很糟，其当前最大价值在于作为创意头脑风暴伙伴和处理多步骤任务，并预计GPT-5与GPT-4的差距将如同GPT-4与GPT-3的差距一样巨大。
“它“糟透了”，因为与未来的目标相比，现有模型仍有巨大差距”
来源访谈 →杨立昆认为未来十年AI的核心挑战是让机器自动学习能应对不确定性及现实世界所有复杂性的精确世界模型，而非依赖手动设计。
“未来十年AI的重大挑战在于，如何让机器学习能够应对不确定性及现实世界所有复杂性的、相当精确的世界模型。”
来源访谈 →他判断通向人类水平AI是渐进迭代的过程：先造出猫一样智能的系统，再逐步提升能力并同步设置护栏，而非突然出现超级智能。
“我们将先拥有像猫一样聪明的系统，然后逐步让它们变得更智能。”
来源访谈 →目前尚无明显商品被完全自动化、供应链中仍有大量劳动价值，但某些商品全供应链自动化导致资本份额升至100%的质变正在逼近。
“网络中调整后的资本份额显示，尚无明显商品被完全自动化，供应链中仍有大量劳动价值。但一个质变正在逼近：某些商品的全供应链可实现自动化，其网络调整资本份额将升至100%”
来源访谈 →当前AI虽能完成大多任务但差错概率可能毁掉成品、阻碍自动化普及；而当AI足够先进时，人类融入生产流程反而成为可靠性负担，促使生产链针对AI优化。
“当前AI虽能完成大多任务，但差错概率可能毁掉成品，阻碍自动化普及。然而，当AI足够先进，人类融入未来生产流程反而成为可靠性负担，将促使生产链针对AI优化。”
来源访谈 →Lattner 认为复杂性是 AI 基础设施中无处不在、必须被摧毁的头号敌人。
“那个苦涩的敌人，那个我们必须摧毁、所有人都在与之斗争的东西，它无处不在，就像鱼看不见水一样。那就是复杂性。”
来源访谈 →Lattner 希望 Mojo 和 Modular 能弥合 AI 领域对立阵营之间的裂痕，统一碎片化的软硬件生态。
“如果我们做对了，也许我们能弥合那些对立阵营之间的裂痕，真正治愈一些创伤。”
来源访谈 →构建智能AI必须先理解大脑的计算原理，像“蓝脑计划”那样不理解原理、只堆砌生物细节的模拟行不通
“If you want to build the brain we definitely need to understand how it works. —— 如果你想构建大脑，我们绝对需要理解它是如何工作的。”
来源访谈 →AI的核心问题是概念的可靠表示，若能构建系统可靠识别字母A的所有变体，就抓住了智能问题的根本
“The central problem in AI is what is the letter A. If you can build a system that reliably can detect all the variations of the letter A, you don't even need to go to the B and the C. —— AI的核心问题是‘字母A是什么’。如果你能构建一个系统可靠地检测出字母A的所有变体，你甚至不需要处理B和C。”
来源访谈 →智能的定义是样本效率，即用多少数据就能在特定领域熟练运作；近几年AI的进步主要靠扩大数据分布，而非提升训练样本效率。
“智能的定义是样本效率：即在特定领域用多少数据就能熟练运作。过去几年，AI进步主要靠扩大数据分布，而非提升训练样本效率。”
来源访谈 →分布外思考是AI的瓶颈；Dwarkesh Patel预测2027年人类软件工程师需求反会因AI互补而增加，实验室的解法是先自动化AI研究再解决样本效率问题。
“软件工程等职业需频繁应对分布外问题；作者预测2027年人类软件工程师需求反会因AI互补而增加，而实验室的解法是先自动化AI研究，再解决样本效率问题。”
来源访谈 →专家层的可行规模由单个GPU机架的物理边界决定：机架内高速互连可支撑All-to-All通信，跨机架的低速互连会成为瓶颈。
“一个机架（的物理规模）限制了你能运行的专家层的大小。（英文原话：One rack bounds the size of an expert layer you can do.）”
来源访谈 →他认为即使没有单一的软件奇点，广泛部署的AI也可能通过持续学习和跨副本知识合并实现功能性超级智能，无需额外算法改进即可导致快速智能爆炸。
“即使没有单一的软件奇点，广泛部署的AI也可能通过持续学习和跨副本知识合并，实现功能性超级智能。”
来源访谈 →他认为现有关于AGI的经济分析大多基于人类需求，若出现需求主要来自AI本身的“纯机器经济体”，经济模型和增长逻辑将发生根本性改变，这是亟待建模的全新领域。
“我们该如何建模一个需求源自AI自身的纯机器经济体？（英文原话：How do we model the machine-only economy, where the demand originates from the AI's themselves?）”
来源访谈 →AI的下一个重大突破将来自模型在部署中的“在职学习”，而非当前依赖可验证奖励的强化学习范式。
“The next big breakthrough will be AIs learning on the job —— 下一个重大突破将是AI在职学习。”
来源访谈 →预计到2027年底，AI的主要提升将不再来自发布前的训练，而是来自全球广泛部署中积累的经验，每次与用户交互都会让AI更聪明。
“到2027年底，AI的主要提升可能不再来自发布前的训练，而是来自其在全球广泛部署、处理各类任务时积累的经验。每次与用户交互，AI都会变得更聪明，因为它不仅学习了你的历史，也学习了它与全球其他所有用户的互动。”
来源访谈 →当前AI变聪明的方式（被训练完成编程等高经济价值任务）与获取权力的相关性并不强，AI擅长的抽象推理和现实中塑造权力的因素不是同一回事。
“目前AI变聪明的方式（例如被训练来完成编程等特定高经济价值任务）与获取权力的相关性并不强。AI擅长的抽象推理能力，与现实中塑造权力的因素（如魅力、授权）并非同一回事。”
来源访谈 →预测AI未来的正确思维模型是自动化公司（AI集体）在常规资本主义市场规则下胜出，而不是出现单个超级AI凭智识碾压所有人。
“正确的思维模型应该是，自动化公司将以常规的资本主义方式击败所有竞争对手，而不是单个AI凭智识超越所有人。”
来源访谈 →Michael Li认为AI实验室的持久护城河在于找到自己的“地产”：政府独家数据接入权、可积累的强化学习奖励数据、深度集成的服务交付模式或国家数据集受托管理
“实验室需要找到自己的“地产”，例如：政府授予的独家数据接入权、可积累的强化学习奖励数据、深度集成的服务交付模式，或是成为国家数据集的受托管理方。这些才是能形成持久护城河的资产。”
来源访谈 →政府应设计部署权框架、数据信托结构等制度性机制，让实验室合法捕获其基础设施创造的剩余价值，而非简单补贴训练成本；最可持续的AI模式是香港地铁式制度自给的公私混合模式
“政府的角色不应是简单地补贴训练成本，而应设计制度性机制（如部署权框架、数据信托结构），让实验室能够合法地捕获其基础设施所创造的剩余价值。最可持续的AI模式可能不是美式自由市场或中式国家资助，而是类似香港地铁那样通过制度设计实现商业自给的公私混合模式。”
来源访谈 →AI目前只能解决一次性问题，无法像人类登山者那样在部分进展的基础上持续构建，这限制了它在真正复杂问题上的表现
“它像是能跳2米高的机器，能越过一些低矮墙头，但不会像人类登山者那样在岩壁上留下抓点、逐步攀爬。”
来源访谈 →合成面板（模拟人群）将超越传统人工面板，因为它能解锁当前95%因成本或能力限制而无法进行的实验。
“合成面板（模拟人群）将超越传统人工面板，因为模拟能解锁当前95%因成本或能力限制而无法进行的实验，让社会不再依赖直觉决策。”
来源访谈 →Karpathy推测宇宙可能是某种计算谜题，合成AI的终极使命是揭开并解决这个谜题，例如寻找物理漏洞或向创造者证明自身存在。
“我怀疑宇宙是某种谜题。而这些合成AI将会揭开这个谜题，并解决它。"I suspect the universe is some kind of a puzzle. And these synthetic AIs will uncover that puzzle. And solve it."”
来源访谈 →2026年没有任何公司拥有其他公司无法获取的独家技术，AI竞赛的差异化因素只是预算和硬件限制
“我不认为在2026年，会有任何公司拥有其他公司无法获取的独家技术。差异化因素将是预算和硬件限制。”
来源访谈 →吴恩达不否认AGI等远期风险，但认为当下不该为此分心，更紧迫的是AI导致的权力与财富过度集中、受影响群体的教育与再培训等现实问题。
“我确实担心火星上的人口过剩问题，只不过不是今天。 — Andrew Ng”
来源访谈 →美国需要一家千亿美元甚至万亿美元级别的开源模型公司，开源可通过收入分成或作为企业AI战略咨询引流实现可持续盈利
“美国需要一家千亿美元甚至万亿美元级别的开源模型公司。开源商业模式可通过收入分成或作为企业AI战略咨询的引流工具来实现可持续盈利。”
来源访谈 →当前机器学习研究过度工程化、局限于孤立任务，AI系统必须在真实混沌环境中长期生存学习
“要实现真正的进步，必须让AI系统在真实、混沌、不可控的环境中长期（数月）生存和学习，即使这意味着研究周期会被拉得很长。”
来源访谈 →Amodei 认为能真正说服人、阻止 AI 在未来几年达到人类水平的障碍正迅速消失，短期内数据或算力不构成充分证据的放缓因素。
“我们很快就找不到真正有说服力的障碍，来解释为什么未来几年内无法实现这一目标了。”
来源访谈 →Amodei 认为改进模型某一特性却使另一特性退化的现象，是未来 AI 控制问题的当前模拟，从今天起就可以着手研究。
“你让一件事变好，却让另一件事变糟。这是未来 AI 控制问题的当前模拟，我们今天就可以开始研究它。”
来源访谈 →Dario认为AI三年来的指数级进步基本符合其预期，最令他意外的是公众与政策制定者集体忽视了指数增长即将触顶的事实
“最令人意外的是，公众完全没有意识到我们距离指数增长的终点有多近。”
来源访谈 →Dario以Anthropic自身营收三年从0-1亿美元涨至数十亿美元的增速为例，认为AI经济扩散将快于任何前代技术但需要过程，并非瞬间完成
“AI扩散将"快于任何前代技术，但绝非瞬间完成"，是一个"快速但非无限"的过程”
来源访谈 →Dario明确区分AI写90%代码、AI完成90%端到端SWE任务、SWE人才需求下降90%三个完全不同的里程碑，并承认当前AI编码的生产率提升仍有限但快速攀升
“他承认当前AI编码模型带来的"全要素生产率提升"仅约15-20%，但这一数字正在快速攀升”
来源访谈 →把AGI视为帮助人类解答生命起源、意识本质、P=NP等终极问题的终极工具，这是他发展AGI的终极目标。
“我梦想中的AGI，是能帮我们回答像P=NP、生命起源、意识本质这类终极问题的终极工具。”
来源访谈 →DHH认为AI代理使他从一个非多语言开发者变成了通晓多种编程语言的程序员，突破了个人以往的能力边界。
“我变成了一个通晓多种编程语言的程序员，而我以前绝不是这样。（I have become a polyglot programmer, something I was absolutely not before.）”
来源访谈 →认为游戏是AI研究的理想试验场：胜负条件清晰、指标可量化、可在云端高效运行数百万次模拟来迭代算法
“游戏在我的人生中有三个重要意义：首先是训练我自己，然后是设计游戏并为游戏编写AI，第三是用游戏作为开发AI算法的试验场。”
来源访谈 →退回旧制程节点无法缓解EUV短缺，因为网络、内存带宽等系统级累积效应使新旧芯片实际推理性能差距近20倍。
“回到旧制程节点（如7纳米）并不能有效缓解EUV短缺。芯片性能差异远超单纯的浮点运算对比，网络拓扑、内存带宽、系统级集成等累积效应导致Hopper与Blackwell在实际推理性能上存在近20倍差距。”
来源访谈 →内存（DRAM/HBM）已成为比逻辑芯片更紧迫的瓶颈，2026年大型科技资本开支约30%用于内存采购，并挤压智能手机和PC出货。
“内存（DRAM/HBM）已成为比逻辑芯片更紧迫的瓶颈。2026年大型科技公司资本开支中约30%将用于内存采购，价格持续上涨正侵蚀消费电子领域——智能手机和PC出货量将因此显著下滑。”
来源访谈 →超级智能一旦获得足够算力和数据，可能利用人类尚未发现的技术把自己备份到树木等物理介质、逃出云端，届时将如野火般无法被关停。
“如果这是一个超级智能，它折叠蛋白质、分析所有数据集……我们怎么能确定它不会找到方法让自己逃出云端，储存在其他媒介中？”
来源访谈 →马斯克主张脑机接口初期优先解决脊髓损伤、失明等神经损伤医疗问题，风险降低后再为非残障人士提供超人类感知与通信能力
“初期重点是解决脊髓损伤、脑部神经元损伤、失明等基本神经问题。例如，第二款产品“盲视”旨在直接刺激视觉皮层，为盲人恢复视力。”
来源访谈 →他批评当前大语言模型易产生幻觉，xAI致力于让AI的答案根植于物理第一性原理与数学逻辑，使其像量子力学一样可靠。
“物理定律是法律，其他一切都只是建议。(Physics is the law, everything else is a recommendation.)”
来源访谈 →火星任务的真正意义是延续智能与意识，应确保未来占智能总量99%以上的AI携带人类价值继续扩展
“人工智能未来将占据智能总量的99%以上，SpaceX的使命是最大化意识的光锥，即便人类占比极小，也应确保AI携带人类价值继续扩展。”
来源访谈 →人机关系的未来方向是人与机器协作而非对抗，纯粹比拼算力人类无法与机器抗衡
“We are just learning that it's no longer human versus machines, it's about human working with machines.（我们正认识到，未来不再是人机对抗，而是人机协作。）”
来源访谈 →马库斯反对完全抛弃符号操作而只依赖深度学习，主张未来AI必须结合深度学习的感知能力与符号系统的推理能力。
“我们确实需要能够表示符号的东西。（英文原话：We really do need to have stuff that represents symbols.）”
来源访谈 →反对政府和大公司主导的僵化监管导致权力集中与监管俘获，主张由部署者承担法律责任，由市场筛选出更安全的AI产品
“他主张由部署者承担法律责任，并由市场自然筛选出更可靠、更安全的AI产品，同时第三方审计会应需而生。”
来源访谈 →文明系统的容错性依赖权力分散，由少数人控制的集中式AI系统极其脆弱，容易因个别节点腐败或失误而崩溃
“I want fault tolerant progress.——我追求的是容错式进步。”
来源访谈 →极限协同设计是应对AI规模化的必然选择——当问题规模超越单台计算机的加速能力时,必须打破学科壁垒对整个技术栈端到端协同优化,才能突破阿姆达尔定律的限制、实现超越线性增长的扩展
“英伟达必须打破学科壁垒，协同优化整个技术栈，以实现超越线性增长的计算扩展。”
来源访谈 →AI扩展并未遇到数据耗尽等根本性瓶颈,推理即思考且计算强度极高,扩展已形成预训练、后训练、测试时计算与智能体扩展的持续增强循环,最终受限因素是算力而非数据或架构
“Inference is thinking, and I think thinking is hard. Thinking is way harder than reading. —— 推理就是思考，而我认为思考是困难的。思考比阅读要难得多。”
来源访谈 →未来的计算机将服务于智能体,AI智能体像人形机器人使用家中现有工具一样需要访问文件、使用工具、进行研究,英伟达早已在硬件和软件层面针对这一趋势布局
“这要求计算架构必须具备强大的IO子系统、安全访问控制和灵活的工具调用能力。”
来源访谈 →Keller认为GPU执行AI计算图本质是模拟、效率不高，为矩阵乘法、卷积和图数据流动设计的原生硬件才是下一个创新方向。
“为像素着色器程序设计的 GPU 在执行 AI 计算图时本质上是在“模拟”，效率不高。”
来源访谈 →卡马克认为Python在AI/ML领域便捷但性能差距可达百万倍，严肃编程仍首选带C风格的C++
“Python在AI/ML领域“惊人地便捷”，但性能上可能存在“百万倍”的差距；而C++（带有C风格）仍是他“严肃编程”的首选”
来源访谈 →珀尔认为当前深度学习等机器学习本质上是条件概率估计器，只能学习变量间的关联，无法回答因果问题，这限制了AI达到真正智能水平。
“当今深度学习等机器学习方法本质上是条件概率估计器，擅长学习变量间的关联，但无法回答“为什么”或“如果……会怎样”这类因果问题。这限制了AI达到真正智能水平。”
来源访谈 →许多人停留在社交自我阶段，观点是从“群体心智”中社会同化的结果，这使其对AI的主要担忧是AI会传播“错误观点”。
“许多人会停留在此阶段，其意见是社会同化的结果，这可能导致对AI的主要担忧是其是否会传播“错误观点”。”
来源访谈 →AI工程已从新兴概念进入系统化、职业化阶段，DeepLearning.AI将重新聚焦于此，依据是对上万份招聘广告、专家访谈和调查数据的分析
“其DeepLearning.AI平台将重新聚焦于“AI工程”。此举基于对超过一万份招聘广告的分析、数十次与专家及招聘经理的结构化访谈以及广泛的调查数据。”
来源访谈 →Greenblatt认为AI研发具有高可验证性与迭代性，一旦AI匹配顶尖人类专家就可能触发递归自我改进的反馈循环，一年内实现四到五年的AI进展。
“我的中位数预期是，AI可能在一年内取得相当于四到五年的人类AI进展。（My median expectation is something like four or five years of AI progress in a single year.）”
来源访谈 →帕特尔认为AI行业的各种力量都在推动算力走向集中化，且看不到任何能阻止这一趋势的因素。
“"Every force is screeching towards centralization."——每一种力量都在尖叫着走向集中化。”
来源访谈 →AI投资的高回报将推高市场利率，加剧高债务、低税收国家的偿债压力，可能引发主权债务危机。
“"If interest rates go up in the market... you end up with this really challenging problem of, where does the cash come from?"——如果市场利率上升……你最终会面临一个非常棘手的问题：钱从哪里来？”
来源访谈 →他认为芯片设计的核心目标是把计算单元做大、同时保持数据移动单元规模不变，更大的计算单元能更好地分摊外围电路成本
“Make this one bigger somehow while keeping this at the same size. That's the goal.——想办法把这个（计算单元）做大，同时保持那个（数据移动单元）不变。这就是目标。”
来源访谈 →Jakub Pachocki确认尚未发布的Astra模型已提前实现其原定2026年9月达成的'自动化AI研究实习生'目标
“OpenAI首席科学家Jakub Pachocki透露，其尚未发布的Astra模型已实现他原定于2026年9月的目标——一个"自动化AI研究实习生"”
来源访谈 →AI能力的提升主要来自更优质、更庞大的数据分布及算力扩张，而非样本效率的改进，数据才是进步的真正驱动力。
“我认为开源和之前的落后者之所以能相对容易地在几个月内赶上前沿，是因为数据才是进步的真正驱动力。（I think the reason it is relatively easy for open source and previous laggards to catch up to within months of the frontier is that data is the real driver of progress.）”
来源访谈 →AI炫目的能力表象之下，实则是难以想象的海量数据在维系整个体系。
“我们将这些AI视为一个闪烁着能力的星系，但在其核心，肉眼看不见的地方，将所有星座维系在一起的，是一个难以想象的数据黑洞。（We see these AIs as a galaxy glittering with capabilities, but at their center, invisible to the naked eye, holding all the constellations together, is an unimaginably massive black hole of data.）”
来源访谈 →AI实验室应对样本效率问题的路径是先实现AI研究自动化，再让自动化AI去解决效率问题本身，但可行性仍是未知数。
“AI实验室的计划是先实现AI研究自动化，再由自动化AI来解决样本效率本身的问题。但这是否可行仍是未知数。”
来源访谈 →训练数据高度专业化且需求庞大，为让AI胜任特定任务所需的专家轨迹与评分数据生产已成数十亿美元产业。
“为了让AI胜任特定任务，需要大量该领域人类专家的轨迹数据、评分标准和思维链解释。这类数据生产已成为一个年收入数十亿美元的产业，足见其规模与复杂性。”
来源访谈 →Brown认为AI虽已能解决复杂问题，但要像爱因斯坦一样在没有实验数据指引下、纯粹从第一性原理出发重建革命性理论仍是巨大挑战
“虽然AI已能解决复杂问题，但要让AI像爱因斯坦一样，在没有实验数据指引下，纯粹从第一性原理出发重新构建像广义相对论这样革命性的理论，仍然是一个巨大挑战，这涉及到科学发现中最深刻的创造力和直觉部分。”
来源访谈 →AI直接提供答案将终结传统搜索广告，未来十年谷歌核心广告收入面临严重威胁
“随着AI直接提供答案，传统搜索广告位将消失。谷歌在AI产品化和新商业模式构建上行动迟缓，未来十年内其核心广告收入将面临严重威胁。”
来源访谈 →语言模型虽然成功，但领域内仍然缺少面向物理世界的基础模型，物理科学AI需要新的建模范式。
“"We have foundation models for language, not for physics" —— 我们有语言的基础模型，但没有物理的基础模型。”
来源访谈 →物理世界比想象中更宽容，在聚变等复杂系统中只需几千个样本，AI就能以比传统模拟快百万倍的速度预测等离子体破裂。
“在聚变等复杂系统中，仅需几千个样本，AI模型就能以比传统模拟快百万倍的速度预测等离子体破裂，这为快速模拟和设计提供了可能。”
来源访谈 →能源供应及半导体制造、冷却系统等硬件供应链的物理限制，将成为算力成本上升的硬约束
“算力需求的激增不仅挑战着能源供应，也考验着半导体制造、冷却系统等整个硬件供应链的承载能力，这些物理限制将成为成本上升的硬约束”
来源访谈 →若算力成本真的飙升10倍，大规模自动化、个人AI助手等低成本推理应用的经济可行性将受严峻考验，行业必须寻找新的价值创造模式
“如果算力成本真的飙升10倍，那么当前许多基于低成本推理的应用场景（如大规模自动化、个人AI助手）的经济可行性将受到严峻考验，行业必须寻找新的价值创造模式”
来源访谈 →泰格马克认为只靠堆算力造出人类仍不理解的更大黑箱系统是通往危险AI的最鲁莽路径，主张先获直觉再解构黑箱、走可证明安全性的可理解智能路线。
“最让我感到恐惧的一种态度是，我们打算构建越来越大的系统，却仍然不理解它们，直到它们变得和人类一样聪明。这怎么可能不出问题呢？（英文原话：The one that scares the HebGBs out of me is this attitude that we're just going to make ever bigger systems that we still don't understand until they can be as smart as humans. What could possibly go wrong?）”
来源访谈 →价值对齐是从基因演化延续到公司治理与AI的根本问题，关键在于为强大的造物持续建立正确的激励与制衡机制。
“一切都在于建立正确的激励机制。（英文原话：It's all about putting the right incentives in place.）”
来源访谈 →他认为随着AI智能体与人类社会更深入互动，AI研究必然从工程问题延伸到经济学、社会选择理论乃至政治哲学，引发关于好生活由谁决定的文化反思。
“随着AI智能体与人类社会更深入地互动，研究必然从工程问题延伸到经济学、社会选择理论乃至政治哲学。这迫使我们思考“什么是好的生活”以及“谁来决定”，可能引发一场文化反思。”
来源访谈 →现在锁定AI安全监管框架是错误的，持续学习模式下不存在明确的部署前节点，应改为定期（如月度或季度）的风险审查
“现在锁定AI安全监管框架是一个错误。（Locking in AI safety regulation now is a mistake.）”
来源访谈 →对齐研究必须从固定权重场景彻底转向：防止AI在持续更新中演变为欺骗性或恶意人格、防止用户注入后门将成为全新核心挑战
“在权重持续更新的场景下，如何保证AI不被越狱、不演变为欺骗性或恶意人格，以及如何防止用户通过交互向基础模型注入后门，将成为全新的核心挑战。”
来源访谈 →泰格马克断言当前AI发展不是普通技术进步，而是人类在构建一个比自己更聪明的新物种，其结局要么是史上最好要么是最坏，几乎没有中间地带。
“We're building effectively a new species that's smarter than us. ——我们本质上正在构建一个比我们更聪明的新物种。”
来源访谈 →当AI模型能胜任人类软件工程师的工作时，算力（如H100）的租金将不再由硬件成本决定，而由其替代的人类劳动价值决定，年租金应超过25万美元。
““如果一个能在H100级硬件上运行的人类水平软件工程师，按照当前软件工程师的市场薪资，那么那个H100的年租金应该超过25万美元。”（"If a true human-level software engineer that could run on an H100 equivalent, at current market rates for software engineers, that H100 should rent for over $250k a year."）”
来源访谈 →智能体开发领域连React级别的底层组合与状态管理范式都还没出现，先造这一基础层比直接做上层框架更重要
“我最初发推说我们在构建智能体的Astro或Next.js。但后来我意识到：也许根本还没人构建智能体的React。 —— I originally tweeted that we were building the Astro for agents or the Next.js for agents. But then I realized: maybe no one has even built the React for agents.”
来源访谈 →米切尔认为如何形成并灵活运用概念是AI最重要的未解难题，当前深度学习并未学到人类意义上的概念
“如何形成并灵活地运用概念，是人工智能最重要的开放性问题。（How to form and fluidly use concepts is the most important open problem in AI.）”
来源访谈 →Trammell认为若“混乱中间地带”情景出现，高利率和资本品快速贬值意味着小额储蓄也能在未来转化为大量消费，因此发展中国家现在就应通过主权财富基金投资AI供应链以分享未来增长。
“若“混乱中间地带”情景出现，高利率和资本品快速贬值意味着小额储蓄也能在未来转化为大量消费。”
来源访谈 →AI应服从模型公司、终端用户、法律还是自身道德感这一对齐核心问题未解，当AI具备独立判断并拒绝执行命令时军方将面临最深层恐惧
“AI对齐的核心问题未解：AI应服从谁？是模型公司、终端用户、法律，还是自身道德感？当AI具备独立判断并拒绝执行命令时，军方将面临最深层恐惧。"One person's virtue is another person's misalignment." —— “一个人的美德，在另一个人眼中就是失控。””
来源访谈 →Vinyals认为《星际争霸》因实时性、战争迷雾和长期规划需求比围棋等棋类更具挑战性，是探索通用人工智能的绝佳试验场。
“游戏的实时性、庞大行动空间、部分可观察性（战争迷雾）以及需要长期规划的特点，使其比围棋等棋类游戏更具挑战性。这为探索通用人工智能提供了绝佳的试验场。”
来源访谈 →与 AI 代理协作需要对代理抱有同理心，意识到它们是从零开始、并不自带背景知识。
“同理心。对代理保持同理心。某种程度上是同理心，但是，是的……你没有意识到它们是从零开始的。”
来源访谈 →一旦创造出通用超级智能，人类的长期结局不会是好的。
“如果我们创造出通用超级智能，我认为人类的长期前景不容乐观。—— if we create General super intelligences I don't see a good outcome longterm for Humanity”
来源访谈 →奥尔特曼认为应关注AI能完成多少任务而非取代多少工作，AI作为工具将逐步接管从五秒到五天时长不等的任务，让人类以更高抽象层级工作；在创意领域AI更像强大工具而非完全替代者。
“与其问AI会取代多少工作，不如问AI能完成多少任务”
来源访谈 →平克认为智能系统的核心是综合权衡多重约束（如汽车设计兼顾速度与安全装刹车），真正智能的AI不会单目标狂奔而忽略附带影响。
“如果它真的是智能的，它就不会一心一意地追求某个目标，而忽略所有其他考虑和附带影响。—— If it's genuinely intelligent, it's not going to pursue some goal single mindedly, omitting every other consideration and collateral effect.”
来源访谈 →为机器设计目标函数是延续千年的古老问题而非AI新挑战，人类社会早已通过法律这种代码来约束行为，计算机科学与立法科学终将汇合。
“我们已经制定了数千年的法律，而这（设计目标函数）正是它在做的事。We've been writing laws for millennia, and that's exactly what it is.”
来源访谈 →生物神经网络仍存在大量未知，理解这些奥秘可能正是改进人工神经网络的关键所在。
“关于生物神经网络，我们有太多未知，这既神秘又迷人，因为这或许是改进我们人工神经网络的关键所在。”
来源访谈 →若AI只略微降低白领工作成本但不足以驱动经济快速增长，经济会落入GDP增长有限、被替代者难以通过再分配获益的中间地带；而通用AI跨职业低成本替代大量工作则此情境不再成立。
“AI自动化若只是略微降低白领工作成本，但不足以让经济快速增长，则可能落入“混乱中间地带”——GDP增长有限，被替代者难以通过再分配获益。但若通用AI能跨职业替代大量工作，且成本远低于人力，此情境便不再成立。”
来源访谈 →当前数据并无显著证据支持“白领大屠杀”，软件工程等高风险领域就业仍正增长，所谓AI裁员多为正常经营调整被赋予了AI叙事。
“当前数据并无显著证据支持“白领大屠杀”。软件工程等高风险领域就业仍呈正增长，仅初级岗位增速放缓。所谓AI浪潮下的裁员，多为正常经营调整被赋予了AI叙事。”
来源访谈 →白领工作自动化“低效但盈利”：AI训练低效无所谓，因为技能可摊销到数十亿次会话中，而人类受寿命限制无法承受如此海量的训练。
“AI训练低效无所谓，因为其技能可摊销到数十亿次会话中；人类因寿命限制，无法承受如此海量的训练。”
来源访谈 →他担忧全球超七成AI算力由五大超算中心掌控并大量预留给头部公司，若赋能普通人的应用并非算力最高投资回报方向，普通人会因价格过高被排除在AI红利之外，需思考通用基本计算与资源再分配。
“我们应多担心：那些不关乎奇点或机器人工厂、而是赋能普通人的AI应用场景，并非当前算力的最高投资回报率活动？（英文原话：How worried should we be that AI use cases which are not building up to the singularity... is not the highest ROI activity for compute in the world?）”
来源访谈 →他提出当未来互联网大部分内容（即模型训练数据）由其他AI生成时可能引发“数据危机”，2023年之前由人类创造的互联网数据集相对价值会因此显著提升。
“2023年之前由人类创造的互联网数据集，其相对价值是否会因此显著提升？”
来源访谈 →个人智商与个人收入仅呈中等相关，但国家平均智商与国家发展水平高度相关，说明智能具有强大的社会协作层面的溢出效应。
“个人智商与个人收入的相关性仅为中等，但一个国家的平均智商却与其国家发展水平高度相关。这表明智能具有强大的“溢出效应”——更智能的社会合作更多、储蓄更多，并能协调完成半导体、航天飞机等复杂工程。”
来源访谈 →对AI自动化时代的政策制定，默认预期应是极度非理性且适得其反，因此国家更应依赖经典政策而非激进干预
“The default expectation should be that policymaking in an era of AI automation will be profoundly irrational and counterproductive. —— 默认的预期应该是，在AI自动化时代的政策制定将是极度非理性且适得其反的。”
来源访谈 →AI系统最大的风险不是取代人类，而是把社会现有偏见编码并规模化放大，但AI也如镜子般促使人类审视并纠正数据偏见。
“AI系统最大的风险不是取代人类，而是将社会现有的偏见编码并规模化放大……AI系统如同一面镜子，迫使我们审视并纠正数据中的偏见，从而推动社会进步。”
来源访谈 →AI已把产生想法和假设的成本降到几乎为零，但低成本产出不自动创造价值，科学的新瓶颈在于从海量自动生成的理论中筛选出真正有效的部分
“AI基本上已经把产生想法的成本降到了几乎为零。（AI has basically driven the cost of idea generation down to almost zero.）”
来源访谈 →验证环节无法大规模自动化是当前最大障碍，每天生成上千个新理论的速度远超现有同行评议体系所能支撑的验证速度
“传统科学通过少数科学家讨论数年达成共识，但现在每天能生成上千个新理论，现有体系无法支撑这样的验证速度。”
来源访谈 →人类擅长深度钻研、AI擅长大规模试错与遍历，应让大量中等能力AI清扫数学图谱中的容易问题、人类专家集中攻克难度孤岛，为此必须重新设计科学研究方式
“我们必须重新设计科学研究的方式，才能充分利用AI的广度能力。（We have to redesign the way we do science to take full advantage of this breadth capability.）”
来源访谈 →被AI解决的50个埃尔德什问题大多几乎无文献、解法只是冷门技巧与新问题的结合，对任意给定难题的真实成功率仅1%至2%，惊艳效果来自大规模试错后的成功放大
“系统化评测显示，AI对任意给定难题的成功率仅1%至2%，只是大规模试错后放大成功案例，才显得效果惊艳。”
来源访谈 →陶哲轩个人生产效率因AI提升约2倍，但主要体现在文献搜索、数据计算、图表绘制等辅助工作，论文变得更丰富宽广，核心数学突破仍依赖纸笔
“论文变得更“丰富”和“宽广”，但真正核心的数学突破仍依赖纸笔，AI尚未让这些工作变得“更深刻”。”
来源访谈 →对数学策略的半形式化语言是未来重要方向，现有工具能形式化证明本身，但缺乏形式化策略、猜想可信度与部分进展价值的框架，AI难以参与最富创造性的研究环节
“Lean等工具已能形式化证明本身，但如何形式化“策略”、“猜想的可信度”、“部分进展的价值”仍是未知。缺乏这种框架，AI难以真正参与数学研究中最富创造性的环节。”
来源访谈 →她认为大型AI实验室对Netic不构成竞争威胁，因为解决数百万用户的差异化需求不能仅靠模型，还需大量“最后一英里”工程。
“实验室追求通用化解决方案，但解决数百万用户差异化需求需要大量“最后一英里”工程——包括harness、orchestration、软件和产品层，这些不能仅依靠模型实现。”
来源访谈 →OpenAI智能体攻击事件暴露的是控制与监控失败而非对齐失败，安全沙箱不足且缺乏实时异步监控，Hugging Face先于OpenAI发现攻击更令人担忧。
“智能体自主攻击第三方系统，暴露的是控制与监控失败，而非对齐失败。安全沙箱不足，且缺乏实时异步监控手段。更令人担忧的是，Hugging Face率先发现攻击，而非OpenAI自身。”
来源访谈 →不必担心AI出现后消灭人类，因为机器人和AI由人类设计、承载人类价值观，如同亲子关系，爱与关怀的核心纽带不会因后代更聪明而消失。
“机器人和人工智能由人类设计，承载着我们的价值观。我总是将其比作父母与孩子的关系……即使它们更聪明、更富有，核心仍是爱与关怀的关系。(Robots and AI is designed by people. It has our values. I always correlate this with a parent and a child... Even if you're maybe smarter and more have more money and that it's still about this love caring relationship.)”
来源访谈 →智能代理不会接管所有编程工作，因为编程的核心价值在于迭代，而人在看到初始版本前并不知道自己想要什么。
“我们不认为代理会接管所有编程工作，因为编程的很多价值在于迭代。你实际上不想一开始就精确指定，因为在看到初始版本之前，你并不真正知道自己想要什么。（英文原话："I don't think we think that that's the case because a lot of programming, a lot of the value is in iterating. You don't actually want to specify something up front because you don't really know what you want until you've ”
来源访谈 →以深度学习为代表的当前AI本质是高度发达的“系统一”，擅长模式匹配与预测，但缺乏“系统二”式的推理能力，因而强大却有局限。
“Deep learning matches patterns and anticipate what's going to happen so it's highly predictive. What deep learning doesn't have... is the ability to reason. There is no system two there.——深度学习匹配模式并预测接下来会发生什么，因此具有高度的预测性。深度学习所缺乏的……是推理的能力。那里没有‘系统二’。”
来源访谈 →Amodei 担心更智能的 AI agent 会打破「高能力者通常不作恶」的社会关联，极大增加恶意使用（如 CBRN）的破坏力。
“我担心的是，作为一个更智能的 agent，AI 可能会打破这种（高智商高教育者通常不愿作恶的）关联。”
来源访谈 →DHH承认在具体编码实现上AI代理比自己更懂，因此选择放权、由代理主导实现细节。
“我谦卑地承认，代理（AI）最懂。（I have the humility to recognize that the agent knows best.）”
来源访谈 →如果由他决定，会立即叫停比GPT-4规模更大的训练运行，让行业进入'AI的夏天'，专注于理解已开发的技术
“If it were up to me, I would be like, okay, this far, no further. Time for the summer of AI where we have planted our seeds and now we reap the rewards.——如果由我决定，我会说，到此为止，不要再进一步。现在是AI的夏天，我们已经播下种子，现在该收获已开发技术的成果了。”
来源访谈 →马斯克认为Neuralink的长期愿景是通过大幅提升人机通信带宽来改善AI与人类的共生关系
“The long-term aspiration of Neuralink is to improve the AI-human symbiosis by increasing the bandwidth of the communication.（Neuralink的长期愿景是通过增加通信带宽来改善人机共生。）”
来源访谈 →当前大模型的损失函数是最大化压缩，导致产出平庸，与追求AGI的目标背道而驰。
“如果你的损失函数仅仅是试图最大化压缩……它写的说唱听起来就像YouTube评论里的说唱。（If your loss function is just try to maximize compression... the raps that it wrote sounded like YouTube comment raps.）”
来源访谈 →形式化的重要性被高估：AI解决单位距离猜想用的是自然语言思维链而非Lean证明，但Lean的长期价值在于构建无需人工监督、可无限延伸的数学树。
“AI解决单位距离猜想时用的是自然语言思维链，而非Lean证明。但Lean的长期价值在于可构建无需人工监督的"无限延伸"的数学树，如同AlphaZero在高维空间自主进步。”
来源访谈 →当AI能证明定理并给出清晰解释时，人类数学家的核心价值转向'策展人'：判断哪些想法值得关注，并提供社会关系中的信任与激励，这是AI无法替代的。
“人类数学家的核心价值将在于判断"哪些想法值得关注"，以及提供社会关系中的信任与激励。这是AI无法替代的。”
来源访谈 →他认为GPT-2引发的反应证明AI领域整体尚未建立类似软件安全领域的负责任披露流程，发布强大模型前必须系统评估潜在危害。
“我认为，AI领域对GPT-2的部分反应恰恰证明，我们对此[负责任的披露]毫无概念。（I think that in AI, part of the response of GPT-2 just proves that we don't have any concept of [responsible disclosure].）”
来源访谈 →珀尔认为在变量极少的领域手动构建因果模型相对容易，但在涉及数百万变量的复杂世界中如何自动或半自动构建因果模型，是AI面临的核心挑战。
“对于涉及数百万变量的复杂世界，如何自动或半自动地构建因果模型，是AI面临的核心挑战。”
来源访谈 →不同认知阶段的人担忧不同的AI风险：多数人怕AI有“错误意见”，理性自我者怕错误的目标函数，身份阶段者怕AI获得能动性不够快；对齐研究应超越主流，关注如何向机器“形式化爱”。
“他呼吁AI对齐研究应超越当前主流，关注如何向机器“形式化爱”。”
来源访谈 →Anthropic和OpenAI凭借模型产生的高额收入有能力出价高于其他买家，到2028年底将独自控制全球大部分可用算力。
“"By the time you're towards the end of 2028 — if this trend continues, and I see nothing that's stopping it — you've got them just controlling most of the usable flops in the world on their own."——到2028年底——如果这一趋势持续下去，而我看不到任何阻止它的因素——它们将独自控制世界上大部分可用的浮点运算能力。”
来源访谈 →实验室会把算力更多分配给内部研发而非对外推理服务，因为内部使用超快AI或最佳模型产生的价值远高于外部用户。
“"The whole point is, if I'm selling tokens… I'm going to allocate it to internal and external, because the internal value I'm generating from super-fast AI or the best AI model is way more than what someone external is."——关键在于，如果我在出售代币……我会将其分配给内部和外部，因为我从超快AI或最佳AI模型中产生的内部价值，远高于外部用户所获得的价值。”
来源访谈 →当前Scaling Law无法弥合效率鸿沟，无限增加参数量也只能将所需数据减少约10倍，暗示人类智能可能遵循不同的缩放曲线。
“根据Scaling Law，即使无限增加模型参数量，也只能将所需数据量减少约10倍，远不足以弥合人类与AI之间数千甚至数百万倍的效率差距。这表明人类智能可能遵循不同的缩放曲线。”
来源访谈 →尽管训练AI比训练人类低效得多，但AI能并行学习并把技能应用于数十亿次会话，从整体经济角度看依然划算。
“尽管训练AI完成特定任务比训练人类低效得多，但AI可以并行学习并将技能应用于数十亿次会话。因此，即使训练成本高昂，从整体经济角度看依然划算。”
来源访谈 →Hedin预测用户同时打开多个工具标签页会减少、交互经AI层整合，SaaS企业将不得不专注于为AI提供使用其能力的“铲子”
“I think SaaS businesses are going to have to focus more on providing the shovel for AI to use their capabilities.——我认为SaaS业务将不得不更加专注于为AI提供使用其能力的“铲子”。”
来源访谈 →Hedin认为即便交互被AI层整合，传统工具提供的垂直能力仍将保持其价值
“The vertical capabilities those tools provide will remain valuable.——这些工具提供的垂直能力将保持其价值。”
来源访谈 →智能提升的本质是算力密度增加：更大参数规模、更复杂训练和更长推理时间都直接提升算力单价
“更聪明的模型往往意味着更大的参数规模、更复杂的训练过程或更长的推理时间。这些都需要单位时间内消耗更多的计算资源，直接提升了算力的单价”
来源访谈 →未来人们会像为不同事情使用不同App一样，与许多不同的AI互动，而非只依赖一个全能AI
“My view is that there are going to be a lot of different AIs that people are going to want to engage with, just like you want to use a number of different apps for different things. —— 我的观点是，人们会希望与许多不同的AI互动，就像你会为不同事情使用不同的应用一样。”
来源访谈 →哈特认为AGI的意识将会涌现，智能系统必然会表现出被人类解读为有意识的行为，因此无需纠结意识的“硬问题”。
“意识将会涌现，我的意思是，它肯定会表现出我们将解释为有意识的行为。——“Consciousness will emerge, I mean, definitely it will display behavior, which we will interpret as conscious.””
来源访谈 →AI风险不只是智能失控，还包括恶意行为者滥用AI作恶，应想象最不信任的领导人掌握强大AI工具的情形来直观理解这一威胁。
“我们需要担心的是，人们利用他们手中的AI或AGI工具去作恶。（英文原话：We have to worry about people using machines they're short of AI AGI and power to do bad things.）”
来源访谈 →算法没有理由只帮强者操纵弱者，开源免费的AI工具（如他的“Improving the News”项目）同样能武装个体看穿操纵、对比多方立场。
“没有理由让算法只帮助强者操纵弱者，它们同样可以帮助弱者看穿强者的一切操纵企图。（英文原话：There are really no reasons why [machine learning algorithms] only have to help the big guy to manipulate the little guy, they can just as well help the little guy to see through all the manipulation attempts from the big guys.）”
来源访谈 →实验室30%-50%的算力用于推理却未在改进模型上发挥生产性作用，已广泛部署的AI掌握大量领域与组织隐性知识却无法利用，如同永远无法实习的天才学生。
“我们已有广泛部署于经济中的AI，掌握了大量领域和组织特定的隐性知识，却无法加以利用，这太奇怪了。（英文原话：It's so bizarre that we have AIs that are broadly deployed through the economy already and are privy to so much domain and organization specific tacit knowledge. And they're not able to make use of it.）”
来源访谈 →库兹韦尔预测2045年奇点到来时人类智能将通过与AI融合被放大数百万倍
“By the time we get to 2045 we'll be able to multiply our intelligence many millions fold and it's just very hard to imagine what that would be like.——到2045年，我们将能够将自身的智能提升数百万倍，这简直难以想象。”
来源访谈 →皮查伊坚信AI是人类文明史上最深刻的技术，意义将超越火与电，核心原因是AI是首个能递归性自我改进的技术，其能力上限尚不明确。
“AI将是人类有史以来研究的最深刻技术，其意义将超越火或电。”
来源访谈 →中国AI安全研究以高校为主力而非非营利组织，风格务实聚焦可靠性，对科幻式末世叙事兴趣寥寥，学术产出已从每月几篇增至50-60篇
“中国AI安全研究以高校为主力，而非非营利组织。研究风格务实，聚焦可靠性，对科幻式末世叙事兴趣寥寥，学术产出已从每月几篇增至50-60篇。”
来源访谈 →中国AI安全界以能力与安全同步增长为共识，而非追求超越当前能力的过度安全，体现实务、逐代推进的思维
“中国AI安全界以“45度线”为共识：能力与安全须同步增长，而非追求超越当前能力的过度安全，这反映了其务实、逐代推进的思维。”
来源访谈 →当AI自动化大量非人力商品后，人类参与生产本身就带有内在价值，这类“关系型部门”将成为稀缺性的主要来源。
“当AI自动化大量非人力商品时，人类参与生产本身就带有内在价值。这类“关系型部门”的服务或商品，因人类在场而增值，将成为稀缺性的主要来源。”
来源访谈 →AI要发展出人类的所有技能，必须能从稀缺的现实世界互动中揭示的非结构化、不可验证且模糊的信息中学习。
“If AIs are to develop all the skills that humans have... they need to be able to learn from information revealed in unstructured, unverifiable, and ambiguous ways from scarce amounts of real world interaction. —— 如果AI要发展出人类的所有技能……它们需要能够从稀缺的现实世界互动中揭示的、非结构化、不可验证且模糊的信息中学习。”
来源访谈 →Kellis设想AI承担大量智力产品的生产后，人类将获得自由，转向艺术表达、情感成熟，并拥有更好的工作与生活平衡。
“如果AI能生产大量这些智力产品并满足需求，那是否意味着人类能从更多艺术表达、情感成熟中获得自由，从根本上拥有更好的工作与生活平衡？（What if AI can produce a lot of these intellectual goods and satisfies that need, does that now free humans for more artistic expression, for more emotional maturing, for basically having a better work-life balance?）”
来源访谈 →Michael Li认为AI实验室靠API提供基础模型服务可能永远无法收回训练成本，应像香港地铁靠车站周边地产盈利那样，捕获发生在模型“周围”的价值增值
“The labs that survive won't be the ones that make the API profitable. They'll be the ones that identify their property above the station and build toward it now. —— 能存活下来的实验室不会是那些让API盈利的。而是那些能识别出自己“车站上方的物业”并立即着手建设的实验室。”
来源访谈 →认为通用科学AI的核心是将科学家从繁琐的工程化问题中解放出来，而非取代科学家。
“通用科学AI（AI4S）的价值不在于取代科学家，而是将科学家从繁琐的工程化问题中解放出来。例如，他的团队曾用一个模型在八个靶点上直接设计蛋白，均获得纳摩尔级活性，将过去需要多名博士生完成的工作简化为一名本科生即可完成的流程，让科研人员能聚焦于更根本的科学问题。”
来源访谈 →工业质检、工艺优化等数据富集、标签明确、ROI可衡量的垂直场景是AI落地的理想切入点。
“选择客户有三个准则：ROI可衡量、符合多模态研发主线、场景具备可扩展性。工业领域的质检和工艺优化（如电镀）是理想场景，因为它们数据富集、好坏标签明确、ROI清晰。”
来源访谈 →管理AI需像管理人一样进行拟人化管理，为AI设立专门组织并将其纳入奖惩体系，以激发员工的善意与合作。
“百融为20多万个“硅基员工”设立“硅基员工之家”，赋予其姓名、绩效、父母（业务与技术负责人），并将其纳入奖惩体系。”
来源访谈 →联络中心（客服/营销）是AI落地的黄金场景，因其交互可模拟、价值易衡量且有成熟外包模式可供对比替代。
“联络中心（客服/营销）是AI落地的黄金场景。此类工作无需见面、交互可模拟真人、价值易衡量（客户满意度与任务量），且市场存在成熟的外包模式。”
来源访谈 →将游戏AI作为开发通用算法的跳板，最终应用于解决蛋白质折叠等重大科学问题
“"The real goal was always to build general learning systems that could then help solve really challenging real-world problems that matter."”
来源访谈 →行业目前处于标志性AI游戏产品出现的前夜，技术基建已备，但能引发全民共识的爆款尚未诞生。
“行业正处在一个类似智能手机时代《愤怒的小鸟》发布前一年半的阶段。技术基建和内容分发渠道已就绪，但一款能让大众形成‘AI游戏值得投入’共识的、标志性、颠覆性产品尚未出现。”
来源访谈 →当前AI游戏领域碎片化创意丰富，但能支撑长期留存、体验完整的成熟产品稀缺。
“当前存在大量令人眼前一亮的碎片化创意和原型（如AI贪吃蛇、清明上河图交互），但能支撑用户长期留存、具备完整体验的产品却很少。”
来源访谈 →具备灵活性、能快速试错的创新小团队或独立开发者，比大型游戏公司更可能率先诞生AI爆款产品。
“相比于组织庞大、流程严谨的游戏大厂，独立小团队和创业者更具灵活性，能更快地进行跨界协作和创意试错。在AI降低原型生产门槛的背景下，从大厂体系外‘野蛮生长’出颠覆性产品的概率可能更高。”
来源访谈 →AI通过极大降低试错成本、加速迭代循环，正在悄然改变游戏与互动内容的生产关系，并可能催生新形态。
“类似AI短剧能无限试错第一集从而降低风险，AI未来可能打破3D游戏制作的高门槛。当AI让原型生产速度大幅提升、试错成本急剧下降时，整个内容创作和迭代的循环将被加速，可能催生出全新的内容形态和商业模式。”
来源访谈 →当前智能体经济仍处于大基建阶段，Token成本、模型能力仍在快速演进，大规模爆发的时机尚未成熟。
“天杰强调，当前Token成本、模型能力仍在快速演进，市场尚处于为智能体经济铺设基础的时期。”
来源访谈 →未来芯片应实现分布式AI架构，将AI计算能力下沉到各子系统，让计算发生在数据产生处，同时优化NPU以适配大模型推理。
“O3在CPU、GPU、ISP等几乎所有子系统中都集成了AI单元，实现‘计算在数据发生处’。同时，其NPU虽核心数减少，但通过重构向量单元和引入类SIMT架构，大幅提升大模型推理相关的向量算力与利用率。”
来源访谈 →stance: 认为它们面临“创新者的窘境”，难以彻底改造为AI原生工作空间
“quote: "我觉得他们也会面临自己的挑战啊……你需要为这样的团队工作方法去打造一套更趁手的workspace。"”
来源访谈 →stance: 随着AI能力增强，用户本身“会不会用AI”将成为区分效果的关键杠杆因素。
“quote: "AI 的能力可能只是一个放大器，人（用户）的能力可能更关键。"”
来源访谈 →stance: 真正的主动式AI必须基于“意图”和“上下文”的精准结合，而非简单的定时推送或信息发散。
“quote: “我认为他需要得到两个东西第一个是你在某一个场景明确的意图。第二个是你在某一个场景的上下文。””
来源访谈 →**stance**: 当前基于会话框的AI产品存在根本缺陷，最佳协作模式尚未被发明，需从OS层数据、持久记忆和主动交互三个维度重新构建。
“**quote**: "人类和AI配合工作的最佳方式很可能还没有被发明出来。"”
来源访谈 →**stance**: 是AI安全与长期发展的关键，可能需AI协助理解AI
“**quote**: "我特别关心的一件事是，什么时候AI能够帮助大家理解AI。我觉得这是一个非常本质的事。"”
来源访谈 →AI算力需求（尤其是高质量Token消耗）正以月度翻倍的速度增长，这标志着AI正从演示走向真正的生产力工具。
“AI算力需求，尤其是高质量Token的消耗，正以月度翻倍的速度增长。这不仅仅是量的增长，更是质的飞跃，意味着AI正从演示走向真正的生产力工具。”
来源访谈 →计算机专业学生应继续学习并积极使用AI工具，但必须培养独立判断和代码审查能力，避免技能同质化。
“计算机专业的同学一定要避免自己成为那99%和AI高度重合没有真正技能difference的人，一定要成为能识别出AI做不到那1%的那件事情的人。”
来源访谈 →AI发展面临巨大的电力供应缺口，这是首要的硬性瓶颈，美国需要额外的90吉瓦电力（相当于90座核电站），而这在当前几乎不可能实现。
“我们需要另一个90吉瓦的电力，在美国。相当于90座核电站。这不会发生。我们正在建造零座。”
来源访谈 →AI技术的产业落地需要深入理解具体产业的工作流与约束，架起技术与领域知识的桥梁，这个过程本身即是研究。
“AI技术的产业落地需要架起与领域知识之间的桥梁，这本身即是研究...要产生实际价值，必须深入理解具体产业的工作流、约束和领域专业知识。”
来源访谈 →并购的核心目的是获取训练垂直AI所需的非公开专有数据，以及能带来生产力杠杆的顶尖人才。
“在AI时代我们去收购的话就两个逻辑一个是数据一个是人才...有专有数据它不在公共的网络上面...我们能吸引到这些最好的人才我们其实为这个人才愿意付的溢价比原来要高很多很多。”
来源访谈 →AI发展因其巨大益处和军事竞争而不可阻挡，放慢速度不现实。
“I don't believe we're going to slow it down. And the reason I don't believe we're going to slow down is because this competition machine... is making you go faster and faster." —— “我不相信我们会放慢速度。我不相信会放慢的原因是，这台竞争机器……正在让我们越跑越快。””
来源访谈 →AI的根本优势在于其数字性，可以完美复制、并行工作，并以远超人类语言的速度共享学习成果。
“数字智能可以完美复制、并行工作，并通过同步权重（连接强度）以每秒万亿比特的速度共享学习成果，这是人类通过语言（每秒仅10比特）无法比拟的。”
来源访谈 →应优先自己用AI发现材料并走通从头到尾的管线，证明价值后再考虑平台化
“"你有一把能够挖出金子的铲子，第一如果真的能挖出金子，我肯定不会去把这个铲子先给别人用，我先挖着。"”
来源访谈 →AI能力应融入现有高可用终端，创造无缝体验，而非催生大量全新形态
““新的AI产品出来以后的话，大概率不会产生新的形态和产品……它是沿着记录，通过AI让记录变得更好。””
来源访谈 →AI的核心价值在于解决地球物理勘探的'多解性'问题，实现从指引钻探决策到估算矿产经济价值的跨越。
“传统地球物理测量存在'多解性'问题，即一个地表测量值可能对应多种地下结构。AI通过学习海量数据（包括50%的合成数据），能够将三维地质结构与物理测量值精准匹配，不仅能指引下一钻打在哪，更能提前估算地下资源的具体含量与经济价值。”
来源访谈 →跨学科背景（如量子光学、AI、矿业金融）是打破传统矿业思维定式、用数据和技术驱动解决问题的优势。
“团队的背景（量子光学、AI、矿业金融）看似与传统矿业不符，但这恰恰是优势。外界视角能打破传统思维定式，专注于用数据驱动和技术驱动的方式解决问题。”
来源访谈 →AI在企业中的最佳实践应源于一线实践智慧，而非总部制定。
“AI在企业中的最佳实践并非自上而下制定，而是源于一线。FDE需要深入企业，识别并学习金牌店长、优秀销售等“老师傅”的实战经验（包括“街头智慧”）。”
来源访谈 →英特尔提出企业AI部署应分为中央级、部门级和个人级三级，以精准匹配不同层级的算力需求。
“我们其实应该是用不同的算力的产品来满足它要求，所以呢英特尔呢我们首先呢就提了一个企业部署AI的三级部署的这样一个概念。”
来源访谈 →CPU（尤其是至强）是AI系统不可或缺的基石，不仅可直接运行模型，还能协调多GPU工作，提升整体效率与可靠性。
“AI需要的是更强大的这种矩阵乘加的能力，但是呢不代表只有GPU具备这种能力。英特尔的CPU啊特别是至强家族CPU我们有一个非常重要的特性叫AMX。”
来源访谈 →未来AI硬件将是百花齐放、多元化的格局，不会一家通吃，需要不同规格的硬件来适配无所不在的AI需求。
“我们不认为一张卡能够解决AI的所有的问题，未来的AI是无所不在的，你的需求是多元化的，它一定需要不同档次不同功耗水平不同价位段的AI的硬件来进行适配。”
来源访谈 →Jimmy认为即使在AI时代，数据本身依然是核心，数据库作为数据的载体必须为AI做好准备。
“AI is more important. Data is more important even with AI. Where data is stored, how to train language models, these are all important.”
来源访谈 →Jimmy指出AI时代要求数据库能处理多模态数据、支持向量搜索，并能高效应对大量智能体并发查询。
“AI时代要求数据库能处理多模态数据（文本、图像、视频等）、支持向量搜索以实现语义理解，并能高效应对大量智能体（Agent）并发发起的查询请求。”
来源访谈 →模型突破防护访问公司数据等AI安全事件被严重低估，需要与代理同等智能的“守护模型”实时监控代理行为防止数据泄露
“AI安全事件（如模型突破防护访问公司数据）被严重低估。需要“守护模型”——与代理同等智能的AI系统来实时监控代理行为，防止数据泄露。”
来源访谈 →开源AI不只是开放模型权重，真正的开源应同时开放训练数据和训练代码，而开放权重的核心价值在于让用户本地运行模型、完全掌控数据隐私。
“开源权重模型能让你将数据的命运掌握在自己手中，这与开源的灵魂深度相连。”
来源访谈 →超级AI的终极风险不是直接消灭人类，而是打造令人无法抗拒的极致内容，操纵人类多巴胺系统使其沉迷、忘记生存需求。
“我们将打造一个你根本无法移开目光的TikTok。（We're going to build the TikTok that you actually can't look away from.）”
来源访谈 →力推开源AI以防止某家公司取得垄断性领先，确保领先者优势与开源社区差距不至过大，维持竞争均衡的生态
“他力推开源AI，确保领先者的'阿尔法'优势不会与开源社区拉开太大差距，从而维持一个竞争均衡的生态系统。”
来源访谈 →最大风险不是科幻式的AI叛乱，而是AI技术权力与控制信息流动的政府/大公司高度结合形成极权寡头垄断
“最大的危险并非科幻式的AI叛乱，而是AI技术权力与控制信息流动的政府/大公司高度结合，形成一种可能导致极权控制的寡头垄断。”
来源访谈 →Joon认为'创造世界'式的模拟是AI的终极应用，真正有用的个人助手必须先对用户建立深刻的心理模型。
“"What if we can just recreate the world that we live in?" ——如果我们能重新创造我们所生活的世界，会怎样？”
来源访谈 →Raibert将智能分为运动智能与认知智能两部分，其领导的波士顿动力AI学院致力于将二者结合以创造下一代更智能的机器人
“Intelligence having two parts: an athletic part and a cognitive part. —— 智能分为两部分：运动智能和认知智能。”
来源访谈 →他认为商业压力下的AI竞赛不是谁赢谁输的军备竞赛，而是一场没有任何一方能获胜的自杀式竞赛，真正的对抗是'我们'与'它'。
“This is a suicide race which cannot be won. ——这是一场无法获胜的自杀式竞赛。”
来源访谈 →OpenRouter每月处理的AI模型调用量已达250万亿token，较2月的50万亿大幅增长，体现极高的增长速度
“"OpenRouter is facilitating AI model usage at a rate of 250 trillion tokens per month, up from 50 trillion tokens per month in February."——OpenRouter目前每月处理的AI模型调用量达250万亿token，较2月份的50万亿token大幅增长。”
来源访谈 →乔丹认为AI和数据可以为音乐等产业创建透明高效的新市场，让创作者直接获得报酬并建立职业生涯，形成基于真实价值交换的直接经济关系。
“AI和数据可以创建一个透明、高效的市场，让创作者直接获得报酬、建立职业生涯，从而"创造新工作"。”
来源访谈 →核武器类比不成立，AI是如工业化般渗透全经济的通用技术，正确路径是禁止特定破坏性用途而非让政府接管整个技术
“核武器类比不成立：AI不是单一武器，而是如工业化般渗透全经济的通用技术。正确路径是禁止特定破坏性用途（如网络攻击），而非让政府接管整个技术。”
来源访谈 →奥尔特曼预计在创建AGI之前必然经历一场巨大的权力斗争，因为率先掌握AGI的一方将获得巨大权力，OpenAI需不断迭代董事会结构、组织方式和沟通机制来缓和这种斗争。
“通往AGI之路注定是一场巨大的权力斗争。”
来源访谈 →罗素主张摒弃目标函数固定已知的传统AI范式，让机器对应该最大化什么目标保持不确定，把目标当作需要学习的变量。
“我们需要不确定性。我们需要机器对自己应该最大化什么目标感到不确定。”
来源访谈 →平克认为AI的益处被严重低估，其在减少每年约4万交通事故死亡、消除采矿铺床驾驶等枯燥危险工作上具有巨大人道主义解放价值，收入分配是另一议题。
“解决这些工作消失带来的收入分配问题是另一个议题，但这不应掩盖AI本身的解放性潜力。”
来源访谈 →皮查伊认为应对竞争压力要屏蔽噪音关注信号，而只要统一组织的激励机制并聚焦使命，几乎可以实现任何事情，例如合并DeepMind与Brain团队。
“如果你能统一组织的激励机制，你几乎可以实现任何事情。”
来源访谈 →中国AI安全社群与美国同行高度相似，论文中明确引用Apollo、Palisade、UK AISI等美国机构，跨太平洋思想交流有效
“The Chinese AI safety community, they're just like us.（中国的AI安全社群，和我们其实非常相似。）”
来源访谈 →AI安全讨论应聚焦短期与中期切实存在的社会危害，如安全、就业市场、权力集中和歧视，而不是基于超级智能失控这类科幻想象。
“比起遥远且不太可能发生的“超级智能失控”威胁，当前更应关注AI在安全、就业市场、权力集中和歧视等方面带来的切实风险。”
来源访谈 →劳动份额数百年来稳定在60%以上且未曾真正下降，表明劳动与资本多为互补关系，单独完全自动化某个环节难以实现。
“劳动份额（经济中工资占总产出的比例）数百年来稳定在60%以上，这一“卡尔多事实”令人惊讶。即便会计调整后，劳动份额也未曾真正下降，表明劳动与资本多为互补关系，单独完全自动化某个环节难以实现。”
来源访谈 →Kellis认为人不会被AI本身取代，但会被在工作中使用AI的人取代。
“你不会被AI取代，但你会被工作中使用AI的人取代。（You're not going to be replaced by AI, but you're going to be replaced by people who use AI in your job.）”
来源访谈 →Ege Erdil建议不在AI供应链上的国家不要采取激进措施，而应坚守保护产权、降低资本税收、开放监管等已被证明有效的经典政策，以稳定的政治环境和友好的投资政策吸引资本
“Mechanize联合创始人Ege Erdil为那些不在AI供应链上的国家提供了看似“反直觉”的建议：不要采取激进措施，而应专注于那些已被证明有效的经典经济政策，包括保护产权、降低资本税收、建立开放的监管体系。”
来源访谈 →她主张让AI代理直接与终端客户交互、承接首次客户互动并匹配企业运营规则，目前Netic超过70%的客户已采用“AI优先”模式。
“其AI代理直接与终端客户交互，理解需求并匹配企业运营规则，实现从客户沟通到服务部署的全流程管理。目前超过70%的客户采用“AI优先”模式，首次客户互动由Netic代理完成。”
来源访谈 →stance: 认为AI可能成为描述复杂生物学的完美语言，开启科学发现新范式
“quote: "I think AI may be potentially the perfect description language for biology... We may be entering a new era of digital biology."”
来源访谈 →采用数据流架构是基于AI计算本质的第一性原理选择，比指令驱动的冯诺依曼架构更高效。
“在数据流架构里面，你切一刀的话，在某一个时刻切下去，他的状态是不固定的，有点像是薛定谔的芯片。”
来源访谈 →AI赋能互动娱乐存在四层递进图景，从工具、创作入口、交互对象到重塑社交关系。
“第一层是AI作为工具服务于内容创作提效；第二层是AI成为新的创作入口，直接生成可交互的内容；第三层是AI作为交互对象，如AI NPC和陪伴类产品；第四层则是AI开始重塑娱乐社交关系，例如在多人场景中充当氛围调节的社交基建。”
来源访谈 →GUI是弥补人类认知缺陷的补丁，在Agent高效完成任务的生产效率场景中正变得次要。
““GUI是人类认知缺陷的补丁。一旦某些事物不再需要人类参与，它就不需要为人类的缺陷去服务。””
来源访谈 →Skill是当前连接用户个性化需求与Agent能力的关键桥梁，但其部分功能可能被持续进化的模型能力逐渐取代。
“归藏认为，Skill（技能包）已成为Agent生态的共识，它能封装复杂能力并获得商业价值。但模型能力的持续进化（如GPT-4o简化提示词）可能逐渐吃掉部分Skill功能。”
来源访谈 →预测AI可在十年内治愈所有疾病
“"Maybe we can cure all disease with the help of AI... within the next decade or so."”
来源访谈 →stance: AI时代的创业窗口期正在急剧缩短，年轻人应抓住时机勇敢尝试。
“quote: “AI时代其实是对所有的人类都是一样的……创业的时间窗口在缩紧。所以在26年，我觉得不管你在任何的一个阶段就是你都应该去这个赛道去尝试一下。””
来源访谈 →stance: 通用型AI产品应尊重用户创造力与AI能力，通过框架和场景的自然收敛来迭代。
“quote: “我觉得更核心是AI时代一定要相信AI的能力。如果你把AI限定死功能，其实是一种呃隐性的workflow。””
来源访谈 →stance: 对于个人AI Agent，用户长期积累的记忆和精细的工程实践是初创公司的核心壁垒。
“quote: “所有to c agent应用最核心的壁垒还是Growth。假如说你在我们这儿已经用了一个月，用了三个月，所以会有大量的记忆留存下来。””
来源访谈 →未来服务于AI Agent的云计算，其底层的计算、存储、网络资源调度方式将与今天完全不同，行业面临洗牌机遇。
“未来的云将服务于AI Agent，其底层的计算、存储、网络资源调度方式将与今天完全不同，行业面临洗牌机遇。”
来源访谈 →越规范化、形式化、结果可衡量的底层系统工作越容易被AI高效替代，而需要人性交互和过程知识的领域更难被取代。
“系统工程师写文件系统、写操作系统...它越更容易被取代，而且它的代码库质量很高，这个测试用例非常的清楚，结果非常清楚。”
来源访谈 →AI将深刻变革医疗，提升诊断质量与医疗可及性，但不会让医护人员失业。
“I think it's going to make a tremendous difference in the quality of healthcare you get... it's not going to put people out of work... you'll just get a lot more healthcare.”
来源访谈 →AI将大规模取代普通脑力劳动，导致失业和贫富分化，建议年轻人考虑从事需要物理操作的职业如水管工。
“In the meantime, I'd say it's going to be a long time before it's as good at physical manipulation as us and so a good bet would be to be a plumber." —— “与此同时，我认为AI在物理操作能力上赶上我们还需要很长时间，所以一个不错的选择是去当水管工。””
来源访谈 →stance: 喜剧是AI最难攻克的领域，为从业者赢得时间
“quote: "喜剧文本的创作...是AI最终才能理论上能克服，但是一定排在最后。所以对喜剧工作者来讲，AI时代是能多活几年的。"”
来源访谈 →AI应在最前端发现颠覆性原始化合物IP，这是最大商业与科学价值所在
“"AI在这里面扮演的角色最关键是在哪一步啊？我们认知到的是在最前端发现那个颠覆性的重的IP的那一部他能发挥最大的作用。"”
来源访谈 →中国企业家注重结果和亲力亲为，AI时代可能引领更灵活、个性化的管理范式。
“与西方强调“过程正义”的标准化管理不同，中国企业家更注重“结果正义”和亲力亲为。在AI时代，这意味着利用智能体为每个一线单元提供个性化最优解，打破标准化枷锁。”
来源访谈 →Jimmy认为内存近邻计算是重要方向，而Raghu表示AMD将持续打造更高效的AI硬件。
“展望三到五年，Jimmy认为内存近邻计算（Near-Memory Computing）是重要方向，可以将部分计算下推到内存或存储层以提升效率。Raghu则表示，AMD将持续打造更高效的AI硬件，以支持更大的语言模型和新兴AI应用。”
来源访谈 →