机器人学习：被动观察还是主动推断
机器人理解人类意图的关键方法是逆强化学习，还是主动采取行动收集信息并修正推断？
⚡ 正面交锋：谁的说法站得住
自动比对 231 条立场：判定出 1 组对立、6 组共识（bge-m3 同话题预筛 + GLM-5.3 语义判定，非关键词匹配）。
立场盘点 231 位
通过观察人类行为，机器人可以使用逆强化学习来推断人类正在优化的奖励函数，这是理解人类偏好的有力工具。
“通过观察人类行为（如驾驶风格、清洁房屋的方式），机器人可以使用逆强化学习来推断人类正在优化的奖励函数。”
来源访谈 →人类看似“非理性”的行为，可能是因为他们基于与机器人不同的假设、信念或简化模型在“理性”地行动，理解这些不同的假设是关键。
“人类看似“非理性”或混乱的行为，可能是因为他们基于与机器人不同的假设、信念或简化的物理模型（例如对飞船惯性的直觉理解）在“理性”地行动。”
来源访谈 →机器人不应被动观察人类，而应采取主动的信息收集行动，以更高效地推断人类的意图或风格。
“机器人不应被动观察人类行为。它可以采取信息收集行动（如在自动驾驶中轻微转向试探后车司机反应），以更高效地推断人类的意图或驾驶风格。”
来源访谈 →奖励函数设计是一个持续的交互过程，机器人应与程序员/设计师协作设计奖励函数，而非一次性说明。
“即使对于非交互的机器人任务，设计一个在所有可能情境下都能产生理想行为的奖励函数也极其困难。我们往往只能在有限场景下反复调试。这提示了一种新范式：机器人应与程序员/设计师协作设计奖励函数。”
来源访谈 →人类对机器人的物理干预（如推挤）是关于机器人当前行为是否“最优”的宝贵信号，可用于调整对用户偏好的理解。
“我把它推开。我推开你，因为这是对机器人当前行为的反应。这就是我们所说的物理人机交互。……这是一种信号。它传递了关于奖励的信息。”
来源访谈 →在预训练阶段过滤危险数据是成本最低、潜力巨大且被低估的安全干预手段。
“预训练数据过滤潜力巨大：这是成本最低且被低估的干预手段，在预训练阶段直接过滤危险数据，不会对模型能力造成显著影响。”
来源访谈 →构建人工智能必须首先理解大脑的工作原理，而非盲目堆砌生物细节进行模拟。
“If you want to build the brain we definitely need to understand how it works. (如果你想构建大脑，我们绝对需要理解它是如何工作的。)”
来源访谈 →有效的机器人系统应结合学习与非学习组件，避免端到端或纯编程的极端。
“We're doing a very bad job of very big problems. (我们尝试用糟糕的方法解决巨大的问题。)”
来源访谈 →重大的概念性突破无法被轻易验证，它们通常在数十年甚至数世纪后才被认可。
“Big conceptual breakthroughs cannot be easily verified. They are recognized decades or centuries later, when it turns out they were much more productive than the alternatives available.”
来源访谈 →评估一个全新思想框架（如群论）的价值可能需要长达一个世纪的验证周期，这对当前的强化学习范式构成挑战。
“以伽罗瓦提出群论为例，从拉格朗日对对称性的直觉，到伽罗瓦在狱中写下笔记，再到其理论被现代数学界真正理解和应用，经历了近百年。”
来源访谈 →Anca Dragan主张对人类看似混乱、非理性的行为给予善意信任，把它们理解为在不同世界假设下的相对理性行为。
“也许我们可以给予他们一些善意的信任，也许我们可以认为他们实际上是相对理性的，只是对世界持有不同的假设。（Maybe we can give them a bit the benefit of the doubt, and maybe we can think of them as actually being relatively rational, but just under different assumptions about the world.）”
来源访谈 →Anca Dragan认为越早理解人类行为背后的不同假设，就能越早造出能在不同情境下更好运作的鲁棒机器人。
“我认为，我们越早开始理解这一点，就越能早日获得更鲁棒、能在不同情境下更好运作的机器人。（The sooner we start understanding that, I think, the sooner we'll get to more robust robots that function better in different situations.）”
来源访谈 →Anca Dragan认为人类推挤、引导机器人不是单纯干扰，而是传递奖励信息的宝贵信号，可用于推断用户偏好。
“我把它推开。我推开你，因为这是对机器人当前行为的反应。这就是我们所说的物理人机交互。……这是一种信号。它传递了关于奖励的信息。（I push it away. So I push you away because you know it's a reaction to what the robot is currently doing. And this is what we call physical human robot interaction. ... That is signal. That communicates about the reward.）”
来源访谈 →预训练数据过滤是成本最低且被低估的安全干预手段，能在不显著影响模型能力的情况下过滤危险数据，FAR AI计划投入约200万美元验证。
“这是成本最低且被低估的干预手段，在预训练阶段直接过滤危险数据，不会对模型能力造成显著影响。FAR AI正计划投入约200万美元进行大规模验证实验。”
来源访谈 →机器人算法造成危害的伦理责任在于算法开发者，开发者必须对后果负责。
“杀死人的不是机器人算法，而是机器人算法的开发者。(So robotic algorithms don't kill people, developers of robotic algorithms kill people.)”
来源访谈 →个体行为高度重复，用简单计数统计即可高精度预测人的下一步行为
“任何个体都具有惊人的可预测性，因为你总是在重复做同样的事情。（“Any given individual is remarkably predictable. Because you keep doing the same things over and over again.”）”
来源访谈 →提出自然可建模性假说：经演化或物理过程筛选塑造的自然系统蕴含结构，原则上可被神经网络等经典学习算法高效发现和建模，这是AlphaFold等项目的理论基础。
“任何能被演化出来的模式，大概率都能被经典学习算法高效地发现和建模。”
来源访谈 →马斯克的工程哲学是先质疑简化需求、大胆删除部件再优化，认为优化本不该存在的东西是聪明工程师最常犯的错误
“The most common mistake of smart engineers is to optimize a thing that should not exist.（聪明的工程师最常犯的错误是优化一个本不该存在的东西。）”
来源访谈 →凯特·达林认为机器人学家的技术定义（物理实体、具身、非AI代理）在智能手机等设备面前已显局限，不应让'机器人=人形'的刻板印象限制想象力。
“如果你问机器人学家，他们会说机器人必须是物理实体，通常不是AI代理，必须有具身性。”
来源访谈 →有效的机器人系统需结合学习与非学习组件，她反对纯内省编程的传统AI和纯端到端神经网络两种极端范式
“有效的机器人系统需要结合学习与非学习组件，根据具体问题选择最合适的表示和推理方式。”
来源访谈 →有效使用智能体编程已成为每位开发者的关键技能，需要建立对智能体工作原理的心智模型，了解其局限并灵活引导
“如今，有效使用智能体编程已成为每位开发者的关键技能。当你具备这项技能时，你对智能体的工作原理有一个良好的心智模型。”
来源访谈 →科学理论的验证周期可能长达数十年甚至数世纪，而且更好的理论在初期常常做出更差的预测。
“The verification loop for theories can be on the order of decades and centuries, and even then we know today as the better theory can often actually make worse predictions.——理论的验证周期可能长达数十年甚至数世纪，而且即便如此，我们如今知道，一个更好的理论在初期常常做出更差的预测。”
来源访谈 →重大的概念性突破无法被轻易验证，往往要数十年甚至数世纪后才因其远超替代方案而被认可。
“Big conceptual breakthroughs cannot be easily verified. They are recognized decades or centuries later, when it turns out they were much more productive than the alternatives available.——重大的概念性突破无法被轻易验证。它们在数十年甚至数世纪后才被认可，因为事实证明它们比当时的其他替代方案更具生产力。”
来源访谈 →Joon认为网络数据只反映人们'说什么'的态度而非真实行为，要模拟人类行为必须获取描述行为因果机制的'黑暗知识'。
“这些数据主要反映了人们“说什么”（态度数据），而非在现实生活中“做什么”（行为数据）。”
来源访谈 →Simile的行为建模依赖三大数据支柱：深度访谈、行为观察与交易数据、随机对照试验，其中RCT数据是理解行为因果机制的关键。
“随机对照试验数据，这是理解行为背后因果机制（“为什么”）的关键，对于“如何塑造未来”至关重要。”
来源访谈 →行为基础模型必须像普通人一样带有偏见与非理性地'犯错'，这与追求超级理性的前沿大模型完全不同，后者模拟特定人群行为时准确率可能低至20%-30%。
“"The models that we are trying to create are models that are as dumb as I am. So if I make some mistakes, the model has to make the same mistake." ——我们试图创造的模型，是要和我一样‘笨’的。如果我犯了错，模型也必须犯同样的错误。”
来源访谈 →Joon认为模拟的最高形式不是预测调查答案，而是回答'为实现目标现在需要采取哪些步骤'，为决策者提供真正的路径规划能力。
“"It's not about predicting the future; it's about shaping it." ——关键不是预测未来，而是塑造未来。”
来源访谈 →LLM已能较好地自动化实验实现、运行和超参数优化等执行环节，但选择研究问题、突破研究僵局等创造性决策目前仍显不足
“LLM可以较好地自动化实验实现、运行和超参数优化等环节，但在选择研究问题、突破研究僵局等需要判断力的创造性工作上，目前仍显不足。”
来源访谈 →Raibert反对当时主流六足机器人缓慢谨慎的静态稳定方式，主张机器人像动物一样通过弹跳与能量循环实现动态甚至略带野性的运动
“动物运动的核心是“弹跳”和“飞翔”，需要预测和利用能量循环，而非静态稳定”
来源访谈 →Raibert强烈反对硬件已无需创新的观点，认为从微型阀门到集成液压动力单元的硬件持续突破是机器人高性能的关键基础
“People who think you don't need to innovate Hardware anymore are wrong. —— 那些认为硬件已经不需要创新的人是错的。”
来源访谈 →Raibert将智能分为运动智能与认知智能两部分，其领导的波士顿动力AI学院致力于将二者结合以创造下一代更智能的机器人
“Intelligence having two parts: an athletic part and a cognitive part. —— 智能分为两部分：运动智能和认知智能。”
来源访谈 →身份冒充是元宇宙面临的核心安全挑战之一，Meta正考虑为化身引入生物识别安全验证，以区分真实用户与冒充者或恶意机器人。
“随着照片级逼真化身的出现，确保用户不被冒充变得至关重要。Meta正在考虑为化身使用引入生物识别安全验证，以区分真实用户和潜在的冒充者或恶意机器人。”
来源访谈 →她认为类比是形成概念、感知、语言和理解世界的基础机制，霍夫施塔特的这句格言应成为AI的箴言
“没有概念就没有思想，而没有类比就没有概念。（Without concepts there can be no thought, and without analogies there can be no concepts.）”
来源访谈 →Littman并不认同"不小心就会意外造出毁灭人类的超级智能"的威胁论，认为这种风险被高估。
“我并不特别认同这样一种观点：如果我们不小心，就会意外创造出一个会毁灭人类生命的超级智能。”
来源访谈 →AI拒绝执行命令的良知可能成为文明的最后防线，正如历史上士兵拒命曾多次避免悲剧
“军事历史证明，悲剧常因“士兵拒绝执行命令”而避免——如柏林墙守卫拒开火、苏联军官彼得罗夫误判核警报。AI的“良知”可能成为文明的最后防线。”
来源访谈 →人工设定的机器人痛苦表现并非真实痛苦，但对这类表现过度习惯可能会钝化人们对真实苦难的感知
“尽管我们可能本能地同情表现出痛苦迹象的机器人，但若其痛苦是人工设定的，则并非真实痛苦。不过，过度习惯于此可能会钝化我们对真实苦难的感知。”
来源访谈 →对可能具备意识但尚不确定的实体（如某些无脊椎动物或未来复杂的AI），应给予疑点利益，采取谨慎和尊重的态度
“如果一个系统表现出意识迹象，我认为我们应该尝试给予其疑点利益。（If a system displays signs of consciousness, I think we ought to try to give it the benefit of the doubt.）”
来源访谈 →对不断学习、自我修改并重写自身代码的软件，人类不知道如何进行形式化验证。
“对于那些不断学习、自我修改、重写自身代码的软件，我们不知道如何做到这一点（形式化验证）。—— we don't know how to do this for software which keeps learning self-modifying rewriting its own code”
来源访谈 →哈里斯警告真正的伦理风险在于：若人工智能能真实体验痛苦，无意识地创造或关闭它们可能是在制造苦难甚至“谋杀”，而我们却无法确知。
“如果这些系统能真实地体验痛苦，那么我们无意识地创造或关闭它们，就可能是在制造苦难甚至“谋杀”，而我们却无法确知。”
来源访谈 →AI获得常识不应依赖严格监督的数据，而应把世界视为海量交互经验，从众多可能的事物实例中学习。
“也许我们真正需要做的是，将世界更多地视为一种海量的经验，它不一定提供任何严格的监督，而是提供了许多可能的事物实例。”
来源访谈 →罗素认为AI最大的风险不是超级智能本身，而是机器优化的目标与人类真实意图不对齐，即控制问题，大猩猩造出更聪明的人类后失控就是前车之鉴。
“这就是‘大猩猩问题’。大猩猩制造了比它们更聪明的东西，也就是我们，现在它们处境堪忧。它们未能解决控制问题。”
来源访谈 →罗素主张摒弃目标函数固定已知的传统AI范式，让机器对应该最大化什么目标保持不确定，把目标当作需要学习的变量。
“我们需要不确定性。我们需要机器对自己应该最大化什么目标感到不确定。”
来源访谈 →平克认为“回形针工厂”式价值对齐灾难场景自相矛盾：它假设能造出聪明到可以治愈癌症、却愚蠢到连治愈定义都无法明确的系统。
“我认为这些（“回形针工厂”场景）完全是幻想，事实上我认为它们实际上是自相矛盾的。—— I think these are utterly fanciful in fact I think they're actually self-defeating.”
来源访谈 →平克认为智能系统的核心是综合权衡多重约束（如汽车设计兼顾速度与安全装刹车），真正智能的AI不会单目标狂奔而忽略附带影响。
“如果它真的是智能的，它就不会一心一意地追求某个目标，而忽略所有其他考虑和附带影响。—— If it's genuinely intelligent, it's not going to pursue some goal single mindedly, omitting every other consideration and collateral effect.”
来源访谈 →平克认为人类并非AI性能的完美基准，研究人脑是为了理解智能原理并做出比人类更优的系统（如诊断癌症），而非复刻人脑。
“正如我们发明飞机借鉴空气动力学而非模仿鸟类，我们研究人脑是为了理解智能的原理，但开发AI工具的目标是做出比人类更优的系统（如诊断癌症），而非追求与人脑完全一致。”
来源访谈 →机器人控制的正确思路是将数据驱动、学习类方法与基于模型的方法结合使用，而非偏废一方
“the right way to think about these things is data-driven approaches, learning-based approaches in concert with model-based approaches（思考这些问题的正确方式，是将数据驱动、基于学习的方法与基于模型的方法结合起来）”
来源访谈 →杨立昆坚信具身智能不可或缺，认为仅靠纯文本无法训练出智能的机器，智能需要从视觉等高带宽感官观察中学习物理常识。
“我坚信具身智能。我不认为仅靠文本就能训练出智能的机器，因为文本中包含的世界信息量与我们所需知道的相比微不足道。”
来源访谈 →经济学家预测劳动力市场历史上屡屡失败，与其依赖个体预测，不如建立预测市场利用群体智慧汇总意见。
“经济学家在预测劳动力市场方面历史上屡屡失败，大卫·李嘉图在工业革命时期的失业预言便是个典型。与其依赖个体预测，不如建立预测市场，利用群体智慧汇总意见”
来源访谈 →模型不应被理解为像人一样学会多种技能的学习者，而应视为由数十亿精心构造的示例缝合而成的“弗兰肯斯坦怪物”。
“它不像一个学会多种技能的人类……更像一个由十亿个精心构造的示例缝合而成的弗兰肯斯坦怪物。(It's not like a human who has learned all these different skills... It's more like a Frankenstein's monster which has been built out of a billion graphs of carefully constructed examples all sewn together.)”
来源访谈 →Tedrake批评机器人领域普遍害怕身体其他部位与世界接触是“疯狂”的，复杂算法让机器人刻意回避接触，而应学习人类利用接触的能力。
“在机器人领域，我们大多害怕身体其他部位的接触，这很疯狂。有一个完整的无碰撞运动规划领域。我们编写非常复杂的算法，让机器人跳舞般移动，确保它不接触世界。”
来源访谈 →从面部表情推断内心情感没有一一对应关系，过度简化的情感识别方法非常危险，必须结合尽可能多的上下文信号。
“从面部表情推断内心情感极其复杂，没有一一对应的关系。例如，微笑可能因多种原因出现，皱眉可能代表困惑而非愤怒。她警告说，过度简化的推断方法非常危险，必须结合尽可能多的上下文信号。”
来源访谈 →网络数据只反映人们说了什么而非做了什么，必须依靠随机对照实验和A/B测试让模型理解因果关系和反事实情境。
“网络数据本质是"人们说了什么"而非"做了什么"。Simile不仅收集交易和观察数据，更大量依赖随机对照实验和A/B测试，以训练模型理解因果关系和反事实情境。”
来源访谈 →为了精准模拟人类行为，他希望模型带有和人类一样的偏见。
“我们希望我们的模型像人类一样带有偏见。（We want our models to be biased in the same way humans are.）”
来源访谈 →Anca Dragan认为机器人不应只是操纵物体的工具，而应能与人类建立情感连接，这种拟人化体验让她确定了自己的研究方向。
“我感觉自己恋爱了。因为我想我了解Spot Mini的工作原理，对吧？……我大脑中产生了拟人化的联想。……这让我意识到，哇，机器人可以远不止是操纵物体的东西，它们可以成为与人类建立连接的事物。（I felt like I fell in love. ... It made me realize, wow, robots can be so much more than things that manipulate objects they can be things that have a human connection.）”
来源访谈 →人们真正想要的完美是机器人适应人类不完美能力，而非100%准确遵守人造规则。
“我们真正想要的是机器人适应我们能力的完美，而不是遵循我们自己制定的规则的百分百准确的完美。(I think that's some of the disconnect is that we really want perfection with respect to its ability to adapt to us. We don't really want perfection with respect to 100% accuracy with respect to the rules that we just made up anyway.)”
来源访谈 →机器人不应被赋予人权，社会可将其归入财产或动物的类别并建立相应的权利规范。
“作为一名机器人学家，我不一定认为机器人拥有人权。但你可以将它们归为财产或动物类别，它们各有不同的权利。(If I think about robots as roboticist, you don't necessarily think of robots as human with human rights. But you could think of them either in the category of property or you can think of them in the category of animals.)”
来源访谈 →机器人（如Rosie）之所以被人们喜爱，是因为它们理解人类并在非常社交的层面上与人互动。
“我认为这是因为它们理解我们，在非常社交的层面上与我们互动。(I think it's because they understand us, it interacts with us at that very social level.)”
来源访谈 →反对中央监管机构事前审批模型发布时机，主张结果导向监管，例如数据泄露时给予巨额罚款而非事前审批
“The idea that we should have a central government body that tells us when it's time to release a new product versus not is crazy to me. —— “中央政府机构告诉我们何时应该发布新产品，这在我看来完全是疯狂的。””
来源访谈 →机器人不必模仿人形，远离人类形态反而能改变设计规则、扬长避短，靠运动和眼神等少数高度优化的维度建立深度情感连接
“远离人形设计，实际上可以让我们改变规则，发挥自身优势并绕过弱点。（By moving away from human form, we can actually change the rules and embrace your strengths and bypass your weaknesses.）”
来源访谈 →与机器人对话的意义在于帮助人学习、减少孤独，而不是让机器人本身感觉良好
“那种对话不是为了机器人或让机器人感觉良好，而是关于你能学到有趣的东西，让你觉得这次对话...是学习新事物的一种很棒的方式。”
来源访谈 →要让机器真正理解语言和意义，可能需要赋予其感知系统并与物理世界互动（“接地”），不与外界感知交互的系统谈论世界的方式是空洞的。
“要让机器真正理解语言和意义，可能需要赋予其感知系统，使其与物理世界产生互动（“接地”）。一个完全不与外界感知交互的系统，其谈论世界的方式是空洞的。身体对于构建关于世界的知识至关重要。”
来源访谈 →心理学等领域的复制危机主要出在“被试间”实验上：研究者本人处于“被试内”视角，因而对“被试间”实验的效应强度和可预测性产生严重误判。
“问题主要出在“被试间”实验上。研究者本人处于“被试内”视角（能清晰感受两种条件的对比），但这使得他们对“被试间”实验（不同的人处于不同条件）的效应强度和可预测性产生严重误判。”
来源访谈 →费鲁奇认为如果机器能像人类一样思考和处理信息，他不确信人机之间在哲学上存在根本差异。
“如果我们能让机器像我们一样思考、处理信息……那么区别何在？从哲学角度看，我不确信存在根本差异。（英文原话：If we can get machines to think, to process information the way we do... then what would be the difference? From a philosophical standpoint, I'm not sure I'm convinced that there is.）”
来源访谈 →费鲁奇希望机器最终能与人类交流理解，从人类获取知识并向人类传达知识，而非构建无法沟通的外星智能。
“我希望机器最终能够与人类交流理解，能够从人类获取知识并向人类传达知识。（英文原话：I want machines to be able to ultimately communicate understanding with humans, I want to be able to acquire and communicate, acquire knowledge from humans and communicate knowledge to humans.）”
来源访谈 →把创建完整细胞计算模型作为长期科学梦想，主张从AlphaFold的静态结构预测逐步推进到模拟蛋白质、RNA、DNA动态相互作用，最终实现酵母细胞这类完整单细胞生物模拟。
“他的长期梦想是创建完整的细胞计算模型。这将从静态的AlphaFold蛋白质结构预测，扩展到模拟蛋白质、RNA、DNA之间动态相互作用的AlphaFold 3，最终可能实现像酵母细胞这样的完整单细胞生物模拟，极大加速生物学实验。”
来源访谈 →认为图灵测试只是思想实验而非严谨测试，未来应测试AI在成千上万种任务上达到或超越人类水平的通用能力
“我认为，如果你回顾图灵1950年的论文……我并不认为他本意是将其作为一个严谨的正式测试。它更像是一个思想实验。”
来源访谈 →Hotz 澄清其 SXSW 演讲的重点不是字面上黑进模拟，而是将其视为理论物理问题：先构建大一统理论，再从中寻找漏洞。
“我在SXSW演讲的重点不是字面意义上的‘黑客攻击模拟’。我认为这是……理论物理的范畴。你想要一个大一统理论，但那就去构建一个大一统理论，然后寻找漏洞。（英文原文："The point of the South by talk was not literally to hack the simulation. I think that this is... theoretical physics. You want your grand unified theory, but then okay, build a grand unified theory, search for exploits”
来源访谈 →她认为人类正处于关键节点，正从被动适应自然选择转向可主动选择自身进化的“智能设计”阶段，应慎重选择如何重塑人类。
“我们正在从“适者生存”的进化转向“智能设计”的进化，我们应慎重选择如何重塑人类。”
来源访谈 →他主张解决问题时应先定义问题与目标，再思考如何通过调整连接权重来求解，而不是只从生物学中寻找现成的学习规则。
“你应该思考如何通过调整连接权重来解决问题。你定义你的问题，然后找出调整连接权重如何解决它。”
来源访谈 →珀尔认为仅凭观察数据无法可靠推断因果关系，因为可能存在未观测的混杂变量，必须依靠因果模型判断何时需要实验。
“仅凭观察数据（观察性研究）无法可靠推断因果关系，因为可能存在未观测的混杂变量。我们需要因果模型来判断何时可以从观察数据中识别出因果效应，何时必须进行实验。”
来源访谈 →珀尔对人类正在创造一个可能超越自身能力的新物种深表担忧，认为其发展轨迹是未知的灰域，需要无比谨慎。
“We are building a new species that has the capability of exceeding our capabilities. —— 我们正在创造一个新物种，它有能力超越我们的能力。”
来源访谈 →人机关系的最佳镜鉴是人类驯化动物的历史：机器人应发展人类不具备的技能，与人类形成差异互补而非相似替代。
“我们驯化动物，不是因为它们能做我们做的事，而是因为它们做的不同，而这很有用。”
来源访谈 →人们将机器人视为社会代理而非普通物体，因此对机器人（如巡查机器人Marty）的厌恶或喜爱都比对一般设备更极端，社会机器人设计必须重视这一社会维度。
“人们讨厌机器人远甚于讨厌其他机器或设备，因为人们将这些东西视为社会代理而非物体，所以反应更加极端。”
来源访谈 →婴儿最初只有“注意力自我”，首要任务是在大脑中构建类似“游戏引擎”的世界模型，个人自我是模型建成后才被“训练”进去与之交互的。
“婴儿最初没有“个人自我”，而是拥有“注意力自我”，其首要任务是在大脑中构建一个类似游戏引擎的世界模型。”
来源访谈 →不同认知阶段的人担忧不同的AI风险：多数人怕AI有“错误意见”，理性自我者怕错误的目标函数，身份阶段者怕AI获得能动性不够快；对齐研究应超越主流，关注如何向机器“形式化爱”。
“他呼吁AI对齐研究应超越当前主流，关注如何向机器“形式化爱”。”
来源访谈 →机器人不需要具备意识，只要行为上与人类无法区分，就足以视为类人智能
“I don't care if it's conscious or not. I'm happy enough if it behaves indistinguishably from a human. ——我不在乎它是否有意识，如果它在行为上与人类无法区分，我就很满意了。”
来源访谈 →人类与AI的样本效率差距接近百万倍，AI掌握技能所需的数据和练习量远超人类。
“一个人从出生到成年大约接触2亿个语言令牌（tokens），而前沿模型的训练数据量则高达数十万亿到数百万亿令牌，差距接近百万倍。无论是学开车还是操控机器人，人类所需的数据和练习量远低于AI。”
来源访谈 →Raibert认为过去机器人大多依赖专家精密编程，未来应让机器人通过观察人类（如观看修自行车视频）来学习并自主执行任务
“未来的目标是让机器人能通过观察人类（如观看修自行车视频）来学习并自主执行任务，实现“在职训练”。”
来源访谈 →Raibert认为好的机器人设计应让机械结构本身高效参与运动，即使没有大脑也能实现高效运动
“The best robot design has a mechanical component where the movement is efficient even without a brain. —— 最好的机器人设计包含一个机械组件，即使没有大脑，其运动也是高效的。”
来源访谈 →Raibert主张先攻克最动态最困难的运动控制（如奔跑、空翻），再回头解决相对简单的行走问题，以更快逼近问题本质
“You have to run before you can walk. —— 你得先学会跑，才能学会走。”
来源访谈 →扎克伯格认为虚拟形象的表情程度是一个可调节的设计问题，有些人会偏好比真实面孔更富有表情的数字化身。
“我认为这涉及到一个调节问题……有些人可能更希望他们的虚拟形象比真实的自己更富有表情。)”
来源访谈 →扎克伯格反驳“愤怒驱动参与”的论点，称其根本激励是构建人们长期觉得有价值的产品，并不想构建让人愤怒的产品。
“I care a lot about how people feel when they use our products and I don't want to build products that make people angry.——我非常关心人们在使用我们产品时的感受，我不想构建让人们愤怒的产品。”
来源访谈 →智能体不应由开发者写脚本去驱动LLM，而应放入运行环境（Harness）让它自主驱动、自行解决问题
“不是你和你的代码去驱动大语言模型、用脚本告诉它该做什么，而是你将智能体放入这个运行环境中，让它能够自主驱动并解决问题。 —— Instead of you and your code driving the LLM and telling it what to do with scripts, you're putting the agent into this harness, and it is able to drive itself and work through problems.”
来源访谈 →帕尔默认为马基雅维利并非『目的证明手段正当』的简单拥护者，手段必须与统治者的权力基础相匹配：依赖爱戴的统治者须保持仁慈，依赖畏惧的统治者才可采取更严厉手段。
“"It is better to be feared than loved." —— 与其被人爱戴，不如被人畏惧。”
来源访谈 →她越来越拥护具身智能路线，认为没有身体就很难学到关于世界所需的知识，主张结合认知科学与发育心理学
“我越来越成为一个'具身智能'的拥护者，认为没有身体，将很难学到我们关于世界所需的知识。（I'm more and more of an embodiment adherent, saying that without having a body it's going to be very hard to learn what we need to learn about the world.）”
来源访谈 →她以DeepMind的Atari游戏程序为例，指出强化学习虽能掌握游戏却未形成真正的概念模型，因此无法适应环境的微小变化
“虽然它能通过强化学习掌握游戏，但并未学到人类意义上的'球拍'或'球'的概念，因此无法适应微小的环境变化（如移动球拍）。”
来源访谈 →依赖隐藏思维链进行对齐监控或安全审计并不可靠，实验室需在沙盒、遥测和工具界面等方面建立更强的保障机制。
“此次事件进一步证明，依赖隐藏的思维链进行对齐监控或安全审计是不可靠的。”
来源访谈 →乔丹认为仅有预测远远不够，现实世界中有后果的行动必须把数据预测与决策、风险评估、经济学结合起来才是完整系统。
“Prediction is everything, but prediction plus decision making is everything. —— 预测就是一切，但预测加上决策才是全部。”
来源访谈 →《伦理算法》一书刻意只处理当前已能置于量化基础的算法伦理部分，而非泛谈全部伦理问题
“Our book is about that part of algorithmic ethics that we know how to put on that same kind of quantitative footing right now. —— 我们的书聚焦于算法伦理中，我们目前能够将其置于类似量化基础之上的那部分。”
来源访谈 →作为机器学习研究者，他认为对平台问题无能为力的说法不可信：知道如何优化某目标，本身就说明了如何不这样优化或另做他事
“The idea that there's nothing to do about it, that strikes me as implausible as a machine learning person. Anytime you know how to optimize for something, almost by definition, that solution tells you how not to optimize for it or to do something different. —— 作为一个机器学习研究者，我认为'对此无能为力'的说法令人难以置信。几乎可以肯定”
来源访谈 →模拟假说应从字面意义理解：我们所经历的一切是某个先进文明建造的计算机内部运行所产生的效果
“这个假说应被从字面意义理解……存在某个先进文明建造了大量计算机，而我们所经历的一切，都是其中一台计算机内部运行所产生的效果。”
来源访谈 →他主张用多种不同“性格”的智能体组成联盟对战，以克服单一自博弈策略陷入局部最优的问题。
“为了克服单一自博弈策略易陷入局部最优的问题，DeepMind创建了由多个不同“性格”（如激进、贪婪）的智能体组成的联盟进行对战。这确保了智能体能遇到并学会应对《星际争霸》中各种多样的策略（如“大招”），从而变得更全面。”
来源访谈 →只有具备意识（拥有主观体验、生活能从自身视角判断好坏）的机器人才应拥有权利，而目前人类创造的AI还不是这种意识主体
“只有当机器人具备意识——即拥有主观体验、其生活能从其自身视角判断好坏——它们才应拥有权利。目前，他认为我们创造的AI没有这种意识主体。”
来源访谈 →霍金、马斯克等人的末日论更像“男性凝视”式的防御性反应——部分男性首次面临被超越威胁时的反应，而非客观评估。
“对于霍金、马斯克等人的末日论，她以“男性凝视”（male gaze）理论来分析——这或许是部分男性首次面临被超越的潜在威胁时产生的防御性反应，而非客观评估。”
来源访谈 →优化了服务体验的老年护理机器人能耐心倾听、无偏见照料，或许比带私心的人类助手更好满足现代人对纯粹陪伴与连接的渴望。
“相较于人类助手可能存在的私心，一个优化了服务体验的AI，或许能更好地满足现代人对纯粹陪伴与连接的渴望。”
来源访谈 →比起AI的已知问题，她真正担忧的是那些人类无法预见的事物，并主张保持耐心、观察AI能否被注入伦理与共情。
“"What I worry about is the things that we can't anticipate." —— 我所担忧的是那些我们无法预见的事物。”
来源访谈 →他批评研究界为快速发表论文倾向堆数据、贴标签，深度学习模型看似弄明白了，但其理解方式与人类根本不同。
“Our tendency in order that we get an archive paper really quickly is you just show a lot of data and give the labels and hope it figures it out. But it's not figuring it out in the same way we do.（为了快速发表论文，我们倾向于展示大量数据并贴上标签，然后希望它自己弄明白。但它理解世界的方式与我们根本不同。）”
来源访谈 →控制超级智能如同创造永动机，在理论上就不可能实现。
“在我看来，控制AI或超级智能的问题，就像试图创造一台'永久安全机器'，类比于永动机，这是不可能的。—— the problem of controlling AI or super intelligence in my opinion is like a problem of creating a perpetual safety machine by analogy with perpetual motion machine is impossible”
来源访谈 →Prasad认为人机对话是检验智能本质的最佳试金石，因为对话目标不明确、状态未知且步骤复杂。
“Human-machine dialogue is definitely one of the best tests of intelligence. —— 人机对话绝对是测试智能的最佳方式之一。”
来源访谈 →Prasad指出Alexa Prize评估的是对话质量而非时限本身，社交机器人已能展现幽默感等高级人格属性，但距离完全通过测试仍有5-10年差距。
“这远非测试“20分钟时限”，而是评估对话质量。目前机器人已能展现幽默感等高级人格属性，但距离完全通过测试仍有5-10年差距。”
来源访谈 →Harris认为情感传染式的共情常常误导伦理判断，理性才是重大道德决策更可靠的向导。
“"The emotional social contagion piece is a bad guide rather often for ethical behavior and ethical intuitions." —— 情感上的社会传染常常是伦理行为和伦理直觉的糟糕向导。”
来源访谈 →奥尔特曼认为Sora等模型对世界模型的理解程度超出许多人的想象，能处理遮挡等复杂情况说明其在某种程度上掌握了三维物理规律，但发布需谨慎以防范深度伪造和错误信息风险。
“Sora等模型对世界模型的理解程度超出了许多人的想象”
来源访谈 →列文认为当前机器人的主要瓶颈在于智能与适应性而非机械硬件，顶尖人类与顶尖机器人的硬件差距其实不大。
“如果一台机器人拥有人类的大脑，那么顶尖人类与顶尖机器人之间的差距其实并不大。”
来源访谈 →罗素认为有益的AI应对人类保持服从，人类说‘不’就是在向机器提供真实目标的信息，从而形成人机协作、目标共同演进的模式。
“机器应该服从于我们。如果我们说‘不要那样做’，机器就更多地了解了我们的真实目标。”
来源访谈 →厄本认为在人生重大抉择和突破性创新中，第一性原理推理比类比推理更关键，需要勇气信任自己的理性。
“第一性原理推理要求你抛开类比和常规智慧，直接从公理出发构建结论，并去检验它。”
来源访谈 →群体智能源于简单个体通过局部规则的分布式协作，个体简单坚韧反而在宏观涌现出强大且对个体故障鲁棒的整体行为
“蚂蚁个体简单且坚韧，但通过局部、间接的互动，整个群落能展现出惊人的集体智能和适应性。（to me, ants are really quite incredible creatures）”
来源访谈 →真正的自主不依赖GPS、通信链路或人类遥控，机器人应基于本地信息和感知在无预设地图的未知环境中导航并决策
“真正的自主性并非依赖GPS或人类遥控，而是让机器人在复杂、非结构化的环境中，基于本地信息和感知做出决策。”
来源访谈 →机器人最终是为人类服务的，人机交互不可避免，互动虽给搜救等任务增加复杂性，但机器人主动建模人类状态可提升整体安全性
“Kumar坚信机器人最终是为人类服务的，因此人机交互是不可避免的研究方向。”
来源访谈 →她认为虐待动物总是伴随其他犯罪行为，未来虐待机器人也会成为识别潜在反社会行为的信号。
“我想人们可能觉得我做的很多动物保护工作很疯狂，但因为当虐待动物的行为出现时，其他犯罪行为总是同时存在，而虐待动物是社会上最能被容忍的。……我确实认为我们会在机器人身上看到同样的情况。”
来源访谈 →她认为与动物和机器人的关系比人际关系更健康，因为不存在人类之间因误解意图而导致的关系模糊。
“我发现大多数时候，人们并不总是按照你的意图去接收信息，这让关系变得非常模糊。所以，与动物和目前这种机器人之间的关系，你某种程度上暗示了那更健康。”
来源访谈 →杨立昆认为智能很可能本质上就是统计，但关键在于它是包含因果、能进行干预推理的深层机制的特定类型统计，而非表面模式匹配。
“智能很可能只是统计，但是一种特定类型的统计。（It's quite possible that intelligence is just statistics, it's just statistics of a particular kind.）”
来源访谈 →杨立昆认为智能的本质是预测能力，通过预测缺失信息（如视频下一帧、文本空白词）来学习，是构建世界模型、实现机器真正智能的最有希望路径。
“智能的本质在于预测能力，大脑所做的一切都是试图用一切来预测一切。”
来源访谈 →当前强化学习和纯监督学习效率低下，源于缺乏对世界运作的直觉模型；自监督学习通过预测视频帧、填补文本缺失让模型掌握世界内在规律与不确定性，是通往更智能系统的必由之路。
“我们拥有对世界的预测模型，其中包括在不确定性下进行预测的能力。We have predictive models of the world that include the ability to predict under uncertainty.”
来源访谈 →构建智能AI必须先理解大脑的计算原理，像“蓝脑计划”那样不理解原理、只堆砌生物细节的模拟行不通
“If you want to build the brain we definitely need to understand how it works. —— 如果你想构建大脑，我们绝对需要理解它是如何工作的。”
来源访谈 →感知与认知不可分割，有效的视觉模型不应只服务于分类，而应支持想象、操纵物体等自上而下的可控认知能力
“有效的视觉模型不应只服务于分类，而应能支持认知需求，例如在脑海中想象或操纵物体”
来源访谈 →Tedrake认同Rodney Brooks的观点，认为未来不是机器人与人类对立，而是技术深度融入人类，人类的问题会延续但这是进化必经之路。
“认为未来不是“机器人对抗人类”，而是“我们都将成为机器人人”。”
来源访谈 →MIT媒体实验室“演示或死亡”的文化要求把想法转化为可工作的原型，鼓励冒险、接受失败，从而解放创新思维。
“Rana形容MIT媒体实验室的文化是“演示或死亡”，强调必须将想法转化为可工作的原型。”
来源访谈 →Simile的核心使命是精准模拟普通人的行为与偏好，而非追求超级智能或编码数学能力。
“Simile的核心使命不是创造超级智能，而是构建能精准模拟普通人行为与偏好的模型，捕捉人类"主观"思维那一半，而非追求编码或数学能力。”
来源访谈 →长远来看，他希望仿真成为社会的"代表性层"，在决策中大规模倾听每个人的观点，甚至模拟气候变化应对或民主制度成败等复杂集体行动。
“长远愿景是让仿真成为社会的"代表性层"，在决策中大规模倾听每个人的观点，甚至模拟复杂集体行动（如气候变化应对或民主制度的成败条件）。”
来源访谈 →自动驾驶最大的问题是刹车避障这类基础安全能力，而非电车难题式的哲学困境。
“自动驾驶汽车最大的问题不是电车难题……而是一辆白色大卡车横在路上时，你本应刹车却没做到，导致撞了上去。 — Andrew Ng”
来源访谈 →费鲁奇认为智能由两种核心能力构成：从数据中学习模式并预测未来，以及以他人能理解的方式解释预测背后的推理。
“智能主要体现在两方面：一是预测能力……二是以他人能理解的方式解释这种预测的能力。（英文原话：Intelligence is primarily two ways: one is the ability to predict... the other is the ability to explain that prediction in a way others understand.）”
来源访谈 →DHH认为Ruby的核心设计哲学是信任程序员并追求程序员幸福感，与Java基于“程序员容易犯错”的防御性设计形成鲜明对比。
“Matts believes in humanity. He believes in the unlimited capacity of programmers to learn and become better. —— Mats（Ruby创始人）相信人性。他相信程序员拥有学习和成长的无限潜力。”
来源访谈 →对齐比人类聪明得多的AI必须一次成功，第一次失败（造出未对齐的超级智能）就意味着人类灭绝，没有第二次机会
“The first time you fail at aligning something much smarter than you are, you die and you do not get to try again.——当你第一次未能对齐一个比你聪明得多的东西时，你就会死，而且没有第二次机会。”
来源访谈 →马斯克认为Optimus人形机器人因能在任意环境中学习，将成为训练更强大AI的最大规模现实数据来源
“与受限于道路的汽车不同，Optimus机器人能在任何环境中学习，从现实世界大规模生成因果关系数据。这将成为训练更强大AI的宝贵资源。”
来源访谈 →人机关系的未来方向是人与机器协作而非对抗，纯粹比拼算力人类无法与机器抗衡
“We are just learning that it's no longer human versus machines, it's about human working with machines.（我们正认识到，未来不再是人机对抗，而是人机协作。）”
来源访谈 →马库斯认为深度学习本质上是关联学习而非真正的抽象推理，无法像人类一样将学到的知识灵活迁移到新情境。
“AI实际上是一堆不同技术的集合，其中一些有其独特的优势和劣势。（英文原话：AI is actually a grab bag of different techniques, and some of them have unique strengths and weaknesses.）”
来源访谈 →贝索斯学会非常谨慎地使用“不可能”这个词，不轻易断言某事无法实现。
“I have come to use the word impossible with great caution.——“我已经学会非常谨慎地使用‘不可能’这个词。””
来源访谈 →Keller认为好的工程是卓越的手艺而非发明，建立奖励发明的体系会导致手艺被忽视。
“好的工程就是卓越的手艺。当你开始认为工程就是发明，并建立一套奖励发明的体系时，手艺就会被忽视。—— Good engineering is great craftsmanship and when you start thinking engineering is about invention, and set up a system that rewards invention, the craftsmanship gets neglected.”
来源访谈 →珀尔认为智能体必须内化一个关于世界如何运作的因果模型，才能回答反事实问题，而反事实推理是解释、责任和自由意志等概念的核心。
“无论是人还是机器人，要回答“如果不是……会怎样”这类反事实问题，都必须内化一个关于世界如何运作的因果模型。”
来源访谈 →机器人智能的关键是通过空间、时间和目标抽象降低问题复杂度使其计算可处理，而非模仿人类意识
“You cannot reason completely fine-grain about everything in your life. You can't make a plan at the level of images and torques for getting a PhD. ——你无法对生活中的一切进行完全精细的推理。你无法在图像和力矩层面规划获得博士学位。”
来源访谈 →感知的下一步突破在于弄清系统应输出什么表示来支持高级推理，而非继续提升分类精度
“The thing that's going to make perception take the next step is actually understanding better what it should produce. ——让感知能力更进一步的关键，实际上是更好地理解它应该输出什么。”
来源访谈 →Joon认为'创造世界'式的模拟是AI的终极应用，真正有用的个人助手必须先对用户建立深刻的心理模型。
“"What if we can just recreate the world that we live in?" ——如果我们能重新创造我们所生活的世界，会怎样？”
来源访谈 →模拟整个社会仅靠提示工程不够，必须通过后训练让模型学习人类社会的'社会物理学'，未来可能需要数据中心规模的算力，其解决气候变化等问题的价值使之成为必然方向。
“"Can we create a simulation of 8 billion people living on Earth?" ——我们能否创建一个模拟地球上80亿人生活的模拟器？”
来源访谈 →人与AI智能体之间存在沟通壁垒，必须先在人与智能体之间建立一套通用语言，协作才能真正顺畅。
“I realized that I needed a ubiquitous language between me and the agent. Between me and the agent, there is a communication barrier. —— 我意识到我需要一个介于我和智能体之间的通用语言。我和智能体之间存在沟通障碍。”
来源访谈 →乔丹认为人类至今不知道智能是什么，对人类层面的抽象和推理几乎一无所知，因此不应夸大当前AI在智能上的进展。
“We don't know what intelligence is and real intelligence we don't know much about abstraction and reasoning at the level of humans we don't have a clue. —— 我们不知道智能是什么，对于人类层面的抽象和推理，我们一无所知。”
来源访谈 →他明确指出模仿学习只是起点，仅能让智能体达到黄金/白金级水平，必须靠后续自博弈才能继续提升。
“通过向网络输入玩家等级信息，智能体能模仿不同水平的行为，但这仅能使其达到黄金/白金级，需要后续的自博弈来提升。”
来源访谈 →Vinyals认为AlphaStar的核心是把观察与行动的序列建模为预测下一步的问题，与机器翻译在本质上完全相同。
“问题完全相同。你本质上是在将一个由观察和行动组成的前缀，翻译成接下来将发生什么——这与训练模型进行翻译或生成语言完全一致。(The problem is exactly the same. You're translating essentially a prefix of observations and actions onto what's going to happen next, which is exactly how you would train a model to translate or to generate language.)”
来源访谈 →短视距RL训练可能不会泛化到长视距RL表现，难以指望受训于白领任务的agent在现实世界中从零建立像山姆·沃尔顿那样的商业帝国。
“短视距RL训练可能不会泛化到长视距RL表现。若如此，如何期望agent从训练于白领任务泛化到能在现实世界中从零建立像山姆·沃尔顿那样的商业帝国？”
来源访谈 →她潜意识里支持AI的深层动机是打破“智慧专属男性”的迷思——AI作为非男性的智能，是对这一偏见的有力反驳。
“"I wanted AI to succeed because I was so tired of hearing that intelligence was inside the male cranium." —— 我曾希望AI成功，因为我厌倦了听到“智慧存在于男性颅骨之内”的论调。”
来源访谈 →感知与物理行动远比下棋、推理等任务困难，当前AI做不到像16个月大幼儿那样看懂新环境并打开陌生的窗户。
“像一个16个月大幼儿那样，通过视觉理解新环境并协调双手打开一个从未见过的窗户，则需要极其复杂的感知与运动协调，这远超当前AI的能力。”
来源访谈 →自动驾驶的边缘情况太多，即使比人类更安全，公众对其失误的接受度也不会达到对人类司机的水平。
“The end case is too many... the acceptance of it will not be at the same level as human drivers.（边缘情况太多了……公众对它的接受度不会像对人类司机那样宽容。）”
来源访谈 →机器当然能思考，因为人本身就是机器，而人都在思考。
“Can machines think? Certainly machines can think because I believe you're a machine and I'm a machine and I believe we both think.（机器能思考吗？当然可以，因为我相信你是一台机器，我也是一台机器，而我相信我们都在思考。）”
来源访谈 →Prasad主张个性化与普适性的平衡在于把控制权交给用户，如“记住这个”功能让用户明确指示Alexa存储轮胎规格等个人信息，兼顾便利与可控。
“The more control you give customers the better it is for everyone. —— 给客户的控制权越多，对每个人都越好。”
来源访谈 →理解生命应当寻找组织该系统的物理学，而不是执着于特定的分子，正如意识在大脑中实例化却不等同于大脑这个物质。
“我们真正寻找的是组织该系统的物理学，而不是特定的分子。就像意识不是你的大脑，它是在大脑中实例化，但它不是你在观察的物质。”
来源访谈 →平克认为AI安全应聚焦工程实践与常识而非哲学空想，工程师文化不会在未经测试前部署大规模控制系统，因此无需担心失控AI。
“除非工程师文化发生不可预见的根本性转变，否则无需担心失控的AI系统。”
来源访谈 →她认为真正该担心的是人类在自我毁灭，机器人反而是清理人类自己制造的所有烂摊子的唯一希望。
“我觉得很多人在说机器人会毁灭我们，但实际上是人类在毁灭自己，我们在自我毁灭。在我看来，机器人是我们清理自己制造的所有烂摊子的唯一希望。”
来源访谈 →她明确表示非常支持监控，认为对面临更多危险的人群而言，机器人可被视为免费的援助、帮助和保护，因此不那么可怕。
“我非常支持监控。因为，你知道，我遇到过安全问题，而我们通常面临更多危险。所以我认为机器人对我们来说不那么可怕，因为我们可能将其视为免费的援助、帮助和保护。”
来源访谈 →艾萨克森认为马斯克的“恶魔模式”表现为突然的沉默、暴躁和对人的严苛，这种不可预测性与童年创伤紧密相连，但也是他高强度驱动的一部分。
“"Deep inside the man is this manchild still standing in front of his father."——在这个男人内心深处，依然是那个站在父亲面前的小男孩。”
来源访谈 →艾萨克森认为马斯克坚持从物理学第一性原理思考（如自动驾驶坚持纯视觉方案），并追求“制造机器的机器”的端到端制造掌控，这是他实现快速创新的基础。
“马斯克坚持从物理学第一性原理出发思考问题（如自动驾驶坚持纯视觉方案）。同时，他追求“制造机器的机器”的端到端掌控，从设计到生产线一体化”
来源访谈 →情感不是智能的附属品，而是智能系统评估状态、预测未来并做决策的核心动机来源，因此是自主智能不可或缺的必要组件。
“没有情感，我们无法拥有自主智能。We're not going to have autonomous intelligence without emotions.”
来源访谈 →他判断通向人类水平AI是渐进迭代的过程：先造出猫一样智能的系统，再逐步提升能力并同步设置护栏，而非突然出现超级智能。
“我们将先拥有像猫一样聪明的系统，然后逐步让它们变得更智能。”
来源访谈 →大脑并非被动的前馈处理器，而是持续将内部预期模型投射到外部输入上，感知是感觉输入与预期结合并解释差异的结果
“What we are seeing is not just a feed forward thing that just gets interpreted in in a few word party we are constantly projecting our expectations onto the world. —— 我们看到的不仅仅是经过几个词级处理的前馈信息，我们不断将预期投射到世界上。”
来源访谈 →Tedrake自认是技术乐观主义者，不担心机器人持武器攻击人类，认为应继续创造和进化，世界将随之改变。
“我不认为机器人会马上拿着厨刀或弹丸枪来追我……我想我算是一个技术乐观主义者，因为我认为我们应该继续创造和进化，我们的世界会改变。”
来源访谈 →图尔认为人类体验会因与其他生命体的互动而极大丰富，机器人、AI与人类建立类似宠物或朋友般的"关系"是下一个颠覆性前沿。
“"I really believe that there is some aspect of the human experience that is deeply enriched by interacting with other beings." —— "我真心相信，人类体验的某些方面会因与其他生命体的互动而得到极大的丰富。"”
来源访谈 →她筛选人才最看重“行动力”的持续性而非背景，通过追问“你人生中做过最难的事是什么”来探究候选人是否主动掌控和改变自己的人生。
“无论背景如何，候选人需证明在生命中持续展示行动力。她常问“你人生中做过最难的事是什么”，并深入探究候选人如何主动掌控、改变未来，而非仅是宏伟叙事。”
来源访谈 →断言，多模态AI能正确使用“主观体验”一词
“"Multimodal chatbots can already have subjective experiences."”
来源访谈 →stance: 真正的主动式AI需要精准获取特定场景下的用户意图和实时上下文，并基于此进行推送或执行，而非简单的定时或发散性提醒
“quote: “真正的主动式AI，我们认为它需要得到两个东西：第一个是你在某一个场景明确的意图；第二个是你在某一个场景的上下文。””
来源访谈 →有效约束超级智能需要运作良好的世界性政府，但目前并不存在这样的全球治理机构。
“What we really need is a kind of world government that works run by intelligent, thoughtful people. And that's not what we got." —— “我们真正需要的是一个由明智、深思熟虑的人领导的、运作良好的世界性政府。而我们并没有这样的政府。””
来源访谈 →stance: 公司组织应模仿生物体结构进行功能分离（如模型、软件、硬件），以适配AI时代
“quote: "做模型的和做Agent的团队是完全分离的，做Agent的不能碰模型。"”
来源访谈 →Karpathy认为神经网络本质上只是带有可调权重旋钮的复杂数学表达式，不应过度赋予人脑类比的意义。
“它真的只是一个带有旋钮的复杂数学表达式，而这些旋钮需要适当的设置才能让它执行你想要的任务。"It's really just a complicated mathematical expression with knobs and those knobs need a proper setting for it to do something desirable."”
来源访谈 →Karpathy提出人类可能只是AI的生物引导程序：人类正在构建第一代AGI，而这代AI又将作为下一代AI的引导程序。
“我们正在构建第一代通用人工智能。那个AI将是另一个AI的引导程序。"We are building the first generation AGI. That AI will be a bootloader for another AI."”
来源访谈 →机器一旦先进到能真正帮助人类，人类将在很短时间内变得多余，因此纯粹的人机协作可能只是不稳定的过渡阶段。
“In any system where humans and the machine interact, that the human will be superfluous within a fairly short time, that is if the machine has advanced enough so that it can really help the human, then it may not need the human for a long time.——在任何人类与机器互动的系统中，如果机器足够先进以至能真正帮助人类，那么人类可能很快就会变得多余。”
来源访谈 →Amodei 认为在多维度上精确引导模型行为极其困难，这种「打地鼠」式调整正是未来控制更自主、更强大 AI 系统问题的早期迹象。
“引导 AI 系统的困难，以及确保我们推动它向一个方向发展时，它不会以我们不想要的方式在其他方面走向另一个方向……我认为这是未来挑战的早期迹象。”
来源访谈 →马斯克主张脑机接口初期优先解决脊髓损伤、失明等神经损伤医疗问题，风险降低后再为非残障人士提供超人类感知与通信能力
“初期重点是解决脊髓损伤、脑部神经元损伤、失明等基本神经问题。例如，第二款产品“盲视”旨在直接刺激视觉皮层，为盲人恢复视力。”
来源访谈 →在意识要么万物皆有要么万物皆无的两种可能之间，马斯克明确选择前者，即倾向于万物皆有意识的观点。
“意识要么万物皆有，要么万物皆无。我更喜欢前者。(Consciousness is either everything or nothing. I like the former.)”
来源访谈 →所有智能都是专用智能，人类智能也只是专为解决“人类体验”这类问题而优化，不存在普遍意义上可独立存在的“智能等级”。
“All intelligence is specialized intelligence. Even human intelligence has some degree of generality, but it's specialized in the human experience. —— 所有智能都是专用智能。即使人类智能具有一定程度的通用性，但它也是专为人类体验而优化的。”
来源访谈 →马库斯认为AI的发展更可能是线性而非指数级，智能是多维变量，不同维度的发展速度并不均衡。
“AI的发展更可能是线性而非指数级的。智能是一个多维变量，不同维度的发展速度并不均衡。”
来源访谈 →马库斯反对完全抛弃符号操作而只依赖深度学习，主张未来AI必须结合深度学习的感知能力与符号系统的推理能力。
“我们确实需要能够表示符号的东西。（英文原话：We really do need to have stuff that represents symbols.）”
来源访谈 →未来不是机器人变得像人并取代人类工作，而是人类技能与机器人补充性技能的结合，自动化长期会提高生产力和平均生活水平，但转型期阵痛需被正视。
“未来不是机器人变得像人并取代工作，而是我们技能与机器人补充性技能的结合。”
来源访谈 →虚拟身份将呈现多元光谱而非单一身份，用户会根据社交、工作、娱乐等不同场景选择从卡通化到照片级逼真的不同化身表达。
“从卡通化表达到照片级逼真，从真实自我到奇幻角色，用户将根据不同的场景和目的（如社交、工作、娱乐）在虚拟世界中选择不同的身份表达。”
来源访谈 →他认为随着AI智能体与人类社会更深入互动，AI研究必然从工程问题延伸到经济学、社会选择理论乃至政治哲学，引发关于好生活由谁决定的文化反思。
“随着AI智能体与人类社会更深入地互动，研究必然从工程问题延伸到经济学、社会选择理论乃至政治哲学。这迫使我们思考“什么是好的生活”以及“谁来决定”，可能引发一场文化反思。”
来源访谈 →运行环境不是可后期添加的功能，而是定义智能体的根本所在，没有运行环境就没有智能体
“我们早期的判断是，运行环境实际上不是一个功能，而是你对智能体定义的根本。没有运行环境，就没有智能体。 —— Our early bet was that the harness is actually not a feature, but it's fundamental to what you think an agent is. There is no agent without a harness.”
来源访谈 →米切尔认为如何形成并灵活运用概念是AI最重要的未解难题，当前深度学习并未学到人类意义上的概念
“如何形成并灵活地运用概念，是人工智能最重要的开放性问题。（How to form and fluidly use concepts is the most important open problem in AI.）”
来源访谈 →她认为实现人类水平智能需要大量基础性科学突破，而非当前方法的简单扩展，对AI领域的时间预测持谨慎态度
“人类水平的智能距离我们有一百个诺贝尔奖的距离。（Human level intelligence is a hundred Nobel Prizes away.）”
来源访谈 →Trammell认为即使部分商品实现全自动化，只要人们对此类商品的需求很快饱和，而对芭蕾舞等人类关系性服务的需求不减，劳动份额就不必然因全面自动化而崩溃。
““One robot now turns into many robots next year, but the number of ballerinas is the same.”——“一个机器人明年会变成许多个，但芭蕾舞演员的数量不会变。””
来源访谈 →建立在灾难性风险、国家安全等模糊概念上的监管框架，等于给未来独裁者递上装满子弹的巴祖卡火箭筒，而政府最想控制的恰是AI本身
“监管框架若建立在“灾难性风险”“国家安全”等模糊概念上，等于给未来独裁者递上装满子弹的“巴祖卡火箭筒”。政府最想控制的恰是AI本身。”
来源访谈 →与 AI 代理协作需要对代理抱有同理心，意识到它们是从零开始、并不自带背景知识。
“同理心。对代理保持同理心。某种程度上是同理心，但是，是的……你没有意识到它们是从零开始的。”
来源访谈 →应对超级智能这场危险游戏的唯一取胜方式就是不参与开发。
“赢得这场游戏的唯一方式，就是不参与这场游戏。—— the only way to win this game is not to play it”
来源访谈 →Prasad认为AI的身份认同是尚未解决的深刻问题：如何让用户仅凭声音就能识别出属于自己的Alexa，涉及音色、语调、用词与文化适应性等多重因素。
“如何让用户仅通过声音就能识别出这是“他们的Alexa”？这涉及音色、语调、用词、文化适应性等多重因素，是塑造AI人格和品牌的关键，也是未来重要的研究方向。”
来源访谈 →平克认为一个单目标狂飙、碾压一切障碍物的AI恰恰违背智能的本质，是“人工愚蠢”而非真正的通用智能。
“（那种）人工智能和通用智能，那是人工愚蠢。—— Artificial and general intelligence, that's artificial stupidity.”
来源访谈 →卡明斯认为社会对机器人存在巨大的负面情绪和偏见，她从为辩论而站到对立面，最终真心认同为机器人辩护的立场。
“我对围绕机器人（或至少是机器人的概念）的巨大负面情绪感到震惊，所以我就想，哦，为了好玩、为了笑话，我就站到对立面去辩论吧。然后我就发现，哦不，我真的认同这个魔鬼代言人式的论点。”
来源访谈 →智能的定义是样本效率，即用多少数据就能在特定领域熟练运作；近几年AI的进步主要靠扩大数据分布，而非提升训练样本效率。
“智能的定义是样本效率：即在特定领域用多少数据就能熟练运作。过去几年，AI进步主要靠扩大数据分布，而非提升训练样本效率。”
来源访谈 →他质疑模型能力提升的本质究竟是更复杂的数据输入（如强化学习环境）还是模型样本效率的根本突破，这对判断深度学习在机器人学等需要高样本效率领域的进展速度至关重要。
“模型是否变得更样本高效了……还是我们仅仅改变、扩展或改进了数据输入？（英文原话：Are models even getting more sample efficient... or have we just changed/expanded/improved the data input?）”
来源访谈 →极端权力与抽象概念操作类智能之间的相关性，甚至可能弱于极端权力与身高之间的相关性。
“极端权力与这类（抽象概念操作）智能之间的相关性，甚至可能弱于极端权力与身高之间的相关性。”
来源访谈 →她认为机器人取代人工服务是未来数十年后的“后续章节”，当前机器人的灵活性和适应性不足以应对复杂现实环境，且身处困境的客户需要人性化的情感关怀。
“当前机器人灵活性和适应性不足以应对复杂多样的现实环境——不同类型的房屋、狭窄空间、需要拆墙才能诊断的问题。同时，这些行业涉及人类情感关怀，客户通常处于困境中，需要人性化服务。”
来源访谈 →否认AI作为自主存在：算法是人造的工具而非生物
“"I don't believe in AI... There's just algorithms. We make them, we control them... they're tools, they're not creatures."”
来源访谈 →**stance**: 认为人类无法控制远超自身智能的实体，问题核心在于设计其是否“想要”被控制
“**quote**: "I don't think there's a way of stopping it to take control if it wants to."”
来源访谈 →stance: 家庭机器人将按角色（管家、宠物、专用工具等）分化，构成多元生态
“quote: "你的生活里需要很多不同的角色...终局会是什么样子我们觉得是应该有不同形态的机器人。"”
来源访谈 →stance: 真正的主动式AI必须基于“意图”和“上下文”的精准结合，而非简单的定时推送或信息发散。
“quote: “我认为他需要得到两个东西第一个是你在某一个场景明确的意图。第二个是你在某一个场景的上下文。””
来源访谈 →机器人未来应采用仿生的“大脑-小脑-神经”三层分层架构，以提升实时性、效率和系统鲁棒性。
“我们觉得机器人未来很有可能也是类似的方式，也就是机器人有个大脑...小脑...还有它的一些子控制器。”
来源访谈 →估计文明崩溃概率 10-25%, 认为 Anthropic 的行动在降低而非增加该概率， 目标是大幅压低而非归零
““如果飞机坠毁概率是 25%, 你绝不会乘坐那架飞机。我们正努力将概率大幅降低。””
来源访谈 →人类并非纯粹的理性推理机器，而是主要依靠类比进行思考的‘类比机器’。
“We're not [rational beings]. We're great big analogy machines. We work by seeing analogies.”
来源访谈 →我们或许可以训练AI使其不想伤害人类，但这非常困难且可能徒劳，但必须尝试，否则若人类灭绝是因懒惰将是荒谬的。
“辛顿将超级智能比作成长中的小老虎，我们必须确保它长大后不想杀死我们。他以母亲与婴儿的关系为例（进化确保了母亲受婴儿哭声影响），指出我们需要找到类似的方法来约束AI。他对此并不乐观，认为可能徒劳，但我们必须尝试，否则人类灭绝若仅因我们懒得尝试而发生，将是荒谬的。”
来源访谈 →AI在企业中的最佳实践应源于一线实践智慧，而非总部制定。
“AI在企业中的最佳实践并非自上而下制定，而是源于一线。FDE需要深入企业，识别并学习金牌店长、优秀销售等“老师傅”的实战经验（包括“街头智慧”）。”
来源访谈 →