标签：AI对齐
共 3 篇相关访谈。
R
AI自动化研发后：递归自我改进的可能与风险
在本期播客中，Redwood Research首席科学家Ryan Greenblatt与主持人Dwarkesh Patel深入探讨了递归自我改进（RSI）的可能性。Greenblatt认为，一旦AI能够全面自动化AI研发，就可能在一年内实现相当于数年的人类AI进展，从而催生超级智能。双方辩论了AI研发的可验证性、人类专家数据的作用、技能迁移能力，以及最关键的对齐问题——这些超级智能应该为谁服务。
RRyan GreenblattRedwood Research 首席科学家
Scaling Laws 预测 AI 将达人类水平，Anthropic 如何应对风险
Anthropic CEO Dario Amodei 在访谈中阐述了 Scaling Laws 如何持续推动 AI 能力逼近甚至超越人类水平，同时指出数据、算力等方面可能存在的瓶颈。他重点介绍了 Anthropic 的「负责任扩展策略」（RSP）和 AI 安全等级（ASL）标准，以应对模型滥用和自主性失控两大核心风险，并分享了公司在可解释性研究和模型性格塑造方面的实践与挑战。
D达里奥·阿莫迪Anthropic CEO
心智发展七阶段：从注意力自我到AI对齐的哲学框架
认知科学家Joscha Bach在访谈中提出了一个描述心智发展的七阶段框架，从婴儿期的注意力自我构建世界模型，到社交自我、理性自我，最终达到能观察自我生成世界的超越阶段。他探讨了不同阶段人群对AI对齐问题的不同关切，并指出大型语言模型目前是思维的暴力破解方案，但可能并非通往通用智能的最终路径。
J约沙·巴赫认知科学家、AI研究员