标签：价值对齐
共 2 篇相关访谈。
AI安全研究者：超级智能几乎必然导致人类终结
AI安全研究者Roman Yampolskiy在访谈中警告，创造通用超级智能几乎必然导致人类终结（X风险）。他区分了存在风险（X风险）、苦难风险（S风险）和意义风险（IR风险），认为我们无法预测、解释或控制超级智能。他批评乐观派低估了系统不可预测和失控的本质，并主张我们唯一安全的选择是“不玩这场游戏”。
R罗曼·扬波尔斯基AI安全与安全研究者，新书《AI：不可解释、不可预测、不可控》作者
马克斯·泰格马克：人工智能安全的关键在于可理解的智能
马克斯·泰格马克在访谈中阐述了他对AI安全的核心观点。他认为，当前依赖不断扩大、却不理解其工作原理的神经网络是极其危险的道路，呼吁走‘可理解的智能’路线。他深入探讨了从基因到公司再到AI的价值对齐问题，并指出技术赋予的能力与人类理解能力的不匹配是核心风险。他还分享了利用AI对抗信息操纵的开源项目，强调在技术赋能的时代，人类主动承担责任至关重要。
M马克斯·泰格马克MIT物理学与AI研究员，生命未来研究所联合创始人