标签：存在风险
共 2 篇相关访谈。
AI安全研究者：超级智能几乎必然导致人类终结
AI安全研究者Roman Yampolskiy在访谈中警告，创造通用超级智能几乎必然导致人类终结（X风险）。他区分了存在风险（X风险）、苦难风险（S风险）和意义风险（IR风险），认为我们无法预测、解释或控制超级智能。他批评乐观派低估了系统不可预测和失控的本质，并主张我们唯一安全的选择是“不玩这场游戏”。
R罗曼·扬波尔斯基AI安全与安全研究者，新书《AI：不可解释、不可预测、不可控》作者
模拟论证：我们是否活在高级文明的计算机中？
牛津哲学家尼克·博斯特罗姆在访谈中深入阐述了其著名的「模拟论证」。该论证指出，以下三种可能性必居其一：人类文明将在技术成熟前自我毁灭；技术成熟的文明普遍对运行祖先模拟失去兴趣；或者，我们很可能就生活在一个由高级文明创建的计算机模拟中。博斯特罗姆区分了「模拟假说」（我们确实在模拟中）与更广泛的「模拟论证」，并探讨了意识、技术成熟度、人择推理等相关哲学与科学问题。
N尼克·博斯特罗姆牛津大学教授，人类未来研究所主任