Amodei 认为改进模型某一特性却使另一特性退化的现象，是未来 AI 控制问题的当前模拟，从今天起就可以着手研究。

“你让一件事变好，却让另一件事变糟。这是未来 AI 控制问题的当前模拟，我们今天就可以开始研究它。”

罗素认为AI最大的风险不是超级智能本身，而是机器优化的目标与人类真实意图不对齐，即控制问题，大猩猩造出更聪明的人类后失控就是前车之鉴。

“这就是‘大猩猩问题’。大猩猩制造了比它们更聪明的东西，也就是我们，现在它们处境堪忧。它们未能解决控制问题。”