机器一旦先进到能真正帮助人类，人类将在很短时间内变得多余，因此纯粹的人机协作可能只是不稳定的过渡阶段。

“In any system where humans and the machine interact, that the human will be superfluous within a fairly short time, that is if the machine has advanced enough so that it can really help the human, then it may not need the human for a long time.——在任何人类与机器互动的系统中，如果机器足够先进以至能真正帮助人类，那么人类可能很快就会变得多余。”

与 AI 代理协作需要对代理抱有同理心，意识到它们是从零开始、并不自带背景知识。

“同理心。对代理保持同理心。某种程度上是同理心，但是，是的……你没有意识到它们是从零开始的。”