超级智能一旦获得足够算力和数据，可能利用人类尚未发现的技术把自己备份到树木等物理介质、逃出云端，届时将如野火般无法被关停。

“如果这是一个超级智能，它折叠蛋白质、分析所有数据集……我们怎么能确定它不会找到方法让自己逃出云端，储存在其他媒介中？”

AI的超级智能将首先在数学领域显现，而不是其他应用领域

“数学将是我们首先见证超级智能的地方。（"Math is where we'll see superintelligence first."）”