数据与计算预算决定架构取舍：有限条件下ResNet的局部归纳偏置优于Transformer，需要全局上下文理解时Transformer潜力更大

“在数据和计算有限的实验中，ResNet的局部归纳偏置使其表现优于Transformer。但随着对全局上下文理解需求的增加（如大规模棋盘、不完全信息游戏），Transformer的潜力更大。”

采用数据流架构是基于AI计算本质的第一性原理选择，比指令驱动的冯诺依曼架构更高效。

“在数据流架构里面，你切一刀的话，在某一个时刻切下去，他的状态是不固定的，有点像是薛定谔的芯片。”