金句
- 你加了一万台计算机,但你希望它能快一百万倍。
- 装机量就是一切。装机量定义了一个架构,其他一切都是次要的。
- 你会把一个未来显化出来。那个未来太有说服力了,它不可能不发生。
- 归根结底,智能的扩展靠的是一样东西——算力。
- 我们从一个基于检索的计算系统,变成了一个基于生成的计算系统。它不再是计算机,它是工厂。一座用来创造收入的工厂。
- Nvidia 不是做市场份额生意的。我刚才说的几乎所有东西,现在都不存在。
问题大到塞不进一台计算机,必须做极端协同设计;分布式计算目标是超线性加速,否则 Amdahl 定律会卡死整体效率
