共 1 篇相关访谈。
MatX CEO Reiner Pope 在本次黑板讲座中，通过一系列基础公式和硬件参数，推导出大模型训练与推理中的关键优化原理。他量化了批大小、稀疏注意力、流水线并行等因素如何影响延迟与成本，并揭示了前沿实验室在模型部署时的实际考量与物理限制。