游凯超
立场时间线 8 条 · 8 个议题
同一议题按时间排列,说法变化一目了然。
学术评审质量下滑、算法研究低垂果实被摘尽、加上基础设施决定实验成败的体感,使他从算法研究转向机器学习系统成为行业趋势下的必然转身
“学术评审质量下滑、算法研究"低垂的果实"被摘尽、以及基础设施决定实验成败的体感,共同推动了他从"算法雕刻"转向"系统构建"的必然转身。”
来源访谈 →模型必须根据硬件特性与基础设施协同设计才能最大化效率,否则算法再好也难以落地
“硬件如自然资源,模型似发电机,推理引擎是电网。只有根据硬件特性设计模型结构,才能最大化"发电效率",否则算法再好也难以落地。”
来源访谈 →DeepSeek算法团队懂系统、系统团队懂算法,其模型结构探索与推理系统优化形成强协同,是模型高效落地的重要支撑
“其算法团队懂系统、系统团队懂算法,在MoE等结构上的探索与推理系统的优化形成了强协同,是其模型高效落地的重要支撑。”
来源访谈 →模型结构设计若命中硬件特性则事半功倍,RoPE正因位置编码可独立于Attention内核实现而普及
“RoPE之所以普及,在于其位置编码可独立于Attention内核实现,完美适配Flash Attention等优化,实现了模型结构设计与基础设施的"共振"。”
来源访谈 →Coding Agent让代码贡献变便宜而维护者精力有限、倾向自己重写而非审查低质PR,开源社区将走向维护者与用户的两极分化
“Coding Agent让代码贡献变得便宜,而维护者精力有限,倾向于自己重写而非审查低质PR,社区协作将更集中于核心维护者与反馈渠道。”
来源访谈 →Token并非通用电能,每个模型的Token承载独特印记无法互转,推理引擎必须针对特定模型和硬件做深度适配与优化
“Token并非通用电能,每个模型的Token都承载其独特印记,无法互转。这决定了推理引擎需针对特定模型和硬件做深度适配与优化。”
来源访谈 →签署NDA、获取集群资源、协调各公司利益等事务是社区无法独立完成的,vLLM必须成立商业实体方能继续拓展
“签署NDA、获取集群资源、协调各公司利益,这些社区无法独立完成的事务,促使vLLM必须成立商业实体方能继续拓展。”
来源访谈 →金句墙 8 条
“How much money you earn, I wouldn't be happy if the vLLM project failed.”
就算赚很多钱,但如果vLLM项目失败了,我也不会开心。
“软硬兼施”才是大模型胜负手 · 2026/7/29“As long as it's good software, there will always be people who use it.”
只要是好的软件,总会有人用。
“软硬兼施”才是大模型胜负手 · 2026/7/29“The model can be compared to a generator. The inference engine can liken it to an electrical system.”
模型好比发电机,推理引擎就像电力系统。
“软硬兼施”才是大模型胜负手 · 2026/7/29我们这些人都是比较共性的,就是大家追求的是‘意义’。就是我做的事情是不是有意义?
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28十年之后,vLLM项目失败了,你赚到了很多钱,但是你是开心还是不开心?
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28如果你的这个算法没有利用到这些专用的算力,你就没有抽中硬件的那个彩票,你就吃不到这个时代的红利。
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28算法团队要懂Infra。这是可学习的、可借鉴的核心。
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28我觉得开源模型最后会赢的。
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28
