游凯超

游凯超

You Kaichao
张小珺商业访谈录 嘉宾
海外PB 优先级✓ 已收录 2 期访谈

立场时间线 8 条 · 8 个议题

同一议题按时间排列,说法变化一目了然。

研究转向
2026-07

学术评审质量下滑、算法研究低垂果实被摘尽、加上基础设施决定实验成败的体感,使他从算法研究转向机器学习系统成为行业趋势下的必然转身

“学术评审质量下滑、算法研究"低垂的果实"被摘尽、以及基础设施决定实验成败的体感,共同推动了他从"算法雕刻"转向"系统构建"的必然转身。”

来源访谈 →
相关观点 (3)弗朗索瓦·肖莱 · 数据效率:随着计算能力增长放缓,AI研究的瓶颈将从算力转向数据,研究重点应从追求更大模型转向提升数据效率。莱斯利·卡埃布林 · 目标函数:AI研究的重心将从算法工程转向目标函数工程,设计者要在想要什么与优化器能做什么之间取得平衡迪伦·帕特尔 · 价值分配:价值正从硬件供应链向模型层和最终用户转移,实验室以低成本创造高价值,但大部分价值最终被用户获取。
DeepSeek
2026-07

DeepSeek算法团队懂系统、系统团队懂算法,其模型结构探索与推理系统优化形成强协同,是模型高效落地的重要支撑

“其算法团队懂系统、系统团队懂算法,在MoE等结构上的探索与推理系统的优化形成了强协同,是其模型高效落地的重要支撑。”

来源访谈 →
相关观点 (2)Aravind Srinivas · 智能体构建:擅长数学和推理的模型更有能力处理构建智能体原型时遇到的各种边缘情况迪伦·帕特尔 & 内森·兰伯特 · 低成本训练:DeepSeek高效训练的两大技术支柱是混合专家模型(只激活参数子集,如671B参数中仅激活37B)和自创的多头潜在注意力机制。
结构与硬件
2026-07

模型结构设计若命中硬件特性则事半功倍,RoPE正因位置编码可独立于Attention内核实现而普及

“RoPE之所以普及,在于其位置编码可独立于Attention内核实现,完美适配Flash Attention等优化,实现了模型结构设计与基础设施的"共振"。”

来源访谈 →
相关观点 (1)Aman Sanger · 推理成本:随着大模型API商业化进入深水区,焦点转向通过推测解码、量化等优化在单卡或有限硬件上实现高吞吐、低成本的本地化部署
开源商业化
2026-07

签署NDA、获取集群资源、协调各公司利益等事务是社区无法独立完成的,vLLM必须成立商业实体方能继续拓展

“签署NDA、获取集群资源、协调各公司利益,这些社区无法独立完成的事务,促使vLLM必须成立商业实体方能继续拓展。”

来源访谈 →

金句墙 8 条

“How much money you earn, I wouldn't be happy if the vLLM project failed.”

就算赚很多钱,但如果vLLM项目失败了,我也不会开心。

“软硬兼施”才是大模型胜负手 · 2026/7/29

“As long as it's good software, there will always be people who use it.”

只要是好的软件,总会有人用。

“软硬兼施”才是大模型胜负手 · 2026/7/29

“The model can be compared to a generator. The inference engine can liken it to an electrical system.”

模型好比发电机,推理引擎就像电力系统。

“软硬兼施”才是大模型胜负手 · 2026/7/29

我们这些人都是比较共性的,就是大家追求的是‘意义’。就是我做的事情是不是有意义?

从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28

十年之后,vLLM项目失败了,你赚到了很多钱,但是你是开心还是不开心?

从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28

如果你的这个算法没有利用到这些专用的算力,你就没有抽中硬件的那个彩票,你就吃不到这个时代的红利。

从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28

算法团队要懂Infra。这是可学习的、可借鉴的核心。

从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28

我觉得开源模型最后会赢的。

从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来 · 2026/7/28

访谈收录

“软硬兼施”才是大模型胜负手
从清华学子到vLLM核心:尤恺超谈开源、创业与AI推理的未来