AI算力缺口与云计算范式革命

阿里云百炼技术负责人于文渊在访谈中指出,AI算力需求正以月度翻倍的速度激增,核心挑战在于高效调度有限的GPU资源。他认为云计算范式将因AI Agent的兴起而发生天翻地覆的变化,AI基础设施将成为如水电煤般的公用事业。他强调,企业自建GPU并非最优解,MaaS(模型即服务)在成本、安全与灵活性上更具优势。对于计算机专业学生,他建议必须主动使用AI工具,但更要保持独立判断与代码审查能力,避免成为被AI替代的'99%'。

于文渊

导语

阿里云百炼技术负责人于文渊在最新的访谈中,分享了他对当前AI算力狂潮的深刻洞察。随着Coding Agent和开源模型的爆发式流行,全球对高质量Token的需求正以惊人的速度增长,这背后是AI正从聊天工具深度融入生产力场景的范式转变。于文渊指出,云计算的基础设施与调度系统将因此发生天翻地覆的变化,AI正朝着成为水电煤般的公用事业演进。在这一进程中,如何高效利用有限的GPU资源、应对算力供给缺口,以及企业如何选择最优的AI部署路径,成为关键议题。

大纲与深读 8 章

展开「深读」看每一段讨论的问题与论据。

01

Token激增与算力挑战

  • Cloud Code和OpenAI发布导致Token需求月增翻倍,AI正深度融入生产力场景。
  • 阿里云百炼作为中国最大MaaS服务商,面临GPU资源争抢与算力调度挑战。
  • 文渊提出核心使命:让每一个GPU没有一秒钟闲置,实现极致弹性与稳定性。
深读这一段

讨论的问题:Token需求激增的根源是什么,阿里云百炼如何应对算力资源调度挑战?

论据 / 案例:Token需求按月翻倍增长;千问3.5发布两周年后,其峰值TPM(每分钟Token数)已跃升至阿里云历史上所有文本模型之最。

02

算力质量与国际化

05:02
  • Token数量具有误导性,0.6B小模型与SOTA大模型的Token在算力智能水平上不等价。
  • 关注峰值调用量、技术削峰填谷和GPU利用率,而非单一Token数量。
  • Token出海是重要方向,但国内国际业务发展速度不同步,需克服地缘政治与合规问题。
深读这一段

讨论的问题:如何衡量AI算力的真实需求?阿里云百炼的国际化战略面临哪些挑战?

论据 / 案例:每天烧掉1亿Token的用户数以万计;百炼的Coding Plan重度个人用户消耗已使1亿Token门槛不再是很大门槛。

03

AI场景观察与未来趋势

07:15
  • 百炼观察到经销商群里用自然语言机器人补货等场景,体现AI替代人力的自然趋势。
  • 未来角色将深远被大模型影响,云服务厂商推出MaaS服务但内行看存在差异化。
  • 阿里云的独特性在于从模型、Infra到算力资源的端到端打磨能力。
深读这一段

讨论的问题:当前Token消耗量最大的场景是什么?各云厂商在MaaS服务上的核心差异点在哪里?

论据 / 案例:案例:经销商在群里用自然语言向机器人下达补货指令,无需学习复杂系统。

04

自建与云服务的抉择

10:00
  • 文渊提出暴论:没有任何情况需要企业自建GPU集群来部署模型。
  • 企业自建GPU的三大考量(成本、安全、灵活性)恰恰是云MaaS更能解决的问题。
  • 阿里云通过机密推理技术(端到端密钥在用户手中)保障数据安全。
深读这一段

讨论的问题:在何种情况下企业仍应考虑自建GPU?阿里云如何回应成本、安全、灵活性的挑战?

论据 / 案例:阿里云推“机密推理”方式,云厂商看不到模型文件与用户请求,由密码学保障安全。

05

计算机教育与AI协作

12:40
  • 建议计算机专业学生继续学习,并主动使用AI工具,但避免过度依赖。
  • 初学者不应让AI写太多代码,需先建立经验与判断力,以识别AI那1%的错误。
  • 生产级代码需要人理解每一行及其副作用,AI代码在压力测试下易暴露问题。
深读这一段

讨论的问题:计算机专业学生应如何正确使用AI工具?AI生成的代码在生产环境中存在哪些风险?

论据 / 案例:张文宏访谈类比:实习医生若直接依赖AI诊断,将无法建立判断AI错误的能力。

06

AI能力边界与工程师角色

15:00
  • AI能力需结合生产要素、知识要素与过程要素协同作用,过程知识至关重要。
  • 系统工程师(如写文件系统、数据库)的代码更形式化清晰,反而可能更早被AI批量提效。
  • 前端工程师因需人性化交互与产品理解,可能更难被完全替代。
深读这一段

讨论的问题:AI最容易替代和最难替代哪类工程师?其背后的逻辑是什么?

论据 / 案例:FAST论文案例:给AI清晰的Spec,32B模型即可写出高质量的文件系统;Cursor数据显示无脑补全代码使用率从二三十%飙升至七八十%。

07

国产算力供给与展望

18:05
  • 国产芯片(如平头哥)在研发与使用体验上表现优秀,但核心问题是算力总量供给。
  • 算力如石油,中国具备自主技术能力,但当前缺口正制约AI发展,需加速开采与进口。
  • 平头哥芯片被评价为“用得最丝滑最好用”,但市场更缺算力总量而非单一产品优劣。
深读这一段

讨论的问题:英伟达供应限制对中国AI发展影响有多大?国产芯片发展现状如何?

论据 / 案例:文渊比喻:算力是石油,中国不缺造油田的技术(能自主),但油田未开采时下游需求已高速奔跑,造成供不应求。

08

AI基础设施终局

21:00
  • 预测2026年底前,Agent和AI生成(如视频)将是Token消耗最大的两个增量场景。
  • MaaS平台的价值在于提供更好体验、更低成本、更优模型效果与无闲置的容量。
  • AI终局将如同水电煤般的基础设施,但形态更复杂多样,包含速度、功能等差异。
深读这一段

讨论的问题:未来Token消耗最大的新场景会是什么?MaaS平台的核心竞争壁垒是什么?

论据 / 案例:文渊预测:Agent和AI生成将是今年最炸的两个增量场景;AI基础设施将从“水电煤”演变为“水电煤+模型”。

金句

  • "未来我们能不能像用水电煤一样稳定的用AI,会决定最后人类智能的上限。"
  • "我们有一个非常非常重要的使命,就是让每一个GPU不要有一秒钟闲下来。"
  • "我认为没有任何一个情况需要(企业)自建(GPU)...用MaaS才是能解决你这三个concern的最好的一件事情。"
  • "计算机专业的同学一定要避免自己成为那99%和AI高度重合没有真正技能difference的人,一定要成为能识别出AI做不到那1%的那件事情的人。"

原文链接

查看完整访谈

人物档案建议

topic: AI算力需求与基础设施未来 | stance: AI算力需求激增且供给不足,AI基础设施将成为如水电煤般的公用事业,其范式将因AI Agent的兴起而重塑云计算。 | quote: "未来我们能不能像用水电煤一样稳定的用AI,会决定最后人类智能的上限。" | date: 2026-03-30 topic: 企业AI部署路径选择 | stance: 反对企业自建GPU集群,认为MaaS(模型即服务)在成本、安全、灵活性上更具优势,是更优解。 | quote: "我认为没有任何一个情况需要(企业)自建(GPU)...用MaaS才是能解决你这三个concern的最好的一件事情。" | date: 2026-03-30 topic: AI时代计算机专业人才培养 | stance: 应继续学习计算机专业,但必须主动使用AI工具并保持独立判断与代码审查能力,避免技能同质化。 | quote: "计算机专业的同学一定要避免自己成为那99%和AI高度重合没有真正技能difference的人,一定要成为能识别出AI做不到那1%的那件事情的人。" | date: 2026-03-30 topic: AI对编程工作的替代性 | stance: 越规范化、形式化的底层系统工作越易被AI替代,而需要人性交互和过程知识的领域更难被取代。 | quote: "系统工程师写文件系统、写操作系统...它越更容易被取代,而且它的代码库质量很高,这个测试用例非常的清楚,结果非常清楚。" | date: 2026-03-30 topic: 中国算力产业发展 | stance: 对中国自主算力技术有信心,但核心挑战在于算力供给总量能否匹配飞速增长的需求,需加大算力供给。 | quote: "算力这个东西在今天的这个市场上它有点像石油...是中国每天需要的石油和每天能供给的石油是不是匹配的问题。" | date: 2026-03-30

完整内容见原文:Koji杨远骋at十字路口 · AI算力缺口与云计算范式革命