高通徐浩:端侧AI与Physical AI的六大趋势

高通全球副总裁徐浩在访谈中深入阐述了Physical AI从云端走向终端的趋势。他指出,通过模型蒸馏、量化、混合专家模型等技术优化,大模型正被“瘦身”并部署到手机、汽车、机器人等端侧设备,催生了AI手机、AIPC、AI汽车等新形态。徐浩强调,高通凭借在通信与芯片领域的长期积累,致力于打造低延迟、高能效的异构计算架构,以支持Physical AI生态,并展望了与6G技术融合带来的新机遇。

徐浩

导语

本期《硅谷101》对话高通公司全球副总裁徐浩,深入探讨了AI从云端大模型向端侧Physical AI演进的趋势与挑战。访谈揭示了在表面的大模型竞赛之下,高通作为隐形赢家,正凭借其在通信与芯片领域的深厚布局,推动AI手机、AI PC、AI汽车、机器人及XR眼镜等终端设备的智能化变革。徐浩详细解读了如何通过模型蒸馏、量化等技术将大模型“瘦身”以适配端侧,并分享了高通在异构计算架构、低延迟通信以及6G原生AI设计方面的战略思考,展望了AI赋能千行百业的未来图景。

核心观点

  • AI发展进入“端侧落地”新阶段 人工智能的发展正从以云端探索能力边界,转向大规模的终端设备落地。这不仅是手机,还包括XR眼镜、汽车、机器人等,构成了百亿千亿级别的巨大市场。高通正积极推动这一进程,将云端算力逐步下沉到终端。

  • 端侧部署的核心挑战是模型“瘦身”与优化 将大模型部署到手机等终端面临算力与功耗挑战。当前的技术路径包括:模型蒸馏(用小模型学习大模型效果)、量化(将浮点运算转为定点以提升速度并降低存储需求)、低秩适应(LoRA)以及混合专家模型(MoE),通过技术迭代实现更节能、更高能效的端侧架构。

  • AI手机将催生全新交互范式与应用形态 手机AI正从图像处理、语言对话发展到**智能体(Agent)**应用。未来有两种并行方向:一是成为全程语音交互的原生AI设备;二是通过一个“超级应用”打通所有服务。这两种路径都依赖于生态构建和用户习惯培养,是一个需要时间验证的过程。

  • Physical AI需要更强大且专业的硬件支持 机器人、汽车等Physical AI设备对芯片提出了不同于手机的要求:需要更强的算力、更宽松的能耗限制,以及对延迟的极致控制。高通为此提供了从运控到具备“大脑”能力的系列芯片产品,并通过通信技术优势保障低延迟的本地与云端协同。

  • 6G将成为AI原生的通信基础 面向2029-2030年商用的6G网络,必须从设计之初就考虑人工智能。它需要支持未来占比达30%-40%的AI流量,并解决智能体间高效通信、多终端协同等问题。其中,“通信感知一体化”技术能通过无线信号构建物理世界地图,为AI训练和感知提供新维度。

  • 汽车是AI与娱乐系统深度融合的复杂终端 现代智能汽车包含自动驾驶和座舱娱乐两大系统。高通推出的“骁龙数字底盘”理念,旨在通过统一规划的芯片平台(如双8797芯片)协同管理所有传感器与算力分配,在保障自动驾驶优先级的同时,提供无缝的智能座舱体验,最终实现用户“无感”的AI服务。

  • XR眼镜是最具挑战性的端侧AI设备 眼镜在体积、功耗、散热方面面临严苛限制,是“最难的端侧AI设备”。高通通过高集成度芯片、与手机/云端协同的“分离式渲染”技术,以及支持实时翻译、记忆检索等AI应用来突破限制。隐私保护(如录像时红灯提示)也是设计中必须考虑的因素。

金句

  • "We want to make AI accessible to every home, to bring AI to the terminal devices." —— 我们要让人工智能触及到千家万户,要让AI去到终端设备。
  • "From keyboard, to phone buttons, to voice commands... these are the shifts in user experience and interaction we're slowly adapting to." —— 从键盘到手机按键,到我们现在的语音指挥...这实际上是我们会慢慢适应的一些用户体验以及交互方式的转变。
  • "There are a series of technical iterations: distillation, quantization, low-rank adaptation, Mixture-of-Experts (MoE)... an endless stream of technological iterations." —— 有一系列的技术迭代:蒸馏、量化、低秩适应、混合专家模型(MoE)...这是层出不穷的技术迭代。
  • "For 6G, we must consider the design of an AI-native network." —— 对于6G,我们必须考虑人工智能原生的网络设计。
  • "If it can be solved on-device, we solve it on-device. If not, we offload it to the edge cloud or the cloud." —— 如果在端侧能解决,就做端侧解决。不能解决,我们放到边缘云或者云端。

原文链接

查看完整访谈

完整内容见原文:硅谷101 · 高通徐浩:端侧AI与Physical AI的六大趋势