2026年11月7日，在上海举行的第九届中国国际进口博览会上，高通公司展示了端侧MoE（混合专家）智能体的最新技术进展。此次展示并非单一产品的发布，而是围绕终端侧AI从单点应用向系统级智能体体验演进的关键节点，由高通与Infris AI、江波龙、阶跃星辰共同完成的系统性优化方案。该方案旨在解决端侧大模型在有限硬件资源下运行复杂任务时的效率与智能水平瓶颈，体现了终端AI生态从技术创新向产业协同转变的趋势。
终端AI从单点功能向智能体体验演进
经过过去三至四年的发展，终端侧AI已从早期的影像处理拓展至文本、语音及多模态应用。然而，当前多数端侧应用仍局限于自动语音识别、文本摘要等单点任务。随着用户需求升级，终端设备需要承担意图理解、任务编排及实时操作目标App等系统级规划任务，这对端侧模型的智能能力提出了更高要求。
高通强调“端侧优先”的端云协同思路。云端作为通用知识库，承接高算力任务；端侧则利用其实时性、隐私保护及个性化优势，结合用户上下文提供主动式服务。这种协同模式减少了端侧对网络连接的依赖，提升了响应稳定性，为构建更复杂的智能体体验奠定了基础。
MoE技术突破端侧算力与功耗限制
受限于内存和功耗，主流终端通常只能运行20亿至30亿参数规模的稠密（Dense）模型，这在处理复杂规划任务时，完成度和准确度往往只能达到60%至80%。MoE技术通过将模型划分为多个专家模块，仅在执行任务时激活相关模块，从而在保持模型总参数量的同时，减少单次推理的实际运算量。
这种机制为终端部署更高智能水平的模型提供了新路径。MoE模型虽然总体体量较大，但通过选择性激活专家模块，有效提升了运行效率，使得在终端有限的硬件条件下，能够更流畅地执行需要更强逻辑推理能力的复杂任务，弥补了小规模稠密模型在智能水平上的不足。
多方协同优化解决端侧运行瓶颈
在端侧高效运行MoE模型，核心难点在于如何提前预测并快速调用所需的专家模块，以解决DDR带宽瓶颈。此次进博会的演示展示了从模型、推理、存储到芯片平台的全链路优化：
- 阶跃星辰负责提升模型本身的智能能力；
- Infris AI提供推理方案，实现对专家模块的提前预测与预取；
- 江波龙优化从通用闪存存储（UFS）到内存的加载效率，加快模块激活速度；
- 高通基于芯片平台和软件栈，优化专家模块路由、预测及缓存机制。
构建终端AI产业协作生态
此次演示标志着终端侧AI发展进入生态协作新阶段。高通不再仅关注将模型迁移至终端，而是通过与模型厂商、终端厂商及开发者的深度协同，实现“模型for芯片”或“芯片for模型”的互促。模型厂商提供智能内核，终端厂商整合用户入口与个性化数据，开发者拓展应用场景以解决长尾需求，而高通则提供包括NPU增强、全栈软件及开发工具在内的能力底座。这种分工协作模式有助于将复杂的AI能力转化为手机、PC、汽车等多类终端中用户可感知的实际体验，推动终端AI从技术验证走向规模化落地。
