高通进博会演示端侧MoE智能体：手机本地跑起任务编排

在第九届进博会（中国国际进口博览会）上，高通展出了一套端侧MoE智能体演示，能在终端本地完成意图理解、任务编排和实时操作目标App等系统级任务。这套演示由高通与阶跃星辰、Infris AI、江波龙共同完成，覆盖模型、推理、存储和芯片平台四个环节。

按文章的说法，终端侧AI过去3至4年主要停留在单点功能上：自动语音识别、文本摘要、图片处理、简单聊天机器人，大多只解决一个具体任务。若要继续走向系统级规划类任务，端侧模型需要更强的智能水平，而手机、PC受内存和功耗限制，主流方案通常只能运行20亿至30亿参数的模型。

MoE（混合专家）正是为这个矛盾准备的路径。模型把参数划分成多个专家模块，执行任务时只调用其中相关的2至3个，从而在总参数量更大的同时压低单次推理的实际计算量。文章用厨师作比：Dense模型像家里只有一位厨师，MoE则像同时有多位擅长不同菜系的厨师，点什么菜就让谁上灶。

但要把MoE真正跑在端侧，除了模型本身的智能，还有两个工程问题：如何提前预测下一步需要哪些专家模块，以及预测之后如何快速把它们从存储调入参与计算。推理过程中DDR带宽往往是瓶颈，预取是否及时直接决定等待时间。

这套分工在演示中体现得很清楚：阶跃星辰负责提升模型的智能能力；Infris AI通过推理方案提前预测并预取所需的专家模块；江波龙优化专家模块从UFS闪存到内存的加载效率；高通则围绕骁龙平台和软件栈，与伙伴共同优化专家路由、专家预测与缓存预测。

因此，这个演示展示的不只是一个模型，而是一次围绕模型、推理、存储和芯片平台的系统性优化。高通在文中把它描述为终端侧AI从单点技术创新走向产业协同的样本：模型厂商提供智能，芯片平台提供底座，终端厂商掌握入口，开发者负责把能力铺到长尾场景。

需要说明的是，这篇文章由高通提供、量子位获授权转载，观点归原作者所有；演示中的能力目前仍处于展示阶段，尚未公布具体的商用终端与时间表。端侧智能体能否落地，取决于内存带宽、功耗与模型压缩之间能否取得更好的平衡。

接下来值得观察的是，这类端侧MoE方案会不会随下一代骁龙平台进入量产机型，以及阶跃星辰等模型厂商能否把系统级任务编排的完成度从演示提升到日常可用的水平。