终端侧AI迈向智能体：高通押注端侧MoE架构

终端侧AI在经历数年迭代后，正迎来关键演进节点。从早期的影像处理、自动语音识别（ASR），到文本摘要与多模态生成，端侧功能大多局限于解决具体任务的单点应用。随着用户对意图理解、任务编排和跨App操作等系统级规划需求增加，终端侧AI正加速迈向更复杂的AI智能体（Agent）体验。

端云协同：以“端侧优先”构建主动式服务

针对端侧与云端的关系，高通提出了“计算连续体”与“端侧优先”（on-device first）策略。依赖云端的AI服务每次推理都需要消耗网络带宽、GPU算力与调度资源。相较之下，端侧推理具备低延迟、高响应稳定性和天然的隐私安全优势。

云端更像覆盖全域的“通用知识库”，端侧则沉淀着专属用户的个性化上下文数据。端侧大模型结合用户的身份、位置、历史行为和即时环境，可预先判断用户需求，成为实现“主动式AI服务”的基础底座。

MoE架构：突破移动端功耗与算力限制

受限于手机与PC等设备的内存和功耗，端侧传统稠密模型（Dense）通常只能承载20亿至30亿参数，在应对多步骤规划与复杂指令时准确度受限。混合专家模型（MoE）因此成为端侧AI的重要破局方向。

稠密模型在每次推理时必须调用全部参数，而MoE模型将参数划分为多个专门的子模块。例如在一个拥有20个专家的MoE模型中，执行特定任务只需动态激活其中2到3个专家模块。这种稀疏激活机制大幅削减了单次推理的计算负载，让端侧设备在有限的功耗和内存约束下，具备运行更强智能水平模型的可行性。

软硬协同优化解决预取与带宽瓶颈

MoE虽然兼顾了能力与计算量，但模型总体积依然庞大，且在端侧运行面临内存带宽瓶颈：系统不仅需要精准预测下一步激活的专家模块，还必须极速将其载入计算单元。

高通联合阶跃星辰、Infris AI和江波龙展示了端侧MoE智能体的全链路协同方案：

• 算法端：阶跃星辰提升基础模型推理与任务规划能力；
• 推理方案：Infris AI构建推理预测机制，提前预测并预取目标专家模块；
• 存储层：江波龙优化从通用闪存（UFS）到内存的调用路径，缩短模块激活时延；
• 计算芯片：高通基于骁龙平台和AI软件栈，针对专家模块路由和缓存调度进行底层硬件级优化。

产业链深度绑定推动端侧生态落地

终端侧AI正从单点技术比拼走向全产业链协同。模型厂商负责量化压缩与结构优化，芯片厂商持续强化NPU计算底座并完善软件工具链，终端设备厂商结合操作系统打造系统级入口，应用开发者则通过具体场景覆盖长尾需求。软硬件协同演进正加速推动端侧MoE智能体从概念验证走向智能手机、PC、智能穿戴和车载终端的规模化商用。