面对云端大模型高昂的训练与推理成本,AI产业正加速向手机、PC及汽车等端侧设备下沉。凭借低延迟、离线运行与隐私保护等优势,端侧AI结合能力密度突破,正成为抢占硬件生态的全新关键战场。
跳出耗资巨大的超级云端模型内卷,转向端侧模型研发或打造智能终端,正成为软硬件企业深度参与AI浪潮的核心方向。
从产业动态来看,网信办此前新增的AIGC服务备案中,Apple智能、华为小艺、小米澎湃AI等端侧模型赫然在列;随后字节跳动豆包联合中兴努比亚推出AI手机NaviX Ultra,小米18 Fold内置Xiaomi MiMo端侧大语言模型,阶跃星辰也在汽车与手机终端双向押注。与此同时,Meta、NVIDIA、Google等海外巨头也在联合设备商探索端侧硬件方案。一场围绕端侧入口的产业升级战已全面打响。
与参数动辄数万亿的云端超级模型相比,端侧模型更为轻巧。虽然超大参数能带来出色的泛化表现,但纯云端推理不仅依赖网络连接,存在延迟和隐私风险,更面临难以承受的推理成本。AI大语言模型无法像传统互联网一样靠规模效应大幅摊薄边际成本,随着日活与调用频次上升,服务器与电力开销呈线性暴增。
端侧设备受限于芯片功耗与存储空间,模型必须大幅压缩。借助知识蒸馏、剪枝和量化技术,端侧模型的参数量通常被压缩在数十亿(几B)级别,在保持特定任务高水准的同时,实现本地即时响应、隐私隔离与离线可用。
驱动端侧模型质变的关键在于“软硬共振”。清华大学团队与OpenBMB提出的“能力密度定律”指出:大语言模型的能力密度约每100天翻一番,即同等性能所需参数量减半;叠加半导体芯片的算力迭代,模型向轻量化终端下沉具备了坚实的技术支撑。

数据表明,生成式AI手机渗透率在2025年已达36%,预计2027年将突破50%;AI PC出货占比在2025年也攀升至31%,端侧AI正在从旗舰卖点快速变为行业标配。


端侧AI的爆发不仅局限于手机与PC,物理AI(Physical AI)也迎来了转折点。
Hugging Face旗下推出的双足机器人Microduck售价仅399美元,其搭载的中端芯片RK3566并非昂贵算力卡,却凭借全开源设计支持用户自行重训算法并上传社区。低成本、高复用性的硬件极大降低了具身智能的开发门槛。
在PC端,芯片架构的革新也在铺平道路:AMD推出最高60 TOPS算力的锐龙AI处理器;Intel发布基于Intel 18A工艺的酷睿Ultra平台;NVIDIA推出面向AI PC的RTX Spark芯片,算力达1 Petaflop,支持在本地流畅运行千亿参数级模型。
大语言模型的生态分工随之明朗,形成了“三层分流”:
在中国市场,围绕端侧落地的探索呈现出差异化路径:

尽管端侧AI前景广阔,但商业化挑战依然明确。对于纯软件或独立端侧模型供应商而言,各大手机与智能硬件厂商普遍倾向于自研或深度定制小模型,独立第三方基座的发展空间容易受到终端厂商防御性策略的挤压。
长远来看,单一依赖端侧或完全依赖云端均非最优解,“端云协同”将是主流形态。随着端侧芯片NPU算力的持续增强与多模态能力的本地下沉,端侧处理高频感知与本地调度、云端支撑复杂推理的分层体系,将推动AI技术真正普惠至每一台硬件终端。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断