前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
洞察/09.17 · 00:00/5 MIN/编译自 巨潮WAVE/0 阅读

告别云端内卷:端侧AI加速落地,重塑智能硬件入口

面对云端大模型高昂的训练与推理成本,AI产业正加速向手机、PC及汽车等端侧设备下沉。凭借低延迟、离线运行与隐私保护等优势,端侧AI结合能力密度突破,正成为抢占硬件生态的全新关键战场。

跳出耗资巨大的超级云端模型内卷,转向端侧模型研发或打造智能终端,正成为软硬件企业深度参与AI浪潮的核心方向。

从产业动态来看,网信办此前新增的AIGC服务备案中,Apple智能、华为小艺、小米澎湃AI等端侧模型赫然在列;随后字节跳动豆包联合中兴努比亚推出AI手机NaviX Ultra,小米18 Fold内置Xiaomi MiMo端侧大语言模型,阶跃星辰也在汽车与手机终端双向押注。与此同时,Meta、NVIDIA、Google等海外巨头也在联合设备商探索端侧硬件方案。一场围绕端侧入口的产业升级战已全面打响。

以小博大:端侧模型破解成本困局

与参数动辄数万亿的云端超级模型相比,端侧模型更为轻巧。虽然超大参数能带来出色的泛化表现,但纯云端推理不仅依赖网络连接,存在延迟和隐私风险,更面临难以承受的推理成本。AI大语言模型无法像传统互联网一样靠规模效应大幅摊薄边际成本,随着日活与调用频次上升,服务器与电力开销呈线性暴增。

端侧设备受限于芯片功耗与存储空间,模型必须大幅压缩。借助知识蒸馏、剪枝和量化技术,端侧模型的参数量通常被压缩在数十亿(几B)级别,在保持特定任务高水准的同时,实现本地即时响应、隐私隔离与离线可用。

驱动端侧模型质变的关键在于“软硬共振”。清华大学团队与OpenBMB提出的“能力密度定律”指出:大语言模型的能力密度约每100天翻一番,即同等性能所需参数量减半;叠加半导体芯片的算力迭代,模型向轻量化终端下沉具备了坚实的技术支撑。

端侧AI渗透趋势

数据表明,生成式AI手机渗透率在2025年已达36%,预计2027年将突破50%;AI PC出货占比在2025年也攀升至31%,端侧AI正在从旗舰卖点快速变为行业标配。

AI手机出货量预测

AI PC市场渗透走势

破局时刻:从开源硬件到芯片协同

端侧AI的爆发不仅局限于手机与PC,物理AI(Physical AI)也迎来了转折点。

Hugging Face旗下推出的双足机器人Microduck售价仅399美元,其搭载的中端芯片RK3566并非昂贵算力卡,却凭借全开源设计支持用户自行重训算法并上传社区。低成本、高复用性的硬件极大降低了具身智能的开发门槛。

在PC端,芯片架构的革新也在铺平道路:AMD推出最高60 TOPS算力的锐龙AI处理器;Intel发布基于Intel 18A工艺的酷睿Ultra平台;NVIDIA推出面向AI PC的RTX Spark芯片,算力达1 Petaflop,支持在本地流畅运行千亿参数级模型。

大语言模型的生态分工随之明朗,形成了“三层分流”:

  1. 云端模型:负责高复杂度推理、长文本生成与深度规划,定义能力上限;
  2. 垂直行业模型:深耕金融、医疗等专业场景,保证任务精度;
  3. 端侧模型:承接高频交互、低延迟感知与本地数据隐私处理,决定场景触达的广度与频率。

中国阵营的端侧突围路径

在中国市场,围绕端侧落地的探索呈现出差异化路径:

  • 面壁智能:主打独立基座供应商路线。其开源的MiniCPM5-2B模型以2B参数在评测中对标更大体量模型,并在端侧AI智能体能力上重点发力。商业化层面,面壁智能已进入三星手机供应链,并在长安马自达智能座舱及乐聚机器人具身项目中实现落地。

MiniCPM评测表现

  • 阶跃星辰:押注软硬一体与原生多模态。推出STEPX品牌及STEPX Neo智能体手机,试图打通基座模型、系统与终端链条;同时联手千里科技与吉利开发车机操作系统Step AOS,将端侧模型融入智能驾驶基座。
  • 字节跳动(豆包):侧重应用层生态延伸。通过与中兴努比亚合作打造NaviX Ultra,利用端侧MCP架构尝试以语音调度AI智能体,完成跨APP任务操作,为自有应用构建更牢固的硬件级入口。
  • 汽车方案商与办公落地:地平线依托软硬结合能力,通过车载芯片匹配具身与驾驶模型;德赛西威主推差异化的端云协同架构;科大讯飞则开源星火X2.5端侧系列模型,支持长上下文窗口,主打离线安全办公场景。

商业博弈与未来演进

尽管端侧AI前景广阔,但商业化挑战依然明确。对于纯软件或独立端侧模型供应商而言,各大手机与智能硬件厂商普遍倾向于自研或深度定制小模型,独立第三方基座的发展空间容易受到终端厂商防御性策略的挤压。

长远来看,单一依赖端侧或完全依赖云端均非最优解,“端云协同”将是主流形态。随着端侧芯片NPU算力的持续增强与多模态能力的本地下沉,端侧处理高频感知与本地调度、云端支撑复杂推理的分层体系,将推动AI技术真正普惠至每一台硬件终端。

标签:大语言模型AI手机AI智能体边缘计算

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

LoRA 让异步 RL 跨机只传几 MB:一个桶加一个代理,再靠三处设置提速 3.9 倍
置顶

LoRA 让异步 RL 跨机只传几 MB:一个桶加一个代理,再靠三处设置提速 3.9 倍

//

24小时热榜

OpenAI发布Astra for Law:面向法律行业的GPT-6模型
TOP1

OpenAI发布Astra for Law:面向法律行业的GPT-6模型

英王查尔斯召集AI巨头闭门会谈
前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
TOP2

英王查尔斯召集AI巨头闭门会谈

3

Gemini对决GPT-6:差价超90%,开发者该选谁?

4小时前
Gemini对决GPT-6:差价超90%,开发者该选谁?
4

模式的终局:算法如何驯化了我们的创作

4小时前
模式的终局:算法如何驯化了我们的创作
5

vivo AgentOS技术预览版亮相:6000多项原子技能开放调用

12小时前
vivo AgentOS技术预览版亮相:6000多项原子技能开放调用
6

Uber用"错误归属"机制遏制重试风暴,单次事件挡下950万请求

12小时前
Uber用"错误归属"机制遏制重试风暴,单次事件挡下950万请求
7

Bend:用证明拦截AI代码错误,同时支持CPU与GPU

12小时前
Bend:用证明拦截AI代码错误,同时支持CPU与GPU
8

意识变形记:当救世主自愿沦为恶魔

4小时前
意识变形记:当救世主自愿沦为恶魔
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断