从模型训练走向智能体落地：AI推理时代CPU如何重构算力

当行业狂热于大模型训练阶段的算力军备竞赛时，一场更为深刻的重心迁移正在悄然发生：AI已经从回答问题走向解决问题，从单纯的模型训练走向复杂的智能体推理。

如果说训练阶段是GPU追求极致吞吐的大兵团作战，那么推理与智能体时代则是一场需要精密调度的现代化协作。在英特尔Connection大会上，英特尔指出：推理时代，CPU正从“配角”蜕变为整个系统的控制中枢。

数字AI：智能体规模化，CPU为何重回核心？

理解CPU角色的转变，核心在于厘清智能体执行与传统模型训练的本质差异。

模型训练属于标准化、可高度并行的批量任务，目标是极致提升整体吞吐量；而AI智能体是典型的串行状态机，每一步任务执行都依赖上一步的输出结果。这意味着任意环节的微小延迟都会在链路上层层放大。传统CPU追求平均吞吐的优化思路已然不够，稳定、可控且极低的端到端延迟成为了刚性约束。

此外，高并发工具调用与高带宽AI推理任务常需在单芯片内混跑，对内存资源产生冲突，加上多租户安全隔离需求，传统架构亟待升级。

英特尔给出的解法是系统级重构。英特尔数据中心集团副总裁、中国区总经理陈葆立指出，未来数据中心将被划分为三类集群：

1. 负责智能体执行和任务编排的CPU集群；
2. 负责模型推理计算的GPU集群；
3. 承载长对话、文档等持续新增业务数据的存储集群。
   三类集群之间的数据调度，全部由CPU承担完成。

在硬件层面，采用Intel 18A制程、最高拥有288个能效核的至强6+处理器配合智能体套件，单颗可部署近千个智能体。测试显示，在SWE-bench测试中其单智能体性能领先竞品15%；在云端沙箱场景下，面对10分钟内启动上万沙箱且单沙箱延迟低于200ms的严苛测试，至强6+支持350个沙箱并发，性能达竞品的1.46倍。

此外，CPU在三个关键节点扮演着不可替代的角色：

• 异构数据预处理：智能体抓取网页、视频、PDF等素材的文本提取并非GPU强项，至强AMX加速器让向量化和重排序性能分别提升至基准的2倍和4倍；
• 存储调度：CPU负责平衡从HBM、DRAM到本地SSD的层级存储，在MLPerf Storage v3.0基准测试中拿下Llama3检查点读写和3D-Unet训练两项全球第一；
• KV Cache管理：面对百万Token上下文带来的数百吉字节内存压力，英特尔通过QAT实现无损压缩，将300GB原始数据压至200GB，并借助DSA引擎将数据搬运加速最高达9.66倍。

物理AI：单芯片破局具身智能的感知与控制

如果数字AI的战场在云端，物理AI的征途则在现实世界。让机器人做精密操作，核心难点在于动态环境下的实时感知与精准控制。

第三代酷睿Ultra给出的方案是“大小脑融合”。通过XPU异构架构，推理决策与实时运动执行被整合到单颗SoC上：

• CPU担当“小脑”：以4kHz控制频率每秒完成4000次动作微调，确保关节电机精准响应；
• GPU承载决策推理：Pi0.5精度下推理延迟仅78毫秒，大幅优于人类视觉200-250毫秒的生理反应时间；
• NPU负责视觉感知：YOLOv12n推理仅需3.55毫秒，每秒处理约280帧，突破了传统60帧摄像头的感知瓶颈。

单芯片整合不仅避免了多计算单元协同带来的响应延迟和协同偏差，还显著降低了具身智能硬件的运行功耗与物料成本。

面对当前世界模型与VLA等多种演进路线并存的现状，英特尔并未押注单一算法范式，而是提供开放的底层架构支持快速迭代。目前，英特尔已联合科通工业、神州数码等伙伴推出开发套件，并在制造、物流、医疗等场景推动量产验证，其具身套件已计划正式上线供开发者使用。

在AI从“算得快”转向“干得了活”的当下，算力版图正在重新洗牌：GPU负责纯粹的深度算力输出，而CPU与异构芯片则牢牢掌控着系统调度、串行控制与任务落地的关键命脉。