前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
算力芯片/10.21 · 11:33/5 MIN/编译自 Leo张ToB杂谈/1 阅读

算力瓶颈转移:AI集群真正较量在互连芯片

AI数据中心正面临算力利用率不足的尴尬,网络通信耗时占比高达30%至50%。随着万卡集群与MoE架构普及,互连芯片正从配套走向核心。800G时代来临,网络架构、协议硬件化与形态集成成为释放算力的关键。

AI数据中心网络互连

虽然芯片产能依旧偏紧,但这已不再是制约AI算力发展的最大阻碍。在不少数据中心里,即便GPU到位、电力充足,集群利用率却依然跑不满。

中国信通院数据显示,在大规模分布式训练中,网络通信耗时占比高达30%到50%。这意味着企业高价采购的GPU,有近半时间都在等待数据。当前国内Token实际流通效率仅约60%,剩余40%因网络丢包、时延抖动与数据损耗被白白浪费。

芯片越多,通道越窄

行业数据显示,整个集群真正能释放出的算力,大部分不超过50%,较好的方案也仅在60%至70%左右。超过一半的算力投资,实际上处于低效运转状态。

瓶颈出在数据传输通道上。过去几年,行业焦点始终集中在算力芯片的制程与浮点算力上。但当集群规模从千卡迈向万卡、十万卡,芯片间的数据交换量呈指数级攀升,负责调度数据的互连芯片开始走向台前。

市场调研显示,AI数据中心网络市场规模正以超过24%的复合年增长率快速扩张。在整机成本中,互连芯片的价值占比约在8%到9%,且这一比重随节点规模扩大而持续上升。据测算,国内互连芯片的年市场规模已达到千亿元量级,过去该领域几乎完全被海外厂商把持。

英伟达的核心壁垒不仅在于GPU本身,其自研的NVLink、NVSwitch以及InfiniBand标准构成了闭环生态。面对这种竞争,开放生态阵营必须通过组织PCIe、CXL、UCIe、UALink等标准来支撑更大规模的节点,用互连层面的系统效率弥补单卡代差。

以超节点架构为例,当数十颗乃至上百颗GPU组成统一计算池时,卡间通信带宽需求从数百GB/s跃升至TB/s级别,时延被压缩至微秒级。网络拓扑中任意节点的微小拥塞,都会在算法层面引发连锁反应,造成全局降速。

拥塞控制“硬化”入芯

单纯拓宽物理通道已无法彻底解决堵塞问题,互连架构需要更智能的底层调度机制。

以往以太网采用“尽力而为”的传输机制,拥塞控制与丢包重传依赖上层软件协议处理。但在大规模AI训练中,数万张卡需要微秒级协同,软件协议的响应延迟往往会导致大规模算力停滞等待。

因此,新一代互连芯片开始将拥塞控制、多路径选择和选择性重传等功能直接集成进硬件电路。通过芯片级硬件调度,数据在发出的瞬间即可动态规划路径、规避拥堵,将事后重传转变为实时预判。

此外,硬件形态的集成也是重要方向。例如将原本独立的PCIe Switch直接集成进网卡中,不仅减少了服务器主板上的元器件数量,更缩短了物理链路,降低插入损耗,显著改善了信号质量并压缩了传输时延。

在考量网络效能时,“面效比”(单个网络平面可承载的算力规模)与能耗成为关键指标。下一代交换芯片功耗预计将高达2000瓦左右,局部发热严重,互连架构的设计不仅决定了数据效率,也直接影响到数据中心的供电与散热成本。

迈向800G时代

随着大语言模型迈向万亿参数,MoE架构带来了密集的All-to-All通信需求,长上下文窗口也大幅推高了KV-Cache传输量。分布式训练中“计算-通信”的交替节奏,使任何网络延迟都会被万卡规模成倍放大。

在万卡集群中,单卡400G带宽需要堆叠海量的交换机与光模块;而升级到800G速率后,相同规模集群的物理链路数量可缩减一半,兼顾了时延、布线成本与功耗。当前主流AI服务器已将800G网卡作为标配。

但速率翻倍伴随着严苛的工程挑战:

  1. SerDes设计难度陡增:800G单端口依赖112Gbps PAM4调制,高频信号在电路板上的衰减与串扰达到极限,对链路完整性提出极高要求。
  2. 功耗压力严峻:传统800G光模块功耗占比居高不下,推动光电共封装(CPO)等新技术加速替代传统可插拔光模块,以实现显著节能。
  3. 总线协同匹配:800G网卡需要搭配PCIe Gen6等高规格总线平台,才能彻底消除主机侧的吞吐瓶颈。

当前,AI网络演进呈现出协议硬件化、形态集成化以及兼顾InfiniBand与UEC以太网生态的多元化特征。AI算力基础设施的竞争,已从单纯比拼GPU峰值算力,转变为比拼数据在集群间流动的系统级互连效率。

标签:AI芯片数据中心

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

AI逆向工具REA爆火,开发者抱团打响代码保卫战
TOP1

AI逆向工具REA爆火,开发者抱团打响代码保卫战

影视行业狂卷AI:有人陪老板搓玩具,有人算账九成亏损
TOP2

影视行业狂卷AI:有人陪老板搓玩具,有人算账九成亏损

3

黑芝麻智能斩获3亿元订单,AI计算业务突破汽车边界

22小时前
黑芝麻智能斩获3亿元订单,AI计算业务突破汽车边界
4

奥斯卡得主鲍德熹携手爱奇艺,打造国内首个AI剧场

23小时前
奥斯卡得主鲍德熹携手爱奇艺,打造国内首个AI剧场
5

Agentic Cloud时代:云厂商的资本效率大考

2小时前
Agentic Cloud时代:云厂商的资本效率大考
6

FDA批准葛兰素史克首款乙肝ASO药物

5小时前
FDA批准葛兰素史克首款乙肝ASO药物
7

具身智能卡在哪:大模型解决不了物理世界的行动

21小时前
具身智能卡在哪:大模型解决不了物理世界的行动
8

迦智科技赴港IPO:累计亏损超6亿,股权转让多档定价引关注

23小时前
迦智科技赴港IPO:累计亏损超6亿,股权转让多档定价引关注
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断