大模型参数飙升暴露出显存带宽与容量的增长瓶颈,GPU频陷数据等待窘境。传统分层存储因跨层迁移损耗面临失效,软硬件协同的无分层统一架构正在重塑AI基础设施,存力成为决定AI应用上限的核心底座。
在大模型从实验室训练走向产业落地的过程中,显存带宽与容量的线性增长难以追平计算芯片的狂奔速度。过去二十年间,GPU 单精度算力提升了四个数量级以上,但“内存墙”的存在,让越堆越多的算力芯片频繁陷入等待数据的空转状态。
在近日的行业交流中,芯展速副总裁李蓁指出,过去业界注意力长期集中在算力芯片与高速网络上,但随着上下文窗口扩展到百万 Token 级别以及企业级 AI 智能体(Agent)的大规模落地,数据流动的效率正成为新的短板。下一个十年,各方算力差距将逐步收窄,存力的差距将决定谁能跑在行业前面。

早期 AI 存储主要应对模型训练阶段的高吞吐与大容量需求。如今,AI 数据管道已经贯穿数据采集、清洗、训练、检索、推理到反馈的全链路,数据不再是静态资产,而是需要高频流动的生产要素。
运行了数十年的传统分层存储机制,通常根据访问频率把热数据放入高性能介质、冷数据沉降到低成本介质。但在 AI 应用的全生命周期中,同一份数据时而需要极高读写性能,时而需要海量存储,导致数据在不同层级之间反复搬运。
这种跨层搬运带来了显著的性能损耗:数据迁移耗费大量 I/O 资源,GPU 算力长期被闲置,硬件搭建与后期运维的复杂度成倍上升。企业级 AI Agent 对防范幻觉误删和集群可靠性有着严苛要求,碎片化的传统基础设施在总拥有成本(TCO)上已不具优势。
为消除跨层搬运的系统损耗,芯展速与 VAST Data 联合提出了“架构之上无分层”的云端 AI 存储方案。该方案在软件层构建统一数据平台,应用端只需与一套系统、一份数据交互,无需感知底层介质的物理差异。
在底层硬件支撑上,芯展速通过差异化的介质组合提供针对性支撑:
这种设计需要软件系统厂商与底层硬件存储厂商深度协同,由架构定义需求,介质精准承担不同角色,打破以往彼此割裂的状态。
随着大模型逐渐渗透到各类业务场景,以存强算、存算协同成为行业进化的核心底座。行业在未来三到五年内将迎来数据存储的下沉与分化:海量企业与个人业务数据需要在本地完成存储和预处理,边缘与端侧的存算一体将催生新的市场增量。
尽管方向明确,存储架构仍需应对持续的工程挑战。AI 数据体量的膨胀速度远超预期,对介质耐久度与吞吐上限的要求还在抬升,如何在保持架构演进的同时平稳跨越半导体周期波动,将是整个产业链面临的长期考题。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断