内存瓶颈：AI热潮的悄然重估

AI热潮中，投资者一直盯着算力——英伟达能卖多少GPU？阿里云和腾讯云会花多少钱？数据中心要多少电力？

这个框架已经过时了。

真正卡脖子的，是系统搬运数据的能力。处理器能算得飞快，但模型权重、激活值、以及越来越多的历史token必须及时送到。跑车再快，加油口只有吸管粗细，也跑不起来。

这就是为什么内存从AI故事的配角变成了主角。

这个变化远不止HBM（高带宽内存）。它波及服务器和笔记本里的普通DRAM、固态硬盘里的NAND闪存、先进封装、半导体设备、手机定价、云服务商的利润率、用电量、韩国出口，以及美国的产业政策。

Yield Theory_ 关注市场背后的隐藏约束——从半导体产能到资本流动。用投资逻辑连接技术，但不假装不确定性消失了。_

内存不再是单纯的组件周期。它正在变成AI经济的一张新地图。

不需要工科文凭也能看懂的技术逻辑

计算一直依赖内存层次结构。

最顶层是处理器内部极小极快的缓存。AI加速器旁边是HBM，装着GPU急需的数据。再远一点是普通系统内存，比如DDR5或LPDDR。最底层是NAND闪存，速度慢但便宜得多，容量也大得多。

AI系统的任务就是：在经济允许的范围内，让有用数据尽可能靠近处理器。

HBM靠改变物理设计实现速度。它不再把内存芯片放在电路板窄连接的另一端，而是将薄薄的DRAM裸片垂直堆叠，放在加速器旁边。数千个硅通孔穿过堆叠传递信号，超宽的接口并行搬运大量数据。

HBM4把接口从1024路增加到2048路。美光说一个36GB、12层的HBM4堆叠能提供超过2.8TB/s的带宽。到了完整的GPU层面，英伟达的Rubin设计用288GB HBM4搭配最高22TB/s的带宽——大约是Blackwell的2.8倍。

容量和带宽是两码事。容量告诉你装多少，带宽告诉你跑多快。现代AI两者都需要。

训练时，系统反复搬运模型权重和中间结果。推理时，它必须读取权重，还要维护一个KV缓存——这个缓存记着模型需要的信息，不用每次重新算。更长的上下文、更多的并发用户、以及推理模型，都在加大压力。

有时候AI受限于算力——计算单元是瓶颈。但越来越多的关键负载受限于内存——处理器有空余算力，但拿不到足够快的数据。

这个区别很重要，因为买更快的GPU并不能自动解决内存瓶颈。

一个有用的公式：算术强度

工程师用算术强度来描述这个问题：每从内存搬运一个字节，能执行多少次计算？

假设一个负载每秒可以执行200万亿次操作，但要维持这个速度，每秒必须搬运20TB的数据。它的算术强度就是10次操作/字节。如果机器只提供10TB/s的有效内存带宽，处理器就跑不到200万亿次——最多接近100万亿次，即使理论算力高一倍。

这就是屋顶线模型的思想。实际性能被两个天花板中较低的那个限制：

实际性能 = min(峰值算力, 内存带宽 × 算术强度)

训练中用的大矩阵乘法经常能复用数据，达到较高的算术强度。但逐token推理就没那么友善了：每生成一个token，系统可能得把模型的大部分权重流式搬一遍，每个字节上只做很少的计算。批处理请求能提高复用率，但也会增加内存占用，让用户等批凑够。

经济问题不是单纯的GPU有多快，而是整个系统每花一块钱、每消耗一度电，能产出多少可接受的结果。

KV缓存为什么重要

Transformer推理时，系统会存下之前token的key和value，这样每次生成新token就不用重新算整个对话。这个KV缓存随着层数、序列长度、并发请求数、以及存向量的尺寸和精度一起增长。

简化关系是：

KV缓存 ≈ 2 × 层数 × token数 × KV头数 × 头维度 × 每值字节数

因子2代表key和value。分组查询和多头查询注意力能减少KV头数。低精度格式能减少每值的字节数。两者都能在不改变模型名义参数量的情况下降低内存消耗。

这就让模型架构成为了内存经济学的一部分。两个基准分数差不多的模型，基础设施成本可能差很多。一个服务长时间研究会话、编程智能体或数千并发对话的提供商，可能更关心KV缓存效率，而不是模型质量的一点点提升。

HBM大涨，为什么你的笔记本会更贵

HBM和普通DRAM来自同一条制造基础。它们虽然不能互换，但争夺同样的工程资源、先进工艺产能、洁净室空间和资金。

HBM每比特消耗的晶圆面积也比标准DRAM更大。更大的裸片、垂直堆叠、测试和封装都增加了复杂度。如果高层堆叠里有一层坏了，经济损失可能远超一颗简单的通用芯片。

制造链条解释了为什么供给不能马上跟上：

1. DRAM晶圆在前端工序中加工。
2. 晶圆被减薄，以便多层裸片塞进同一封装。
3. 形成并露出硅通孔，创建垂直电路。
4. 挑选已知合格裸片，因为一层弱片会降低整个堆叠的价值。
5. 键合8、12或16层裸片。对位、翘曲、热应力和微米级连接都会影响良率。
6. 用逻辑基础芯片连接堆叠和加速器封装。HBM4让这层更复杂，也更开放定制。
7. HBM和加速器组装在先进封装上，必须处理密集的信号和集中的热量。
8. 整个封装通过性能、散热、可靠性和兼容性认证。

光增加晶圆产能不能马上多出减薄、键合、测试、封装和客户认证的能力。

良率也在堆叠中放大。举个简化例子：如果每颗裸片有99%的通过率，且失败相互独立，那么12层堆叠在键合和封装前理想化的裸片级良率接近89%。如果每颗裸片降到97%，同样的计算良率就跌到约69%。实际厂商会用已知合格裸片测试和冗余来改善结果，但这个例子说明了为什么小小的工艺改进能带来巨大的经济价值。

因此内存厂商面临抉择：把稀缺的产能用于HBM和服务器产品，还是用于PC、手机、汽车和网络设备里的DRAM？

眼下，AI买家赢了。

TrendForce说，2025年第二季度供应商继续把先进产能转向HBM和服务器内存。它预测普通DRAM合约价格比上季度上涨58%到63%。NAND合约价格预计上涨70%到75%，因为企业级SSD需求吸收了更多供给。

预测可能出错，合约价也和你在店里看到的价格不同。但重要的是看清机制的方向：

1. 云厂商预订更多AI内存。
2. 供应商把更多生产分配给高价值的服务器产品。
3. 留给普通设备的灵活产能变少。
4. PC、手机和工业买家面临更高的组件成本。
5. 他们要么涨价，要么减少每台设备的内存，要么接受更低利润，要么推迟发布。

这就是为什么弗吉尼亚的一个AI数据中心，能影响到越南一部中端手机的材料成本。

价格快速上涨时，设备厂商不光提高零售价。他们可能发一台16GB而不是32GB的笔记本，缩减SSD容量，推迟采购，或者把好规格留给高端机型。单位需求可能减弱，哪怕供应商收入在涨。所以内存上行周期可能对生产商很好，但伤害下游客户，最终摧毁一部分需求。

闪存也加入了战局

HBM又快又稀缺，但也贵得装不下所有东西。

于是AI运营商开始构建新的层级。数据集、模型检查点、向量嵌入和日志已经放在闪存里。现在一部分KV缓存也能在不需要时溢出到下层。

英伟达把这种想法叫做推理上下文内存存储。它的BlueField-4架构把闪存用作昂贵HBM和传统存储之间的高带宽上下文层。目的很简单：保持更多对话状态，而不把GPU内存填满暂时冷却的数据。

这让存储成了推理引擎的一部分。

权衡有点像仓库系统。HBM是工人手边的货架，系统内存是库房，闪存是区域仓库。把东西搬离货架能省下宝贵的空间，但取回来更花时间。好的软件能预测什么东西该留在手边。

延时差距巨大。HBM访问以纳秒计，SSD操作通常以微秒计。1微秒等于1000纳秒。闪存不可能冒充HBM去应付每一步计算都需要的数据。它只适合软件识别出冷却信息、提前搬走、并且避免频繁取回的场景。

关键指标不是SSD的标称顺序吞吐量，而是层次结构的命中率。如果需要的数据已经在HBM里，加速器继续干活。如果反复等下层数据，昂贵的算力就在空转。控制器、缓存算法、互连带宽和工作负载的可预测性，共同决定数据搬移是省钱还是仅仅挪了瓶颈的位置。

这也是为什么赢家可能不限于三大DRAM厂商。随着层次结构扩展，控制器、企业级SSD、网络、封装、测试设备和内存管理软件都变得更关键。

内存周期的形状正在改变

内存曾经是教科书里的商品半导体生意。

价格涨，供应商砸钱建厂。新产能到货时需求已经降温。价格崩盘，库存上升，资本开支停止，然后周期再来一遍。

这个周期没有消失，但三个特点在改变它。

第一，HBM更难制造和认证。客户不能像换标准内存模块那样随便换供应商。内存堆叠、基础芯片、加速器、封装、散热和软件平台需要协同设计和测试。

第二，买家在签更长期的合同。美光2025年6月说，它的战略客户协议通常为期五年，从2026年到2030年。公司预计协议完成后，大约一半甚至更多的收入将来自这些协议。长合同不会消灭周期，但能减少过去周期里突然砍单的残酷。

第三，产品组合在向上走。三星、SK海力士和美光不光卖更多比特，他们卖的是更复杂的封装，带宽更高、逻辑可定制、散热要求更高、与加速器设计方的关系更深。

美光2025财年第三季度业绩展示了经济效应：它报告HBM4已向一个主要客户大量出货，HBM4E在研发中，第六代数据中心SSD量产出货。它的云内存业务当季毛利率达到83%。

这不是普通商品内存的经济学，这是瓶颈的经济学。

为什么HBM收入增速可能超过HBM比特量

内存通常用比特增长来讨论：行业每年多运多少比特。HBM让这个指标复杂化，因为一比特HBM包含的制造内容和销售价值远高于一比特商品DRAM。

供应商获得的报酬不光是存储容量。价格里包含了更大的裸片尺寸、垂直互连、堆叠、散热要求、测试、先进封装、认证风险，以及保证交付到有价值的加速器平台。

所以三个变量很重要：

• 比特增长：运出的内存容量增加量。
• 每比特平均售价：附在该容量上的价格。
• 晶圆产值：把一片晶圆分配给某个产品而不是另一个产品所获得的收入。

第三个变量驱动生产决策。TrendForce报道说，2026年初服务器DDR5价格快速上涨，使其利润率超过了HBM——这是一个不寻常的反转。供应商在谈2027年HBM合同时，会要求足够高的价值，才能把稀缺的晶圆、工程师和封装产能从越来越赚钱的标准产品那里挪过来。

因此产能分配就像一场移动的拍卖：在HBM、服务器DDR5、AI CPU和设备用的LPDDR、以及专用内存之间不断权衡。它跟着预期回报走，受限于技术能力和已有的客户承诺。

内存如何牵动整个世界

这条链条同时触及经济的多个部分。

云经济

内存容量影响一块GPU能服务多少用户、能维持多长的上下文。更多HBM能提高吞吐量，但也增加每个加速器的成本和功耗。云厂商必须通过更高的利用率、更低的每token成本或更高的定价来收回投资。

考虑一个简化的推理服务器。如果它的加速器价值数百万美元，运行三年，那么每个百分点的利用率都会改变有多少付费token来分摊固定成本。内存瓶颈让处理器空等，就降低了整台机器的创收能力。加昂贵的内存可能是理性的——如果它能允许更多并发用户，或者为相同服务水平减少加速器数量。

云厂商优化的是总拥有成本，而不是组件单价。他们把加速器成本、内存、网络、存储、电费、冷却、软件效率、利用率和有用产出统合考虑。最便宜的内存配置可能产生最贵的token——如果它让系统其余部分闲置的话。

功耗与散热

搬运数据消耗能源。更宽、更近的内存能降低每比特能耗，但AI总需求增长太快，系统功耗仍在上升。HBM堆叠还把热量集中在已经很热的加速器旁边。散热、供电和封装变成了同一个设计问题。

数据搬运消耗的能量可能超过计算本身——尤其是当信息要跑到芯片外或跨机架时。HBM通过把内存放近加速器并用数千条并行连接来帮忙。但每搬运比特的能耗降低，可能被搬运总比特数的增长压倒。更高效降低推理成本，低成本刺激更多使用，总用电需求还是可能增加。

消费电子

如果AI服务器跟消费产品抢DRAM和NAND，设备厂商要么多掏钱，要么妥协。高端产品能吸收成本，低利润的PC和手机不行。这造成一种不均匀的技术税，最终最沉重的负担落在便宜产品上。

产业政策

内存制造集中在韩国和美国——三星、SK海力士和美光把控着最先进工艺。这让内存产能既成了国家安全问题，也成了商业决策。芯片厂补贴、出口管制、设备准入和封装产能，现在都影响着AI行业的供给。

贸易与市场

对韩国来说，内存上行周期能提振出口、企业利润、资本开支和股市。对美国来说，美光的扩张把AI需求连接到建筑和制造业投资。对内存进口国来说，更高的组件价格会恶化贸易账单，给硬件通胀加一把火。

半导体其他部分

内存繁荣把需求引向沉积、刻蚀、键合、检测、测试、基板和先进封装。它也可能在其他地方造成稀缺——一条用于高价值产品的晶圆厂工具或封装线，就不能同时服务另一个产品。

因此AI交易不是一条从云支出到GPU收入的直线，而是一张物理约束的网络。

投资者的陷阱：把稀缺当永久

每次短缺都会催生一个故事，说明为什么短缺会永远持续。

内存投资者应该抵制这个故事。

高价吸引资本。良率改善。新工厂投产。客户重新设计系统，用更少昂贵组件。软件团队压缩模型、量化权重、更高效复用KV缓存、把冷却数据推到更廉价层级。竞争对手推出新产品认证。

HBM也有集中度风险。一个内存供应商可能只依赖少数几个加速器客户。错过一次认证窗口，可能让未来数十亿美元的收入另流他处。下一个英伟达或定制ASIC平台如果延期，会沿着整个链条逆向传导。

最后，AI需求本身必须产生收入。如果客户不愿意为推理付足够的钱，云巨头即使技术完美也可能放慢资本开支。

内存投资最强大的论点不是“价格只涨不跌”，而是：

AI提升了数据搬运的战略价值，而行业需要多年艰苦的工程和资本投入才能扩大它。

这能支撑比旧商品周期更长久的好经济，但不能消灭供需规律。

接下来看什么

忽略最响亮的标题，盯着管道。

HBM4认证和良率：宣布样品不等于生产数百万可靠堆叠。关注量产出货、客户认证和良率改进。

HBM与普通DRAM经济性的差距：供应商把晶圆分配给回报最好的产品。如果服务器DDR5比HBM更赚钱（像TrendForce在2026年初报道的），产能决策可能再次转向。

长期合同的质量：数量承诺、最低价格、预付款和取消条款比“售罄”这两个字重要得多。

普通DRAM和NAND价格：这能揭示AI需求是否真的在挤压市场其他部分，还是供给正在赶上。

企业级SSD需求：闪存变成活跃的上下文层，会扩大AI内存交易的范围，超过HBM。

云巨头的资本开支和利用率：硬件订单最终必须连接到有用且付费的工作负载。

资本密集度：收入可能上升，但自由现金流可能不及预期——如果工厂和封装扩张吞掉太多现金。

一个精简的内存周期仪表盘

按季度跟踪，区分需求、供给和经济。

没有一个单独的数字能定论。涨价但比特出货量弱，可能意味着稀缺。出货量强但价格暴跌，可能意味着过剩。会计利润上升但自由现金流为负，可能意味着生产商正在用未来的回报满足今天的需求。

真正的瓶颈是搬运

AI的流行画面是一颗巨大处理器在运算不可能之数学。

更有用的画面是一条供应链在跨越距离搬运信息：从闪存到系统内存，到HBM，到GPU，穿过机架，跨过数据中心。

每一步都消耗时间、电力和金钱。

这就是为什么内存现在牵动一切。它决定模型反应多快，服务器能服务多少客户，数据中心消耗多少电力，晶圆厂生产什么芯片，笔记本卖多少钱，政府把钱补贴到哪里，以及谁能从利润池里分一杯羹。

算力仍然重要。但在AI的下一阶段，赢家可能取决于谁能持续喂饱算力。