一句话理解 HBM
HBM（High Bandwidth Memory，高带宽内存）是一种将多个 DRAM 芯片垂直堆叠在一起、通过硅通孔（TSV）连接的新型内存技术。它的最大特点不是"容量大"，而是"带宽高"——可以在极短的时间内传输海量数据，恰好满足了 AI 大模型训练和推理对"数据高速公路"的极致需求。
如果把传统的 DDR 内存比作一条普通的城市道路，那 HBM 就是一条八车道的高速公路——而且是把几层高速公路摞在一起。
为什么需要 HBM？——"内存墙"困境
AI 芯片（GPU/ASIC）的计算能力增长远超内存带宽的增长速度，这被称为"内存墙"（Memory Wall）。以 NVIDIA 的 GPU 为例：
- H100 的计算能力达到 1979 TFLOPS（FP8），但即使使用最新的 HBM3e，内存带宽也只有 4.8 TB/s
- 大模型训练时，大量时间花在等待数据从内存传输到计算单元，而非实际计算——这就是"数据搬运"瓶颈
HBM 正是为解决这个瓶颈而生：通过缩短物理距离（堆叠）、增加通道数量（1024 位宽总线）、提升传输速度，让数据"离计算更近"。
HBM 的核心技术：TSV 与堆叠
HBM 的三大核心技术支柱：
1. TSV（Through-Silicon Via，硅通孔）：在 DRAM 芯片上钻出微米级的垂直孔道，填充导电材料，实现芯片间的垂直连接。相比传统水平布线，TSV 将数据传输距离缩短到原来的 1/1000，延迟大幅降低。
2. 3D 堆叠：HBM 将 4~12 层 DRAM 芯片垂直堆叠，底部是一颗逻辑芯片（Base Die）负责与 GPU/CPU 通信。HBM3e 标准已支持 12 层堆叠，单颗容量可达 36GB。
3. 中介层（Interposer）：HBM 不能直接焊在电路板上，需要一块硅中介层将 HBM 和 GPU 精密连接。这块中介层本身就是高精度制造——台积电的 CoWoS 封装技术就是其中关键。
HBM 的代际演进
| 代际 | 带宽（单堆栈） | 最大容量 | 堆叠层数 | 量产时间 |
|---|---|---|---|---|
| HBM2 | 307 GB/s | 8GB | 4~8层 | 2016 |
| HBM2e | 460 GB/s | 16GB | 8层 | 2020 |
| HBM3 | 819 GB/s | 24GB | 8~12层 | 2022 |
| HBM3e | 1.2 TB/s | 36GB | 8~12层 | 2024 |
| HBM4 | ~1.6 TB/s | 48GB+ | 16层+ | 2026E |
每一代 HBM 的代际更新，带宽大约翻倍。HBM3e 是目前（2025 年）主流 AI GPU（H200/B200）的标配内存。HBM4 已进入研发阶段，预计在 2026-2027 年量产。
市场格局：三强垄断
全球 HBM 市场被三家韩国公司高度垄断：
SK 海力士（市场份额约 50%+）：HBM 的绝对龙头，2013 年全球首发 HBM，目前独家供应 NVIDIA H100/H200 的 HBM3e。凭借 MR-MUF 封装技术领先三星一代。
三星电子（市场份额约 35%）：DRAM 全球第一，但在 HBM 领域落后海力士。在 HBM3e 上因良率问题被 NVIDIA 认证延迟。正在大力追赶，已获得 B200 部分订单。
美光科技（市场份额约 10~15%）：美国唯一的 HBM 供应商，跳过 HBM3 直接切入 HBM3e，已通过 NVIDIA 认证并供货。
中国大陆在 HBM 领域仍处于追赶阶段，长鑫存储和武汉新芯正在研发国产 HBM，但距离量产还有较大距离。美国对中国大陆的 HBM 出口管制进一步增加了国产替代的紧迫性。
产业链拆解
上游 — 材料与设备：TSV 刻蚀设备（应用材料、泛林、东京电子）、先进封装设备、硅中介层（台积电 CoWoS/英特尔 EMIB）、EMC 环氧塑封料、热界面材料（TIM）。
中游 — HBM 制造（三巨头）：DRAM 芯片制造 + 堆叠封装。核心壁垒在于 TSV 工艺良率、堆叠散热管理、封装技术（海力士 MR-MUF vs 三星 TC-NCF）。
下游 — AI 芯片与服务器：NVIDIA（H100/H200/B200/GB200）、AMD（MI300X）、Google（TPU v5p），以及超大规模云厂商的 AI 服务器。
A 股相关公司
虽然中国大陆企业尚未进入 HBM 核心制造环节，但在产业链配套中有多家上市公司参与：
- 封测环节：长电科技、通富微电、华天科技在先进封装领域有布局
- 材料环节：雅克科技（前驱体）、上海新阳（电镀液）、华海诚科（环氧塑封料）
- 设备环节：中微公司（刻蚀设备）、北方华创（沉积/刻蚀设备）
总结
HBM 是 AI 算力时代的"咽喉"技术——没有足够快的 HBM，再强的 GPU 也无法发挥性能。全球 HBM 市场由韩国双雄+美光垄断，供给持续紧张。中国大陆的 HBM 国产化是半导体自主可控的关键一环，但距离突破还有相当长的路要走。
【勘误与重要补充】
H100 vs H200 内存带宽数据更正:原文"H100 的计算能力达到 1979 TFLOPS(FP8),但即使使用最新的 HBM3e,内存带宽也只有 4.8 TB/s"——张冠李戴。实际:
- H100 SXM5(2022 年发布):FP8 算力 1979 TFLOPS(稀疏),内存带宽 3.35 TB/s(HBM3 80GB 版本)
- H200 SXM5(2023 年底发布):同样 FP8 算力,内存带宽 4.8 TB/s(HBM3e 141GB 版本)
原文把 H200 的 4.8 TB/s 内存带宽当成了 H100 的数据。正确表述应为"H200 的内存带宽达 4.8 TB/s(HBM3e),H100 的内存带宽为 3.35 TB/s(HBM3)"。
本文仅作半导体存储技术科普,提及的全球三强与 A 股相关公司仅作产业格局介绍,不构成对相关股票的评价或投资建议。市场有风险,投资需谨慎。