一言で言うと「HBM（High Bandwidth Memory）とは、DRAMチップを縦に積み重ねてTSV（貫通電極）でつなぎ、超広い帯域幅でデータを高速転送するメモリ技術」です。AI学習に使われるNVIDIA H100・H200に搭載されており、通常のDDRメモリの数十倍の帯域幅を持ちます。HBM2E・HBM3・HBM3E・HBM4と世代が進むたびに帯域幅が向上しています。
HBM（High Bandwidth Memory）は、複数のDRAMダイをTSV（シリコン貫通電極）で垂直に積層し、広帯域幅・低消費電力のメモリアクセスを実現する高性能3次元メモリ技術です。一般のDDRメモリに比べて格段に広いバス幅（1024〜2048bit）を持ち、AIサーバー・GPU・HPC（高性能コンピューティング）向けアクセラレータに欠かせない存在です。
HBMは規格の世代ごとに帯域幅が向上しています。HBM（第1世代、2013年）→HBM2（128GB/s/stack）→HBM2E→HBM3（最大819GB/s/stack）→HBM3E（最大1TB/s以上）と進化しています。NVIDIA H100はHBM3を80GB搭載し、3.35TB/sの総帯域幅を実現しています。
HBMは複数のDRAMダイ（4〜12枚）をTSVで積層し、その下にベースダイ（Logic die）を接続したスタック構造です。このメモリスタックとGPU（またはSoC）をシリコンインターポーザ上に横並びに搭載し、マイクロバンプで接続する「2.5D実装（CoWoS）」がほぼ標準的な実装方式です。インターポーザを介することで、GPU-HBM間の信号伝達距離を最短化しています。
HBMの主要メーカーはSK Hynix（市場シェア約50%、HBM3Eで先行）、Samsung Electronics、Micron Technologyの3社のみです。NVIDIA・AMD・Intelのアクセラレータ向けHBM需要が急拡大しており、2024〜2025年にかけてHBM供給が需要に追いつかない「HBM不足」が問題となっています。
HBMの製造にはTSV形成・ウェハ薄型化・マイクロバンプ接合・ハイブリッドボンディングなどの先端後工程技術が必要です。関連装置メーカーとして、TSV成形にLam Research・Applied Materials、マイクロバンプ接合にASMパシフィック・Besi・東レエンジニアリング、ウェハ研削にDISCOなどが深く関与しています。