Verdict結論
HBM2E與HBM3最大的差異在於「頻寬幾乎提高為2倍」。HBM2E最高3.6Gbps/pin、1個堆疊460GB/s、容量16GB（8Hi），搭載於NVIDIA A100。HBM3提升到6.4Gbps/pin、819GB/s、24GB（12Hi），搭載於H100。HBM3E更達到8Gbps/pin、1.2TB/s、36GB，支撐H200與B100的頻寬。
主要差異
| 比較面向 | HBM2E | HBM3 |
|---|---|---|
| JEDEC標準 | JEDEC HBM2E（JESD235C） | JEDEC HBM3（JESD238） |
| 單腳位頻寬 | 最高3.6 Gbps/pin | 最高6.4 Gbps/pin（HBM3E: 8 Gbps/pin） |
| 單堆疊頻寬 | 最高460 GB/s（1個堆疊） | 最高819 GB/s（1個堆疊）（HBM3E: 1.2 TB/s） |
| 容量（最大） | 16GB（8Hi堆疊） | 24GB（12Hi）／HBM3E: 36GB（12Hi） |
| I/O腳位數 | 1024腳位（128位元×8通道） | 1024腳位（相同架構但頻寬提高） |
| 製造節點 | 約20nm世代DRAM | 約10nm第5代DRAM（SK海力士1αnm等） |
| 主要採用GPU | NVIDIA A100（80GB HBM2E）、AMD MI250X | NVIDIA H100（80GB HBM3）、AMD MI300X |
| 供應廠商 | SK海力士・美光・三星 | SK海力士（領先）、美光・三星（跟進） |
HBM3E與HBM4：邁向更新一代的演進
HBM3E是HBM3的強化版，將腳位速度提高到8 Gbps/pin，實現每1個堆疊1.2 TB/s的頻寬。它搭載於NVIDIA H200（141GB HBM3E）以及Blackwell架構的B100/B200（最高192GB HBM3E）。下一代HBM4的目標是腳位速度超過12 Gbps/pin、每堆疊容量32～64GB，特色是TSV間距進一步微縮，以及整合邏輯晶粒（HBM4+控制器）。預計2025～2026年開始量產。
AI需求讓HBM市場急速擴大的背景
訓練大型語言模型（LLM）需要能高速讀寫數百億～數兆個參數的記憶體頻寬。NVIDIA H100搭載6個HBM3堆疊，總頻寬3.35 TB/s，約為A100（2 TB/s）的1.7倍。HBM市場由SK海力士、美光、三星這3家供應，其中SK海力士在HBM3/HBM3E上領先，並強化與NVIDIA的關係。在HBM4的量產上，與台積電HBM用封裝（CoWoS等）的整體最佳化成為競爭焦點。
HBM與一般DRAM的差異
一般的DDR5 DRAM配置在與CPU/GPU不同的基板上，透過PCIe/記憶體匯流排連接。HBM則堆疊在與GPU晶粒相同的封裝內（CoWoS等的中介層上），以數千根TSV做超短距離連接。這種結構差異造成DDR5（最高約100 GB/s）與HBM3的3.35 TB/s（H100合計）之間數量級的頻寬差距。
常見問題
HBM2E與HBM3最大的差異是什麼？
最大的差異是頻寬。HBM2E每腳位最高3.6 Gbps、1個堆疊460 GB/s，HBM3則是最高6.4 Gbps、1個堆疊819 GB/s，提升約1.8倍。同時容量也從HBM2E的16GB增加到HBM3的24GB（12Hi堆疊）。因此NVIDIA H100相較A100頻寬提高1.7倍（3.35 TB/s），在維持相同容量的同時大幅提升AI訓練效能。
HBM3E與HBM3的差異是什麼？（HBM3E是什麼）
HBM3E是HBM3的擴充版（Enhanced）。腳位速度從HBM3的6.4 Gbps提高到8 Gbps，1個堆疊頻寬最高達1.2 TB/s。容量也從HBM3最高24GB增加到HBM3E最高36GB（12Hi）。搭載於NVIDIA H200（141GB、8個堆疊）與Blackwell B100/B200。SK海力士率先量產HBM3E，供應給NVIDIA與AMD。
HBM4是什麼？何時量產？
HBM4是HBM的第4代標準。目標規格為腳位速度超過12 Gbps、單堆疊容量32～64GB，頻寬預期約為目前HBM3E的1.5～2倍。最大的變化是在基底晶粒整合邏輯功能的「HBM4+控制器」架構，可望大幅提升I/O效率。SK海力士、美光、三星的目標是在2025年下半年～2026年量產。
有哪些廠商在製造HBM？
目前HBM由SK海力士（韓國）、美光（美國）、三星（韓國）這3家製造。在HBM3方面，SK海力士市占率約50%以上，是NVIDIA HBM3/HBM3E的主要供應商。美光在2024年開始量產HBM3E，三星也在爭取HBM3E的供貨認證。在HBM4上，與台積電CoWoS製程的共同最佳化是競爭關鍵。
AI伺服器的GPU會搭載幾個HBM堆疊？
代表性的規格如下。NVIDIA A100：6個堆疊 HBM2E（合計80GB、2 TB/s），H100 SXM5：6個堆疊 HBM3（合計80GB、3.35 TB/s），H200 SXM5：6個堆疊 HBM3E（合計141GB、4.8 TB/s），B200 SXM：8個堆疊 HBM3E（合計192GB）。堆疊數、世代與容量直接關係到GPU的AI訓練效能。
HBM與GDDR6的差異是什麼？
GDDR6是用於NVIDIA遊戲GPU（RTX系列）等的繪圖DRAM，以獨立晶片的形式安裝在PCB上。每顆GPU的頻寬約500～1000 GB/s。HBM則用於AI資料中心GPU，因為堆疊在同一封裝內，可實現3～5 TB/s這種高出一個等級的頻寬。成本方面HBM高出許多，GDDR6則在成本與PCB安裝容易度上占優勢。