HBM3E與HBM4最大的差異在於「頻寬與堆疊層數」。HBM3E為9.6Gbps/pin、1個堆疊最大1.2TB/s、12H(12層)堆疊,是搭載於NVIDIA H200與B200的2024~2025年主流世代。HBM4是以16Gbps/pin、2.0TB/s以上、16H以上為目標的次世代規格,預計於2025~2026年開始量產。
主要差異
| 比較面向 | HBM3E | HBM4 |
|---|---|---|
| JEDEC規格世代 | HBM3E(HBM3的擴充版) | HBM4(新規格) |
| 腳位頻寬/堆疊 | 最大1.2TB/s(SK 海力士 Shinebolt) | 最大2.0TB/s以上(目標值) |
| 腳位速度 | 9.6Gbps/pin | 16Gbps/pin(目標) |
| 最大堆疊層數 | 12H(12層DRAM) | 16H以上(規劃中) |
| 容量/堆疊 | 24GB(12H×2GB) | 32~48GB(規劃中) |
| 基底晶粒 | 與DRAM相同製程節點 | 改為邏輯晶粒(委託台積電/三星晶圓廠製造) |
| 主要採用GPU | NVIDIA H200・B200・B100 | NVIDIA Rubin(預計2026年)・次世代AMD |
| 供應廠商 | SK 海力士(主力)・美光・三星 | SK 海力士(領先)・三星・美光(2026~) |
| 封裝 | 台積電的CoWoS-L(HBM堆疊橫向配置) | CoWoS-L擴充・支援新型中介層 |
| 量產時程 | 2024年Q1~(SK 海力士領先) | 2025年下半年~(SK 海力士領先量產) |
HBM4最大的變革:基底晶粒邏輯化
HBM4最重要的變更,是基底晶粒(底部的I/O控制晶粒)從DRAM製程改為以邏輯製程(台積電N5/N4或三星SF4等)製造。如此一來,GPU端的記憶體控制器可與HBM堆疊內的邏輯直接整合,進而提升PHY介面效率、降低功耗並加入客製化功能。輝達、超微等GPU廠商將自有規格的HBM4基底晶粒委託台積電等廠商製造,再與HBM廠商的產品結合,形成全新的分工模式。
對AI GPU開發路線圖的影響
輝達在Blackwell(B200)採用HBM3E×8個堆疊(最大192GB・8TB/s),並規劃於次世代Rubin(2026年)轉向HBM4。頻寬倍增可緩解對GPU運算單元的資料供給瓶頸,直接提升LLM(大型語言模型)的訓練・推論效能。先進封裝(CoWoS)設備需求也將增加,ASMPT、Besi等接合機廠商可望受惠。
製造供應鏈的變化
到HBM3E為止,基底晶粒都在SK 海力士或美光的自有晶圓廠製造,但HBM4的邏輯基底晶粒則規劃委託台積電(N5/N4)、三星(SF4)製造。這是因為DRAM廠商不具備先進邏輯製程,此舉將進一步帶動EUV曝光機、ALD設備等先進前段製程設備的需求。