Verdict結論
CoWoS與SoIC最大的差異在於「晶片是橫向並排還是垂直堆疊」。CoWoS是在矽中介層上橫向配置多顆晶片的2.5D技術,以25~40μm間距的微凸塊連接。SoIC是將晶片直接垂直堆疊的3D技術,透過Cu-Cu直接接合(混合鍵合)實現3~9μm的微細無凸塊連接,晶粒間頻寬可達CoWoS的數倍。
主要差異
| 比較面向 | CoWoS | SoIC |
|---|---|---|
| 堆疊方式 | 2.5D(矽中介層上橫向並排) | 3D(晶片直接堆疊・面對面/面對背) |
| 接合技術 | 微凸塊(Cu柱+焊料) | 混合鍵合(Cu-Cu直接接合) |
| 連接間距 | 25~40微米(依CoWoS-L/R/S而定) | 3~9微米(微細無凸塊) |
| 頻寬(相對比較) | 經由HBM達到高頻寬(晶粒間為一般導線) | 晶粒間直接接合,超高頻寬(CoWoS的數倍) |
| 主要用途 | AI GPU+HBM橫向並排(NVIDIA H/B系列) | CPU+GPU直接堆疊(Apple M系列、AMD) |
| 代表採用產品 | NVIDIA H100/B200、Broadcom AI ASIC | Apple M4 Max/Ultra、AMD 3D V-Cache |
| 晶粒尺寸限制 | 大型中介層可容納大面積(超過1000mm2) | 上下晶粒尺寸需互相配合 |
| 電源・散熱管理 | 經由中介層,電源路徑相對容易 | 堆疊導致熱阻增加,供電是一大課題 |
| 製造成本 | 高(矽中介層+CoWoS製程) | 極高(混合鍵合精度要求) |
| 台積電產品變體 | CoWoS-S(矽)/R(RDL)/L(Local) | SoIC-X(面對面)/SoIC-P(堆疊) |
AI GPU選擇CoWoS的原因
輝達的H100/H200/B100將GPU晶粒與HBM3/HBM3E橫向並排配置,因此大面積矽中介層的CoWoS最為合適。HBM堆疊以TSV進行堆疊,而與其連接的GPU之間,則透過CoWoS的RDL實現超高頻寬。CoWoS-L可搭載多個HBM堆疊(B200為8個堆疊=144GB),確保AI訓練所需的超大容量・超高頻寬記憶體。
蘋果與超微選擇SoIC的原因
Apple M系列採取將CPU、GPU與Neural Engine整合在同一矽晶片上的策略,因此以SoIC進行3D直接堆疊,將晶粒間延遲降至最低。超微在EPYC「3D V-Cache」中以SoIC堆疊L3快取晶粒,實現最大192MB的快取,大幅提升伺服器的運算密度。SoIC的混合鍵合連接間距為3~9微米,相當微細,單位面積連接密度是傳統覆晶的10~100倍。
常見問題
CoWoS與SoIC是互相競爭的技術嗎?
兩者並非競爭,而是互補關係。CoWoS擅長橫向(2.5D)配置,最適合大型AI加速器;SoIC以垂直(3D)直接堆疊,最適合CPU+快取、CPU+GPU的緊密耦合。台積電依客戶需求提供兩種技術,未來也規劃結合CoWoS+SoIC(3.5D封裝)。
為什麼SoIC的成本比CoWoS高?
SoIC採用混合鍵合(Cu-Cu直接接合),因此需要奈米級精度的晶圓表面平坦化與接合設備。必須使用EVG、SUSS MicroTec等廠商的晶圓接合機進行超精密對準,一旦出現不良品,上下兩顆晶粒都必須報廢,良率成本也高。CoWoS則是以微凸塊進行覆晶接合,量產實績豐富。
英特爾的Foveros與台積電的SoIC有何不同?
兩者都是採用Hybrid Bonding的3D晶片堆疊技術,但英特爾的Foveros在英特爾自有晶圓廠製造,在自家製造的基底晶粒上進行堆疊。台積電的SoIC則作為晶圓代工服務,可堆疊客戶自行設計的晶粒,這一點有所不同。正如蘋果與超微採用SoIC,台積電已將此技術廣泛開放給客戶使用。