GPU（Graphics Processing Unit）是將數千～數萬個小型運算核心平行配置，以超高速處理矩陣運算與向量運算的半導體晶片。原本是作為3D圖形算繪專用處理器而開發，但與深度學習（Deep Learning）訓練與推論所需的大規模矩陣運算極為契合，已演進為AI時代的核心運算元件。
輝達（NVIDIA）、超微（AMD）、英特爾（Intel）是主要的GPU供應商。NVIDIA H100（超過800億個電晶體、4nm、台積電製造）與B200/B100在資料中心AI加速器市場擁有超過80%的市占率。透過CUDA（Compute Unified Device Architecture）生態系，與深度學習框架（PyTorch、TensorFlow等）深度整合，軟體資產支撐著NVIDIA的競爭優勢。
GPU製造必須結合最先進的邏輯製程（3nm～5nm）與高頻寬記憶體（HBM）。NVIDIA H100採用台積電4N製程並搭載HBM3，實現3.35TB/s的記憶體頻寬與989TFLOPS的FP16運算性能。次世代B200則採用台積電4NP2製程與HBM3e，推論性能進一步提升。
功耗持續增加的GPU（H100：700W，B200：超過1000W）使支撐它的資料中心基礎設施電力需求也急速擴大，直接帶動GaN與SiC功率元件、液冷系統（Direct Liquid Cooling）與電源管理IC（PMIC）的需求增加。NVIDIA每1季向台積電下單的晶圓量，規模大到足以直接左右EUV曝光機的稼動率。
在AI推論的邊緣部署方面，行動GPU（Qualcomm Adreno、Apple GPU）、內建NPU的SoC、專用AI加速器（Google TPU、Amazon Trainium/Inferentia）之間的競爭與互補關係也在發展。GPU用HBM的主要供應商為SK海力士（市占率約50%）、三星、美光3家，HBM的供應限制持續制約GPU整體出貨量。