人工智慧(AI:Artificial Intelligence)是以在電腦上重現、模仿人類智慧行為(推理・學習・辨識・判斷)為目的之技術與研究領域的總稱。近年來,從大量資料中自動學習特徵與模式的機器學習(Machine Learning),以及其中採用多層類神經網路的深度學習(Deep Learning)發展特別迅速,催生了影像辨識、自然語言處理、語音辨識、生成式 AI 等眾多實用應用。
支撐 AI 快速發展的,是 GPU(圖形處理器)與 AI 加速器(TPU、NPU 等)的演進。這類晶片採用以大規模平行方式處理矩陣運算的架構,針對深度學習的訓練與推論進行了最佳化。輝達(NVIDIA,H100、B100)、Google(TPU v5)、超微(AMD,MI300)等廠商供應主要的 AI 晶片。
AI 晶片的製造少不了最先進的半導體製造技術。NVIDIA H100 採用台積電(TSMC)的 4nm 製程製造,整合了超過 800億個電晶體。與高頻寬記憶體(HBM)的 3D 堆疊、小晶片(Chiplet)架構(多顆裸晶的 2.5D 封裝)等封裝技術的創新,也對效能提升有所貢獻。
在半導體晶圓廠中,AI 同樣扮演重要角色。在製程控制(APC:Advanced Process Control)中導入機器學習、以 AI 分析缺陷檢測影像、建立良率預測模型等應用皆已實用化,直接有助於提升製造效率與品質。
隨著 AI 普及,資料中心耗電量增加已成為社會課題,低功耗 AI 晶片(邊緣 AI 用 NPU 等)以及神經形態運算(neuromorphic computing)的研發也日趨活躍。AI 相關基礎設施的電力需求,也帶動了 GaN・SiC 功率元件需求的擴大。