AIアクセラレータとは、機械学習・ディープラーニングの学習（Training）および推論（Inference）処理を高速・省電力で実行するために設計された専用半導体チップの総称です。汎用CPU・GPUに対して、行列演算・テンソル演算・スパース演算に特化した演算ユニットと広帯域メモリインターフェースを組み合わせることで、AIワークロードの処理効率を大幅に向上させます。GPU（NVIDIA H100/B200）、クラウド向けASIC（Google TPU・AWS Trainium・Microsoft Azure Maia）、エッジ向けNPU（Apple Neural Engine・Qualcomm Hexagon）が主要カテゴリです。
AIアクセラレータ市場はNVIDIAが圧倒的シェア（2024年時点で約80%）を持ちながら、Google・Amazon・Microsoft・Metaなどハイパースケーラーが内製ASICで独自化を進めています。学習用途ではHBM（高帯域幅メモリ）との組み合わせが必須で、NVIDIA H100はHBM3を80GB搭載しています。推論用途では省電力と小型化が重要で、エッジデバイスへのNPU統合が主流です。チップレット設計（計算ダイ＋I/Oダイの分離）も普及しています。
AIアクセラレータの製造はTSMCのCoWoS（2.5D実装）・InFOなどの先端パッケージング技術と一体で進化しています。TSMC N4/N3ノードで製造されるGPUダイをシリコンインターポーザ上にHBMと並置するCoWoS実装が、高性能AIサーバーの標準構成となっています。2025〜2026年にかけてBlackwell（NVIDIA）・Trainium3（AWS）・TPU v6（Google）の大量生産が進み、TSMC・Samsung Foundryへの需要を押し上げています。asic-vs-fpgaの比較記事も参照してください。