NPU(Neural Processing Unit:ニューラルプロセッシングユニット)は、ディープラーニングの推論処理に特化した専用プロセッサです。行列演算・畳み込み演算を超並列で処理するアーキテクチャを持ち、CPU/GPU比で演算効率(TOPS/W)が10〜100倍以上高い点が特徴です。スマートフォン・タブレット・PC・車載ECUなどのエッジデバイスにSoCの一部として組み込まれ、カメラAI処理・音声認識・自然言語処理・生体認証をリアルタイムかつ低消費電力で実行します。
NPUの代表的な製品として、Apple Neural Engine(A/M-seriesチップ搭載、最大38TOPSのA17 Pro)、Qualcomm Hexagon NPU(Snapdragon 8 Gen 3搭載)、MediaTek APU(Dimensityシリーズ搭載)、Google Tensor G3(Pixel搭載)があります。スマートフォン向けSoCでは2017年前後からNPUの搭載が標準化し、各社の差別化要素となっています。車載分野ではNVIDIA DRIVE・Mobileye EyeQ・ルネサスV4Hなどにも搭載されています。
NPUの製造はTSMCの先端プロセス(3nm・4nm)を中心に行われており、微細化によるトランジスタ密度の向上がNPUの演算性能向上に直結しています。NPUはSoCの中でAIアクセラレータコアとして位置づけられ、CPUやGPUと連携してヘテロジニアス(異種)コンピューティングを実現します。AIスマートフォン・エッジAIの急成長により、先端ノードファウンドリへの需要増加を牽引する重要な製品カテゴリです。AIアクセラレータ全般はai-acceleratorの用語も参照してください。