メモリ内演算（PIM：Processing-In-Memory）とは、プロセッサとメモリが分離した従来のフォン・ノイマン型アーキテクチャの制約を超え、メモリチップ内部またはメモリに近接した場所に演算回路を組み込むことで、データ転送のボトルネック（メモリウォール）を解消する革新的な計算アーキテクチャである。AIの大規模行列演算・推論処理において、DRAM帯域幅の制約が性能限界となっていることが背景にある。
PIMの代表的なアプローチには、①DRAM内にALUや積和演算器を搭載する「Near-Memory Computing（NMC）」、②処理をメモリセルアレイ内で実行する「In-Memory Computing（IMC）」がある。Samsung ElectronicsはHBM-PIM（Aquabolt-X）を開発し、HBMスタック内にAI演算コアを集積することでメモリ帯域幅当たりの演算効率を大幅に向上させた。SK HynixもAIMM（Accelerator-in-Memory Module）の開発を進めている。
PIMのメリットは、①メモリ帯域幅に律速されるワークロード（LLM推論、レコメンデーション等）での大幅な性能向上（2〜10倍）、②データ移動の削減による消費電力低減（40〜60%削減）にある。特にLLM（大規模言語モデル）のデコードフェーズはメモリバウンドな処理であり、PIMとの親和性が極めて高い。
PIMの課題として、①既存のプログラミングモデルやソフトウェアスタックとの互換性確保、②メモリ内演算器の追加によるDRAMコスト増加（20〜40%増）、③演算器とメモリセルの間のリーク電流による歩留まり低下、が挙げられる。NVIDIAやAMDのGPUアーキテクチャへの統合、TensorFlow・PyTorchのPIM対応ランタイム開発も進んでいる。
PIMとCXL（Compute Express Link）の関係について、CXLメモリモジュールにPIM機能を付与した「CXL-PIM」の概念が提唱されており、標準インタフェース経由でホストCPU/GPUから透過的にPIMリソースを利用する設計が研究されている。2025〜2030年はPIM搭載HBMの商用展開が加速する時期と予測されており、AI半導体の性能・電力効率を大きく変えるゲームチェンジャー技術として位置づけられている。