GPU
Graphics Processing Unit, 그래픽 처리 장치
뜻
GPU(Graphics Processing Unit)는 수천~수만 개의 소형 연산 코어를 병렬로 배치해 행렬 연산·벡터 연산을 매우 빠르게 처리하는 반도체 칩입니다. 원래 3D 그래픽 렌더링 전용 프로세서로 개발되었지만, 딥러닝 학습·추론에 필요한 대규모 행렬 연산과 궁합이 매우 좋아 AI 시대의 핵심 연산 장치로 진화했습니다.
그림 해설
주요 공급사와 CUDA
엔비디아·AMD·인텔이 주요 GPU 공급사입니다. 엔비디아 H100(트랜지스터 약 800억 개, TSMC 4nm급)과 B200/B100은 데이터센터용 AI 가속기 시장에서 가장 큰 점유율을 차지합니다. CUDA(Compute Unified Device Architecture) 생태계를 통해 PyTorch·TensorFlow 같은 딥러닝 프레임워크와 깊이 통합되어 있으며, 이 소프트웨어 자산이 엔비디아의 경쟁 우위를 떠받칩니다.
첨단 공정과 HBM
GPU 제조에는 최첨단 로직 공정(3~5nm)과 고대역폭 메모리(HBM)의 조합이 필수입니다. 엔비디아 H100은 TSMC 4N 공정과 HBM3를 탑재해 메모리 대역폭 3.35TB/s, FP16 연산 성능 989TFLOPS를 구현했습니다. 차세대 B200은 TSMC 4NP 공정과 HBM3e를 채택해 추론 성능이 더 높아졌습니다.
전력과 인프라 수요
GPU의 소비 전력이 커지면서(H100 700W, B200 약 1,000W) 이를 떠받치는 데이터센터 인프라의 전력 수요도 급증하고 있으며, GaN·SiC 전력 반도체, 액체 냉각 시스템(Direct Liquid Cooling), 전원 관리 IC(PMIC)의 수요 증가로 직결되고 있습니다.
엣지 AI와 HBM 공급
AI 추론의 엣지 확산에서는 모바일 GPU(퀄컴 Adreno, 애플 GPU)나 NPU 내장 SoC, 전용 AI 가속기(Google TPU, Amazon Trainium/Inferentia)와의 경쟁·보완 관계도 진행되고 있습니다. GPU용 HBM의 주요 공급사는 SK하이닉스·삼성전자·마이크론 3사이며, HBM 공급 제약이 GPU 전체 출하량을 제한하는 구도가 이어지고 있습니다.
관련 장비·소재 분류
차이 비교
관련 기업
자주 묻는 질문
GPU란 무엇인가요?
많은 코어로 병렬 계산을 하는 그래픽 처리 장치입니다. 이미지 처리뿐 아니라 AI 학습·추론과 HPC에서 없어서는 안 될 존재가 되었습니다.
GPU가 AI에 쓰이는 이유는 무엇인가요?
AI 계산은 대량의 행렬 연산이어서 GPU의 병렬 처리와 매우 잘 맞기 때문입니다. 엔비디아 GPU가 AI 학습에 널리 쓰이고 있습니다.
GPU와 HBM은 어떤 관계인가요?
AI용 GPU는 고대역폭 메모리(HBM)를 적층해 함께 탑재하고, 방대한 데이터를 고속으로 주고받습니다. HBM 공급이 AI GPU 성능의 관건입니다.
관련 계산기
관련 용어
- 인공지능(AI)인간의 추론·학습·인식·판단을 컴퓨터로 재현하는 기술. AI 칩 수요의 원천
- 머신러닝명시적 프로그램 없이 데이터에서 패턴을 학습해 예측·분류·생성을 하는 AI 기법
- HBMDRAM 칩을 TSV로 수직 적층해 대역폭을 크게 높인 AI 가속기용 메모리
- 칩렛기능별 작은 칩을 따로 만들어 한 패키지로 묶는 설계 방식
- 집적회로트랜지스터 등 회로 소자를 한 장의 실리콘 칩에 함께 만들어 넣은 소자
- FLOPS1초에 처리하는 부동소수점 연산 횟수로 나타낸 성능 지표
- MOSFET게이트 전압으로 전류를 켜고 끄는 트랜지스터. 집적회로의 기본 단위
- CMOSNMOS와 PMOS를 짝지은 회로 방식. 모든 디지털 칩의 기반 기술
출처
- What is a GPU?(Arm)
최종 업데이트: 2026년 11월 1일