HBM과 GDDR6의 차이
HBM(High Bandwidth Memory)과 GDDR6(Graphics DDR6)는 모두 GPU를 위한 고속 DRAM이지만 설계 사상이 다릅니다. HBM은 '넓고 느린' 버스를 여러 개 묶어 대역폭과 전력 효율을 얻고, GDDR6는 '좁고 빠른' 버스로 비용을 낮춥니다. 데이터센터 AI 가속기는 HBM, 게이밍 그래픽카드는 GDDR 계열이 표준입니다.
결론
HBM과 GDDR6의 가장 큰 차이는 실장 방식과 버스 폭입니다. HBM은 DRAM 다이를 TSV로 쌓아 실리콘 인터포저 위에서 GPU와 나란히 연결하고, 스택당 1024비트라는 넓은 버스로 큰 대역폭을 냅니다. GDDR6는 개별 칩을 그래픽카드 기판에 배치하는 방식으로 칩당 32비트이며, 대역폭은 작지만 값이 싸 게이밍 GPU에 널리 쓰입니다.
비교표
| 항목 | HBM(HBM3/HBM3E) | GDDR6 / GDDR6X |
|---|---|---|
| 버스 폭 | 스택당 1024비트 | 칩당 32비트 |
| 구조 | DRAM 다이를 TSV로 적층 | 개별 패키지 칩 |
| 실장 | 실리콘 인터포저(CoWoS 등) 위에 GPU와 함께 배치 | 그래픽카드 기판(PCB)에 GPU 주변으로 배치 |
| 대역폭 예 | 엔비디아 H100(HBM3 80GB) 약 3.35TB/s | 지포스 RTX 4090(GDDR6X 384비트) 약 1TB/s |
| 전력 효율 | 같은 대역폭에서 유리 | 고속 신호 구동으로 비트당 전력이 큼 |
| 가격·공급 | 고가, 후공정이 복잡해 증산이 느림 | 저가, 범용품으로 대량 공급 |
| 주요 용도 | AI 가속기, HPC | 게이밍 GPU, 워크스테이션 그래픽 |
AI 가속기에 HBM이 사실상 필수인 이유
대규모 언어 모델의 학습·추론에서는 수백억 개 이상의 파라미터를 계속 메모리에서 읽어 와야 하므로, 연산 성능보다 메모리 대역폭이 먼저 한계에 부딪히기 쉽습니다. GDDR로 같은 대역폭을 내려면 칩 수와 기판 배선, 전력이 크게 늘어납니다. HBM은 GPU 바로 옆에서 넓은 버스로 연결되기 때문에 대역폭·전력·면적을 모두 만족시킬 수 있어 데이터센터 AI의 표준이 되었습니다.
HBM 공급이 AI 반도체 생산량을 좌우
HBM은 TSV 형성, 웨이퍼 박화, 칩 적층, 인터포저 패키징 등 일반 DRAM보다 공정이 많아 생산능력을 빠르게 늘리기 어렵습니다. AI 수요가 급증한 2023년 이후 HBM과 이를 실장하는 TSMC의 CoWoS 패키징 능력이 AI 가속기 출하량의 병목으로 꼽혀 왔습니다.
자주 묻는 질문
HBM과 GDDR6 중 어느 쪽이 빠른가요?
제품 전체의 대역폭은 HBM이 크게 앞섭니다. 핀 하나의 속도는 GDDR이 더 빠르지만, HBM은 버스 폭이 훨씬 넓어 총 대역폭이 큽니다.
게이밍 GPU에는 HBM을 쓰지 않나요?
비용 때문에 거의 쓰지 않습니다. 과거 일부 그래픽카드가 HBM을 채택한 적이 있지만, 현재 소비자용 게이밍 GPU는 GDDR6·GDDR6X·GDDR7이 주류입니다.
GDDR7은 HBM을 대체할 수 있나요?
GDDR7(JEDEC 2024년 발표)은 신호 방식을 바꿔 칩당 대역폭을 크게 높였지만, 스택당 2TB/s를 목표로 하는 HBM4와의 격차는 여전히 큽니다. 데이터센터 AI 가속기에서는 HBM이 계속 주류일 것으로 보입니다.
메모리 비교 더 보기
출처
- HBM（Samsung Semiconductor）
- HBM（SK hynix）
- High Bandwidth Memory (HBM3) DRAM（JESD238）（JEDEC）
- Graphics Double Data Rate (GDDR6) SGRAM Standard（JEDEC）
최종 업데이트: 2026년 10월 27일