HBM3E
High Bandwidth Memory 3E, HBM3 Enhanced, 5세대 HBM
뜻
HBM3E(High Bandwidth Memory 3E)는 HBM3의 개량판(Enhanced)으로 2024년에 양산이 시작된 고대역폭 메모리이며, 한국 업계에서는 흔히 5세대 HBM이라고 부릅니다. 스택당 최대 1.2TB/s(HBM3의 819GB/s 대비 약 47% 향상)의 대역폭을 내고, 스택 용량은 8단 적층에서 24GB, 12단 적층에서 최대 36GB에 이릅니다. NVIDIA H200, AMD MI325X 등에 탑재되어 HBM4가 본격 보급되기 전인 2024~2025년 AI 가속기 시장의 주력 메모리입니다.
그림 해설
HBM3 대비 개선점
HBM3E가 HBM3에서 개선한 주요 사항은 (1) DRAM 적층 수를 8단에서 12단으로 늘린 용량 확대(HBM3E 12H라고 부름), (2) 핀당 데이터 전송 속도 향상, (3) 전력 효율 개선(pJ/bit 저감)입니다. SK하이닉스는 HBM3E 양산에서 앞서 나가며 NVIDIA H200용 초기 공급을 주도했습니다.
H200과 H100의 차이
NVIDIA H200과 H100의 가장 큰 차이는 HBM3E 탑재입니다. H100은 HBM3(80GB·3.35TB/s)를 탑재했지만, H200은 HBM3E(141GB·4.8TB/s)로 업그레이드해 GPU 코어는 거의 같으면서도 메모리 용량 1.75배, 대역폭 1.43배를 달성했습니다. 대규모 LLM 추론에서는 GPU 메모리 용량이 다룰 수 있는 모델 크기의 상한을 정하므로, HBM3E로의 업그레이드는 AI 성능 향상에 직결됩니다.
제조 난도와 수율
HBM3E는 HBM3보다 제조 난도가 크게 높아 수율 확보가 각 사의 가장 큰 과제입니다. 12단으로 쌓는 DRAM 다이 각각의 수율, TSV 형성 정밀도, 적층 후 전기적 테스트(KGD 선별), 열 관리(적층 다이 사이의 방열 설계)가 모두 HBM3E 생산 비용에 영향을 줍니다. SK하이닉스는 선행 양산을 통해 노하우를 쌓아 왔습니다.
HBM4로의 전환
HBM3E에서 HBM4로의 전환은 2025~2026년에 진행됩니다. HBM4에서는 인터페이스의 2048비트화(규격상 최대 2TB/s)와 베이스 다이의 로직화가 추진되고 있어, HBM3E와의 제조 공정 차이가 작지 않습니다. AI 데이터센터 투자 확대로 HBM 시장 전체(HBM3E+HBM4)가 2026년에 300억 달러를 넘을 것이라는 전망이 있으며, SK하이닉스·삼성전자·마이크론 3사가 치열하게 경쟁하고 있습니다.
관련 장비·소재 분류
관련 기업
- SK하이닉스한국 · DRAM·HBM·낸드 플래시 메모리
- 삼성전자한국 · 메모리·파운드리·시스템 반도체
- 디스코(DISCO)일본 · 다이싱·연삭·연마 장비
자주 묻는 질문
HBM3E와 HBM3의 차이는 무엇인가요?
HBM3E는 HBM3의 개량판으로, 스택당 대역폭이 최대 1.2TB/s로 HBM3(819GB/s)보다 약 47% 높습니다. DRAM 적층 수를 12단까지 늘려 스택 용량이 최대 36GB에 이르고, 핀당 전송 속도와 전력 효율도 개선되었습니다.
NVIDIA H200은 H100과 무엇이 다른가요?
가장 큰 차이는 메모리입니다. H100은 HBM3(80GB·3.35TB/s)를, H200은 HBM3E(141GB·4.8TB/s)를 탑재해 GPU 코어는 거의 같으면서도 메모리 용량은 1.75배, 대역폭은 1.43배가 되었습니다. 대규모 LLM 추론에서는 메모리 용량이 모델 크기의 상한을 정하므로 성능 향상에 직결됩니다.
관련 계산기
관련 용어
- HBMDRAM 칩을 TSV로 수직 적층해 대역폭을 크게 높인 AI 가속기용 메모리
- HBM4인터페이스를 2048비트로 넓힌 차세대 HBM. 베이스 다이의 로직화가 핵심
- CoWoSTSMC의 2.5D 패키징. GPU와 HBM을 인터포저 위에 함께 올린다
- 첨단 패키징여러 칩을 고밀도로 묶어 성능을 끌어올리는 후공정 기술
- GPU수많은 코어로 행렬 연산을 병렬 처리하는 칩. AI 학습·추론의 핵심 연산 장치
- DRAM커패시터에 전하를 저장하는 휘발성 메모리. PC·서버·스마트폰의 작업 메모리
- 3D IC여러 다이를 수직으로 쌓아 TSV·하이브리드 본딩으로 연결하는 집적회로
- NAND 플래시전원을 꺼도 데이터가 남는 비휘발성 메모리. SSD·스마트폰 저장공간
출처
최종 업데이트: 2026년 11월 1일