HBM
High Bandwidth Memory, 고대역폭 메모리
뜻
HBM(High Bandwidth Memory)은 여러 장의 DRAM 다이를 TSV(실리콘 관통 전극)로 수직으로 쌓고, 스택당 1024비트라는 매우 넓은 버스로 GPU와 연결하는 메모리입니다. 일반 DDR 메모리보다 대역폭과 전력 효율이 훨씬 높아 엔비디아의 AI 가속기 같은 고성능 칩에 필수적으로 쓰입니다.
그림 해설
구조: 쌓고, 뚫고, 옆에 붙인다
HBM 스택은 맨 아래 베이스 다이 위에 DRAM 다이를 여러 장 쌓고, 다이를 관통하는 TSV로 위아래를 잇습니다. 이 스택을 GPU와 함께 실리콘 인터포저 위에 나란히 올려 짧은 배선으로 연결하는 것이 일반적인 실장 방식이며, TSMC의 CoWoS가 대표적입니다. 신호 거리가 짧고 버스가 넓어 대역폭과 전력 효율을 동시에 얻습니다.
세대별 발전
HBM은 2013년 SK하이닉스가 AMD와 함께 처음 개발한 이후 HBM2, HBM2E, HBM3(JEDEC JESD238), HBM3E로 발전했습니다. 엔비디아 H100은 HBM3 80GB로 약 3.35TB/s의 대역폭을 냅니다. 차세대 HBM4는 인터페이스를 2048비트로 넓혀 스택당 최대 2TB/s를 목표로 합니다.
제조와 공급망
HBM은 TSV 형성, 웨이퍼를 얇게 가는 박화, 칩을 한 장씩 쌓는 본딩 등 일반 DRAM보다 후공정 단계가 많아 생산능력을 늘리는 데 시간이 걸립니다. 공급사는 SK하이닉스·삼성전자·마이크론 3사뿐이며, 웨이퍼 연삭·다이싱에서는 일본 디스코, 메모리 테스트에서는 어드밴테스트가 핵심 장비 공급사입니다.
관련 장비·소재 분류
차이 비교
관련 기업
- 디스코(DISCO)일본 · 다이싱·연삭·연마 장비
- 어드밴테스트일본 · SoC·메모리용 반도체 테스터(ATE)
- 삼성전자한국 · 메모리·파운드리·시스템 반도체
- SK하이닉스한국 · DRAM·HBM·낸드 플래시 메모리
- 한미반도체(HANMI Semiconductor)한국 · HBM용 TC 본더·후공정 장비
- 리가쿠(Rigaku)일본 · X선 기반 반도체 계측·분석 장비
- 온투 이노베이션(Onto Innovation)미국 · 검사·계측 장비, 패키징용 노광 장비
- 베시(Besi)네덜란드 · 다이 본딩·몰딩·도금 등 조립 장비
- ASMPT홍콩 · 반도체 조립·패키징 장비, SMT 장비
- 폼팩터(FormFactor)미국 · 프로브 카드·프로브 스테이션
- ASE(ASE Technology Holding)대만 · 반도체 패키징·테스트 위탁(OSAT)·시스템 조립
자주 묻는 질문
HBM과 일반 DRAM은 무엇이 다른가요?
셀 자체는 같은 DRAM입니다. HBM은 DRAM 다이를 수직으로 쌓고 TSV로 연결한 뒤, GPU 바로 옆에 매우 넓은 버스로 붙이는 패키징 기술이 더해진 제품입니다.
왜 AI 가속기에 HBM이 필요한가요?
대규모 AI 모델은 수많은 파라미터를 계속 메모리에서 읽어 와야 해서 메모리 대역폭이 병목이 되기 쉽습니다. HBM은 같은 전력과 면적으로 훨씬 큰 대역폭을 제공하기 때문에 데이터센터 AI 가속기의 표준이 되었습니다.
관련 계산기
관련 용어
- HBM4인터페이스를 2048비트로 넓힌 차세대 HBM. 베이스 다이의 로직화가 핵심
- DRAM커패시터에 전하를 저장하는 휘발성 메모리. PC·서버·스마트폰의 작업 메모리
- CoWoSTSMC의 2.5D 패키징. GPU와 HBM을 인터포저 위에 함께 올린다
- 인터포저여러 칩을 나란히 올려 촘촘한 배선으로 잇는 중간 기판
- 하이브리드 본딩범프 없이 구리 전극과 절연막을 직접 붙여 칩을 쌓는 기술
- 첨단 패키징여러 칩을 고밀도로 묶어 성능을 끌어올리는 후공정 기술
- NAND 플래시전원을 꺼도 데이터가 남는 비휘발성 메모리. SSD·스마트폰 저장공간
- DDR5JEDEC이 2020년 발표한 5세대 DDR 규격. PC·서버의 메인 메모리
출처
- High Bandwidth Memory (HBM3) DRAM(JESD238)(JEDEC)
- HBM(SK hynix)
- HBM(Samsung Semiconductor)
최종 업데이트: 2026년 10월 27일