SEMICON Japan 2026(12/9~11)에 맞춰 참가 기업의 광고 게재 문의를 받고 있습니다.SEMICON Japan 2026 광고 모집자세히 보기

반도체 용어 · 메모리

HBM

High Bandwidth Memory, 고대역폭 메모리

뜻


HBM(High Bandwidth Memory)은 여러 장의 DRAM 다이를 TSV(실리콘 관통 전극)로 수직으로 쌓고, 스택당 1024비트라는 매우 넓은 버스로 GPU와 연결하는 메모리입니다. 일반 DDR 메모리보다 대역폭과 전력 효율이 훨씬 높아 엔비디아의 AI 가속기 같은 고성능 칩에 필수적으로 쓰입니다.

그림 해설


HBM(고대역폭 메모리) 1스택의 구조(DRAM 다이·TSV·베이스 다이·인터포저)
새 탭에서 열기

그림을 클릭하면 그 위치를 확대합니다. 휠로 확대·축소, 드래그로 이동

AI 학습용 GPU에 꼭 필요한 메모리.

구조: 쌓고, 뚫고, 옆에 붙인다


HBM 스택은 맨 아래 베이스 다이 위에 DRAM 다이를 여러 장 쌓고, 다이를 관통하는 TSV로 위아래를 잇습니다. 이 스택을 GPU와 함께 실리콘 인터포저 위에 나란히 올려 짧은 배선으로 연결하는 것이 일반적인 실장 방식이며, TSMC의 CoWoS가 대표적입니다. 신호 거리가 짧고 버스가 넓어 대역폭과 전력 효율을 동시에 얻습니다.

세대별 발전


HBM은 2013년 SK하이닉스가 AMD와 함께 처음 개발한 이후 HBM2, HBM2E, HBM3(JEDEC JESD238), HBM3E로 발전했습니다. 엔비디아 H100은 HBM3 80GB로 약 3.35TB/s의 대역폭을 냅니다. 차세대 HBM4는 인터페이스를 2048비트로 넓혀 스택당 최대 2TB/s를 목표로 합니다.

제조와 공급망


HBM은 TSV 형성, 웨이퍼를 얇게 가는 박화, 칩을 한 장씩 쌓는 본딩 등 일반 DRAM보다 후공정 단계가 많아 생산능력을 늘리는 데 시간이 걸립니다. 공급사는 SK하이닉스·삼성전자·마이크론 3사뿐이며, 웨이퍼 연삭·다이싱에서는 일본 디스코, 메모리 테스트에서는 어드밴테스트가 핵심 장비 공급사입니다.

관련 장비·소재 분류


차이 비교


관련 기업


자주 묻는 질문


HBM과 일반 DRAM은 무엇이 다른가요?

셀 자체는 같은 DRAM입니다. HBM은 DRAM 다이를 수직으로 쌓고 TSV로 연결한 뒤, GPU 바로 옆에 매우 넓은 버스로 붙이는 패키징 기술이 더해진 제품입니다.

왜 AI 가속기에 HBM이 필요한가요?

대규모 AI 모델은 수많은 파라미터를 계속 메모리에서 읽어 와야 해서 메모리 대역폭이 병목이 되기 쉽습니다. HBM은 같은 전력과 면적으로 훨씬 큰 대역폭을 제공하기 때문에 데이터센터 AI 가속기의 표준이 되었습니다.

관련 계산기


관련 용어


  • HBM4
    인터페이스를 2048비트로 넓힌 차세대 HBM. 베이스 다이의 로직화가 핵심
  • DRAM
    커패시터에 전하를 저장하는 휘발성 메모리. PC·서버·스마트폰의 작업 메모리
  • CoWoS
    TSMC의 2.5D 패키징. GPU와 HBM을 인터포저 위에 함께 올린다
  • 인터포저
    여러 칩을 나란히 올려 촘촘한 배선으로 잇는 중간 기판
  • 하이브리드 본딩
    범프 없이 구리 전극과 절연막을 직접 붙여 칩을 쌓는 기술
  • 첨단 패키징
    여러 칩을 고밀도로 묶어 성능을 끌어올리는 후공정 기술
  • NAND 플래시
    전원을 꺼도 데이터가 남는 비휘발성 메모리. SSD·스마트폰 저장공간
  • DDR5
    JEDEC이 2020년 발표한 5세대 DDR 규격. PC·서버의 메인 메모리

출처


  1. High Bandwidth Memory (HBM3) DRAM(JESD238)(JEDEC)
  2. HBM(SK hynix)
  3. HBM(Samsung Semiconductor)

최종 업데이트: 2026년 10월 27일