본문 바로가기
AI/이것저것

4. GDDR 과 비교한 HBM의 우수성(용량, 속도)

by 으잇짜 2023. 8. 14.
반응형

3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)

 

이전 포스팅(3장)에서는 GDDR과 비교한 HBM의 특징과, 핵심 기술인 TSV 기술에 대해 학습했습니다.

 

https://informyun.com/75

 

3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)

2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR) 이전 포스팅(2장)에서는 GDDR의 등장과 왜 GDDR에서 HBM으로 기술발전이 이루어지게 되었는지 학습했습니다. https://informyun.com/74 2. HBM(고대역폭 메모리)

informyun.com

 

1. 이전 포스팅 간단 요약

 

  1. GDDR은 I/O의 개수와 전송속도의 물리적 한계가 있다.
  2. 이를 해결하기 위해 DRAM을 수직으로 쌓은 HBM이 등장
  3. 수직으로 쌓아 내부를 연결하는 TSV 기술은 와이어 본딩 보다 많은 장점을 가지고 있음
  4. 외부 Wire 공간 불필요, 지연시간 감소, 압도적 I/O 개수 (대역폭 향상)

 

2. GDDR Vs HBM

1. GDDR6 와 HBM3 비교

GDDR6
HBM3
I/0개수
용량
대역폭
GDDR6와 비교한 HBM3

위 표는 GDDR의 가장 최신모델인 GDD6와 HBM의 가장 최신모델인 HBM3(12단)을 기준으로 작성했습니다. (23/08/13)

 

일단, I/O 개수부터 압도적입니다. GDDR6를 12개 배치해도 384개 밖에 되지 않지만, HBM은 1개당 1024개의 I/O 개수를 갖고 있습니다. 일반적으로 HBM을 4개 배치 할 경우 I/O 개수는 더욱 압도적입니다.

 

다음은 용량입니다. GDDR6와 HBM3 모두 2GB이지만, 12단으로 쌓은 HBM3는 한개당 24GB로 12개의 GDDR6를 합친 용량과 같습니다.

 

대역폭 부문에서는 핀 당 전송속도로 보면 GDDR6가 16Gb/s로 6.4Gb/s인 HBM3에 비해 더 빠르지만, 막상 대역폭을 구해보면 I/O 개수에서 압도적으로 차이가 나기 때문에 대역폭 부문 또한 HBM3가 더 우수합니다.

 

 

2. GDDR6 와 HBM3 비교 결과

GDDR6
HBM3
I/0개수
용량
대역폭
GDDR6와 비교한 HBM3

위 표는 앞에서 비교했던 부분을 요약해 놓은 표입니다.

 

I/O 개수의 경우 1모듈만 비교했을 경우는 32배가 차이 나고, GDDR6를 12개, HBM3를 4개 배치 했을 경우는 약10.6배가 차이 나는 것을 볼 수 있습니다.

 

용량에 경우는 GDDR6 12개를 합친 것이 HBM3 하나와 같고, HBM3를 4개 배치한 경우 4배가 차이납니다.

 

대역폭의 경우 이미 I/O 개수에서 압도적으로 HBM3가 많기 때문에 한개를 비교할 경우 12.8배, 전체를 비교할 경우 약 4.3배로, 모든 부문에서 HBM3가 앞서는 모습을 볼 수 있습니다.

 

3. HBM의 단점

 

그렇다면 HBM이 성능적으로 압도적인데, 왜 아직 HBM으로 모두 대체하지 않을까, 의문이 듭니다.

HBM은 아직 크게 2가지 단점이 있습니다.

 

  1. 비용적 문제 : 하나씩 배치하는 GDDR과 다르게 위로 적층하는 구조이기에 많은 기술 (Ex. TSV 공법)이 필요합니다. 이로인해, HBM의 가격은 일반 D램의 비해 2~3배 정도 비싸다. (SK 하이닉스 HBM 가격은 200달러)
  2. 제조과정이 복잡 : TSV 공법을 통해 수직으로 적층하는 HBM 에 경우 요구기술 수준이 매우 높다. 

 


3. 관련글

 

1. AI 시대에 HBM(고대역폭 메모리)가 필수인 이유
https://informyun.com/73
2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)
https://informyun.com/74
3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)
https://informyun.com/75
4. GDDR 과 비교한 HBM의 우수성(용량, 속도)
https://informyun.com/76
5. HBM의 현재시장 및 향후 시장전망
https://informyun.com/77

 

반응형

loading