2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)

1. AI 시대에 HBM(고대역폭 메모리)가 필수인 이유

 

이전 포스팅(1장)에서는 왜 AI 시대에 HBM이 각광받을 수밖에 없는 이유에 대해서 확인했습니다. 이번 포스팅에서는 HBM(고대역폭 메모리)의 등장배경에 대해 설명해 보겠습니다.

 

https://informyun.com/73

1. AI 시대에 HBM(고대역폭 메모리)가 필수인 이유

 

1. 이전 포스팅 간단 요약

 

1. 현시대는 AI가 창궐한 시대로 폭발적인 양의 데이터의 처리와 계산이 필요
2. CPU는 고성능 코어로 복잡한 계산을 하기에는 적합하나 순차적 처리로 인해 병목현상이 발생 (속도가 느림)
3. GPU는 CPU 대비 성능은 낮지만, 병렬처리 시스템으로 단순하고 반복적인 연산을 빠르게 처리 가능
4. 즉 AI시대에는 CPU 보다, GPU가 각광받기 시작
5. 이로 인해 GDDR & HBM 이 탄생한다.

 

CPU 와 GPU의 차이점

 

2. HBM 등장 전 GDDR 이 등장하다.

1. GDDR의 탄생

 

1장을 봤다면, GPU가 AI 시대에 왜 필요한지에 대해 조금이나마 이해가 되셨을 겁니다. 사실 포스팅 주제가 HBM이지만, HBM 전에 나온 GDDR도 살펴볼 필요가 있습니다.

 

방대한 정보를 처리하는데, CPU가 어려움이 있기에 GPU가 옆에서 협력해 줍니다. 그리고 GPU의 연산을 도와줄 GDDR이 있습니다. 일반 DDR과는 다른 그래픽전용 DDR로 GDDR이라는 명칭이 사용됩니다. GDDR에 경우 수많은 I/O가 오가기 때문에 DDR과의 차이점은 클럭과 대역폭을 더 높였습니다. 

 

 

그러나, 대역폭을 더 높인다는 것은 I/O (입/출력) 단자 또는 전송속도를 높여야 하지만,
물리적인 한계에 부딪히게 됩니다.

 

 

이로 인해 TSV 기술을 이용한. HBM (고대역폭 메모리)가 등장합니다.

 

Near & Far Memory

 

드디어, HBM의 등장

 

 

 

---

3. 관련글

 

1. AI 시대에 HBM(고대역폭 메모리)가 필수인 이유
https://informyun.com/73
2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)
https://informyun.com/74
3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)
https://informyun.com/75
4. GDDR 과 비교한 HBM의 우수성(용량, 속도)
https://informyun.com/76
5. HBM의 현재시장 및 향후 시장전망
https://informyun.com/77