3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)

2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)

 

이전 포스팅(2장)에서는 GDDR의 등장과 왜 GDDR에서 HBM으로 기술발전이 이루어지게 되었는지 학습했습니다.

 

https://informyun.com/74

2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)

 

1. 이전 포스팅 간단 요약

 

1. GPU의 연산을 도와주기 위해 GDDR이라는 그래픽전용 DDR이 탄생
2. 기존 DDR과 다르게 클럭과 대역폭을 높였다.
3. 하지만, 물리적으로 I/O 단자와 전송속도를 높이는데 난관에 봉착한다.
4. 이로 인해 TSV 기술을 이용한 HBM(고대역폭 메모리)가 등장한다.

 

1. HBM의 등장

 

GDDR 방식과 HBM 방식 비교

 

고대역폭 메모리 (High Bandwidth Memory, HBM)는 현대의 고성능 컴퓨팅 시스템에서 사용되는 혁신적인 메모리 기술로, 대량의 데이터를 빠르게 처리하는 데 중점을 둔 형태의 DRAM (Dynamic Random Access Memory)입니다. HBM은 고성능 그래픽 카드, 고성능 컴퓨터 시스템, 데이터 센터 및 기타 연산 위주의 응용 프로그램에서 널리 사용됩니다. HBM은 뛰어난 대역폭과 저전력 소비를 특징으로 하며, 이는 데이터 중심 작업에 탁월한 성능을 제공합니다.

 

예시)

위 그림에서 보이는 거와 같이 GDDR 방식은 GPU를 중심으로 12개의 GDDR이라는 집이 감싸고 있는 방식이라면, HBM 방식은 GDDR을 위로 쌓은 형태로 3개 층인 아파트 4동이 있는 셈입니다. 

 

게다가, GPU와 DDR이 같은 Interposer위에 있는 형태로, 기존 GDDR 방식에 비해 공간효율, 전력효율, 용량, 대역폭을 모두 개선한 것이 바로 HBM "고대역폭 메모리" 입니다.

 

GDDR 와 HBM 방식과의 비교

 

2. Wire Bonding Vs TSV 기술 차이점

TSV란?

Wire Bonding Vs TSV 기술

 

TSV(Trough Silicon Via) 기술은 HBM 메모리의 주요 구성 요소 중 하나로, 3D 패키징을 구현하는 데 사용되는 기술입니다. TSV는 각 DRAM 칩 스택이 수직으로 연결되는 구조를 가능하게 합니다.

 

이 기술은 다양한 작은 구멍을 원형 또는 사각형 형태로 칩의 실리콘을 통해 뚫어내는 프로세스로 구현됩니다. 각 TSV는 전기적 신호 및 데이터 전송을 할 수 있도록 설계되어 있어, 다양한 층의 DRAM 칩 간의 데이터 이동을 원활하게 합니다.

 

TSV 기술은 HBM 메모리의 대역폭 및 성능 향상을 가능하게 하는 핵심적인 기술 중 하나로 인정받고 있습니다.

 

 

기존 Wire Bonding이 계단이라면,
TSV는 엄청 많은 고속 엘리베이터에 비유할 수 있습니다. 

 

 

 

 

TSV의 장점

Wire Bonding Vs TSV 기술

기존 Wire Bonding 문제점을 해결한 것이 바로 TSV 기술이라고 볼 수 있습니다. 위 자료 Wire Bonding 사진에서 보이는 거와 같이 Wire가 DRAM 외부로 인출되어 기판으로 들어갑니다. 이로 인해 Wire를 연결할 공간이 필요합니다. 또한, Wire를 이용해 연결되기 때문에 지연시간이 더 길어지고, 해당부위에서 발열 문제도 발생합니다.

 

결정적으로 DRAM에서 물리적으로 인출할 수 있는 접점의 한계에 봉착합니다. I/O 접점을 늘리거나, 전송속도를 늘리는 것이 대역폭을 늘리는 방법입니다. 하지만, 현재 둘 다 기술적으로 문제가 많습니다.

 

이러한 문제를 해결한 것이 TSV 공법입니다. 상기 자료에 TSV  공법사진을 보면 DRAM 사이로 얇은 끈 같은 것이 보입니다. 저것이 바로, Wire 대신 사용된 TSV입니다. TSV와 TSV는 Micro Bump로 접합되어 있습니다.

 

TSV의 장점은 Wire를 DRAM 바깥으로 인출할 필요가 없고 수직으로 연결하기 때문에, 기존 공법 대비 공간 효율과 대역폭을 크게 상승시킬 수 있습니다.

 

Wire Bonding Vs TSV 기술

 

3. HBM의 구조

 

 

마지막으로, HBM의 구조입니다. 사실 위에서 GDDR과의 비교, TSV 공법을 설명하면서 어느 정도는 구조가 파악되었습니다.

 

1. Stack / Hi / 층

그림에서는 HBM DRAM이 4개 층으로 구성되어 있는 것을 볼 수 있습니다. 이를 4 Stack 또는 4Hi로 칭합니다. DRAM이 더 많이 Stack 될수록 HBM의 용량이 늘어납니다.

 

23년 4월에  SK 하이닉스는 12Hi를 개발하여 고객사에 샘플을 제공했습니다. 기존 8단 HBM제품과 동일한 높이를 구현하기 위해 D램을 40% 얇게 만들고 MR-MUF 기술을 통해 기술 한계를 극복했다 합니다.

 

2. Interposer

 

HBM 1개당 마이크로 범프의 수 = 5천 개

Logic Die 마이크로 범프의 수 = 2만 개

→  HBM 4Hi 일 경우 약 4만 개 정도의 범프 사용된다. 이를 Substrate에 바로 접합하기는 일은 쉽지 않다.

→ 실제 패키지 밖 시스템으로 나가는 신호는 Logic Die에서 나오는 신호

→ Logic Die와 Substrate 중간에 Interposer를 넣어 대응

인터포저(Interposer) : 2.5D 패키지에는 HBM과 로직칩의 IO범프수가 너무 많아서 서브스트레이트에 그를 대응하는 패드를 만들 수 없다. 때문에 웨이퍼 공정을 통해서 HBM과 로직칩을 대응할 수 있는 패드와 금속 배선을 만들어 HBM, 로직칩을 붙일 수 있게 한 것이 인터포저이다. 이 인터포저는 TSV로 다시 서브스트레이트에 직접 연결된다.

 

3. SiP 특징 (System in Package)

 

SiP : System in Package로 하나의 패키지 안에 센서, AD, 로직, 메모리, 배터리, 안테나 등이 패키징 된 것

(그러나, 현재 기술 수준으로는 힘들기 때문에 SiP 구성요소 중 몇 개를 한패 키지에 구성되어 있어도 SiP라 통칭)

 

HBM 구조를 보면 Interposer위에 DRAM과 GPU가 같이 올라가 있는 모습을 볼 수 있다. 완전한 SiP는 아니다.

SiP와 대비되는 것이 SoC (System on Chip)이다. 이전까지는 SoC가 전기적 특성이 좋다고 생각되어 왔으나, 최근 TSV 기술 덕분에 SiP 또한, SoC 못지않은 전기적 특성을 가지게 되었다.

 

 

---

4. 관련글

 

1. AI 시대에 HBM(고대역폭 메모리)가 필수인 이유
https://informyun.com/73
2. HBM(고대역폭 메모리)의 등장배경 (feat. GDDR)
https://informyun.com/74
3. 드디어 HBM(고대역폭메모리)의 등장, TSV기술이란? (feat. GDDR)
https://informyun.com/75
4. GDDR 과 비교한 HBM의 우수성(용량, 속도)
https://informyun.com/76
5. HBM의 현재시장 및 향후 시장전망
https://informyun.com/77