카이스트, "HBM, 2029년부터 냉각 기술이 경쟁력 좌우"

*HBM 냉각 기술

냉각 기술은 '임베디드 쿨링'으로 진화한다. 김 교수는 냉각수를 HBM의 3D 구조 내 플루이딕 TSV(Through Silicon Via)를 통해 직접 주입해 HBM 3D 적층 구조 내부에서 발생하는 열을 효과적으로 방출하는 방식이라고 설명했다.

** 액침냉각 관련주:

HBM의 고성능화와 발열 문제 해결을 위해 액침냉각 기술이 중요시되고 있으며, 관련주로는 삼성공조, 워트, 케이엔솔, GST 등이 있습니다.

김정호 교수 발표

HBM5부터 냉각수에 담그는 '이머전 쿨링' 도입 예상

2029년부터 냉각 관리 기술이 향후 고대역폭메모리(HBM)의 주요 변수가 될 것이라는 전망이 나왔다. HBM5가 시장을 주도할 것으로 예상되는 때다.

HBM8까지의 냉각 방식을 전망한 자료. 김정호 교수가 발표하고 있다. [사진=테라랩 발표화면 캡처]

김정호 한국과학기술원(KAIST) 전기전자공학부 교수가 지도하는 카이스트 테라랩은 HBM4~8까지 기술 로드맵(2025~2040)을 11일 발표했다. 차세대 HBM의 구조와 성능, 특징으로 HBM 아키텍처, 냉각 방식, 실리콘관통전극(TSV) 밀도, 인터포저 설계 등을 포함했다.

김 교수는 "현재는 패키징이 반도체 사업의 헤게모니를 결정하지만, HBM5부터는 냉각 기술이 좌우할 것"이라며 "3D 이종집적∙첨단 패키징 기술로 베이스 다이 일부를 HBM 상단으로 옮긴, 급격한 구조 변화가 예상된다"고 밝혔다.

원인은 베이스 다이의 온도 상승이다. HBM4부터는 베이스 다이가 그래픽처리장치(GPU) 역할 일부를 대신한다. 빠른 데이터 처리가 목적이다. 하지만 온도가 높아지고 곧 메모리 전체가 뜨거워지는 문제가 발생한다.

김 교수는 "HBM5 구조는 베이스 다이를 포함한 패키지를 냉각수에 담그는 방식(Immersion Cooling)이 반영된 것"이라며 "기존의 액체 냉각(Liquid Cooling) 방식으로는 데이터 처리에 한계가 왔다"고 진단했다.

액체 냉각은 HBM4까지 적용하던 방식이다. 패키지 상단 히트싱크 안에 냉각수를 흘려 열을 식힌다. 히트싱크와 베이스 다이 간격을 좁히기 위해 베이스 다이 일부를 위로 올린 것이다.

김 교수는 "냉각수 종류와 속도, 뜨거워진 냉각수를 다시 식히는 방법, 물샘 방지가 경쟁력이 될 것"이라고 말했다.

HBM5의 예상 구조. 채널이 TSV, TTV, TGV, TPV로 나뉘어 연결된다. 이 중 열이 오가는 TTV 홀 크기가 가장 클 것으로 보인다. [자료=테라랩]

열이 오가는 통로도 따로 생긴다. 기존 TSV를 비롯해 열(TTV), 접지(TGV), 전력(TPV)이 이동하는 통로가 나뉘는 구조다. HBM7(2035년)부터는 D램 다이들 사이로 냉각수를 흘려(Embedded Cooling) 열을 식혀야 한다고 분석했다. 냉각수가 오가는 통로(fluidic TSV)도 따로 생긴다.

김 교수는 "HBM7가 포함된 패키지는 3D 낸드를 수직으로 쌓은 고대역폭플래시(HBF) 등 다양한 아키텍처와 결합해 성능∙용량이 확장된다"며 "HBM8(2038년)은 GPU 상단에 HBM이 실장되는 등 '풀(Full)-3D 구조'가 예상된다"고 말했다. 이어 "HBM5에 이어 HBM7에서 또 한 번 냉각 방식으로 승부가 갈릴 것"이라고 말했다.

김 교수는 본딩 기술 또한 향후 HBM 경쟁력을 좌우할 것이라고 내다봤다. 한국 소부장 업체에 '새로운 기회'라고 거듭 강조했다.