반도체 분야 전 세계 탑급의 기업 SK하이닉스가 또 하나의 역사를 썼다. 5세대 고대역폭메모리(HBM)인 HBM3E 12단 신제품을 세계 최초로 양산하기 시작한 것이다.

26일 SK하이닉스는 현존하는 HBM 최대 용량인 36기가바이트(GB)를 구현한 HBM3E 12단 신제품 양산에 돌입했다고 발표했다.

그동안 HBM3E의 최대 용량은 3GB D램 단품 칩 8개를 수직으로 쌓은 24GB에 그쳤는데, SK하이닉스는 이를 뛰어넘은 36GB 구현에 성공했다.

회사는 2024년이 끝나기 전에 HBM3E 12단 신제품을 고객사에 공급할 계획이다. 앞서 SK하이닉스는 지난 3월, 업계 최초로 HBM3E 8단 제품을 엔비디아에 납품했다. 이 최초의 기록을 6개월 만에 직접 깨고 다시 세웠다.

회사 자신감 UP..."12단, 8단에서 두께 늘리지 않았다"

이 같은 업적에 SK하이닉스는 연일 자신감을 드러내고 있다. 회사는 "당사는 2013년 세계 최초로 HBM 1세대(HBM1)를 출시한데 이어 HBM 5세대(HBM3E)까지 전 세대 라인업을 개발해 시장에 공급해온 유일한 기업"이라고 강조하고 있다.

이어 "높아지고 있는 AI 기업들의 눈높이에 맞춘 12단 신제품도 가장 먼저 양산에 성공해 AI 메모리 시장에서 독보적인 지위를 이어가고 있다"라고 스스로 평가했다.

HBM3E 12단 제품은 AI 메모리에 필수적인 속도, 용량, 안정성 등 모든 부문에서 세계 최고 수준으로 알려졌다. 동작 속도는 9.6Gbps로 현존 메모리 최고 속도인 것에 더해 특히 AI 학습 훈련에서 속도가 크게 좋아졌다. 회사는 "신제품 4개를 탑재한 단일 GPU로 메타의 거대언어모델(LLM)인 '라마3 70B'를 구동할 경우 700억 개의 전체 파라미터를 초당 35번 읽어낼 수 있는 수준"이라고 설명했다.

12단도 단순 12단이 아니다. 두께를 늘리지 않으면서도 12개를 쌓는 데 성공했다. 기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘린 것이다. D램 단품 칩을 기존보다 40% 얇게 만들고 실리콘전통관극(TSV) 기술을 활용해 수직으로 쌓은 게 핵심이다.

SK하이닉스는 전 세대보다 방열 성능을 10% 높여 얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다고 설명해 업계를 놀라게 하고 있다.