SK하이닉스가 메모리로 AI 병목을 미는 방법: HBM4E와 ZUFS 4.0

SK하이닉스가 HBM4E(High Bandwidth Memory 4E) 개발 완료 목표를 발표하고, ZUFS(Zone UFS) 4.0의 3분기 양산 계획을 공개했다. 세계 HBM 시장의 약 50%를 점유하며 NVIDIA와 AI 메모리 시장을 주도하고 있는 SK하이닉스의 이 발표는, AI 가속기 세대 교체와 모바일 AI 기능 강화에 직접 연결되는 핵심 부품 로드맵이다. AI 훈련과 추론에 필요한 컴퓨팅 능력의 한계를 메모리 기술이 어떻게 밀어 올리는지, 그 기술적 세부를 들여다본다.

메모리 대역폭이 AI 가속기의 병목인 이유

현대 AI 가속기의 성능 병목은 메모리 대역폭이다. 수백조 개의 파라미터를 가진 대형 언어 모델을 훈련하거나 추론할 때, GPU 내 행렬 곱셈 연산 유닛(CUDA 코어, Tensor 코어)은 초당 수 페타플롭스의 연산 능력을 갖추고 있지만, 그 연산 유닛에 데이터를 공급하는 메모리 대역폭이 충분하지 않으면 유닛이 대기 상태로 낭비된다. 이 문제를 해결하기 위해 개발된 것이 HBM이다. GPU 다이 위에 메모리를 수직으로 적층하는 3D 구조로, 기존 GDDR 메모리 대비 수십 배의 대역폭과 핀당 전력 효율을 제공한다. NVIDIA H100에서 H200, B100, B200으로 세대가 올라갈수록 HBM 용량과 대역폭이 핵심 차별화 요소가 되어왔다.

HBM 세대의 계보

HBM 기술은 2013년 AMD와 SK하이닉스가 공동 개발한 HBM1부터 시작한다. HBM2(2016), HBM2E(2019), HBM3(2022), HBM3E(2024), 그리고 현재 개발 중인 HBM4/HBM4E로 이어지는 진화 계보를 갖는다. 각 세대에서 스택당 용량, 핀 수, 대역폭, 전력 효율이 함께 개선된다. NVIDIA는 H100(HBM3), H200(HBM3E), B100/B200(HBM3E), 그리고 예정된 R100/R200(Rubin 아키텍처, HBM4 예상)에 이르기까지 매 세대 AI 가속기에 최신 HBM을 탑재한다. 메모리 세대 교체와 GPU 아키텍처 세대 교체가 사실상 맞물려 있는 구조다.

HBM4는 JEDEC 표준 기준으로 스택당 최대 32GB, 핀당 8Gbps 이상의 속도를 목표로 한다. HBM4E(Extended)는 HBM4 기반에서 적층 단수를 늘리거나 인터페이스 속도를 추가로 개선한 변형이다. E는 Extended의 약자로, HBM2E, HBM3E와 동일한 명명 규칙을 따른다. HBM4E가 HBM4 대비 제공하는 주요 개선은 스택당 용량 증가(12층 또는 16층 적층으로 64GB 이상 달성 목표)와 메모리 대역폭 향상(스택당 2TB/s 이상)이다. 또한 하이브리드 본딩(Hybrid Bonding) 기술을 통해 TSV 외에도 Cu-Cu 직접 접합을 활용하는 방향이 논의되고 있다.

SK하이닉스는 2026년 상반기 중 HBM4E 개발 완료를 목표로 발표했다. 개발 완료 이후 고객 검증 단계를 거쳐 양산은 2027년으로 예상된다. 주요 고객인 NVIDIA의 Rubin Ultra 또는 그 다음 세대 가속기에 HBM4E를 공급하는 것이 목표다. SK하이닉스는 HBM4에서 이미 1c(1z nm) DRAM 코어 다이를 사용하며, HBM4E에서는 더욱 미세화된 공정(1b/1a nm 수준)의 코어 다이를 적용해 셀 밀도를 높이고 단위 스택당 용량을 늘리는 방향을 추진하고 있다.

층을 쌓을수록 커지는 과제

HBM 스택의 층 수를 늘리면 용량이 증가하지만 제조 수율이 급격히 낮아진다. 12층 또는 16층 DRAM 다이를 TSV로 수직 관통 연결하는 공정은 단일 레이어에서 발생하는 미세 결함이 전체 스택을 불량으로 만들기 때문에, 적층 단수에 따른 수율 저하가 기하급수적이다. SK하이닉스는 ECC(Error Correcting Code) 기능이 내장된 "스마트 메모리" 구조와 적층 전 다이 레벨 테스트 강화로 이 문제를 완화하는 기술을 개발 중이다.

HBM은 GPU 다이와 같은 패키지 위에 탑재되기 때문에 발열이 집중된다. HBM4E의 전력 소비는 스택당 최대 10~~15W 수준으로 예상되며, B200에 탑재된 HBM3E의 4~~5개 스택 발열과 합산하면 패키지 온도 관리가 시스템 설계의 핵심 과제가 된다. 액체 냉각 모듈의 직접 접촉(Direct Liquid Cooling, DLC)이 HBM4E 탑재 AI 가속기의 기본 냉각 방식으로 자리 잡을 것으로 예상된다.

HBM4E는 TSMC의 CoWoS-S(Chip on Wafer on Substrate) 또는 더 발전된 SoIC(System on Integrated Chips) 패키징 기술과 결합하여 NVIDIA의 차세대 가속기에 탑재된다. 패키징 기술의 발전이 메모리 성능 향상만큼 중요한 변수다. SK하이닉스와 TSMC 간의 기술 협력이 HBM4E의 실제 성능 구현을 위한 전제 조건이다.

⤢✕

ZUFS 4.0이라는 또 다른 축

UFS(Universal Flash Storage)는 스마트폰과 모바일 기기에 사용되는 내장 스토리지 인터페이스 표준이다. JEDEC에서 규정하며, UFS 2.0(2013), UFS 3.0(2018), UFS 3.1(2020), UFS 4.0(2022)을 거쳐 발전해왔다. UFS 4.0은 이론상 최대 23.2Gbps의 전송 속도를 제공한다.

ZUFS는 UFS 인터페이스에 ZNS(Zoned Namespace Storage) 개념을 적용한 기술이다. ZNS는 원래 NVMe SSD에서 사용되는 개념으로, 스토리지를 순차 쓰기만 허용되는 "존(Zone)" 단위로 관리한다. 이 방식은 NAND 플래시 메모리의 물리적 특성(순차 쓰기가 랜덤 쓰기보다 효율적)에 최적화되어 있다. 기존 UFS는 호스트(CPU)가 데이터를 어느 물리 위치에 쓸지 직접 관리하는 방식이 아니라 내부 FTL(Flash Translation Layer)에 의존한다. ZUFS는 이 제어권 일부를 호스트에게 넘겨주어 더 예측 가능하고 효율적인 데이터 배치가 가능하다. 특히 AI 추론 엔진이 모델 가중치를 빠르게 스토리지에서 메모리로 로드하는 패턴에 최적화된다.

SK하이닉스 ZUFS 4.0의 주요 사양은 다음과 같다. 순차 읽기 속도 4.2GB/s, 순차 쓰기 속도 2.8GB/s로 UFS 4.0 표준 대비 읽기 성능이 약 25% 향상된다. ZNS 지원으로 AI 모델 가중치 로딩 지연 시간이 기존 대비 최대 40% 단축된다. 1TB 및 2TB 용량으로 출시되며, 1c NAND 공정(176단 이상 적층)을 적용해 단위 용량당 비용을 개선한다. 저전력 모드에서 전력 소비가 UFS 4.0 대비 약 20% 개선되어 배터리 수명에 긍정적인 영향을 준다.

온디바이스 AI를 빠르게 만드는 법

2026년은 스마트폰에서의 온디바이스 AI 처리가 주요 경쟁 포인트로 부상한 해다. Apple Intelligence, Google Gemini Nano, Qualcomm AI Engine 등 모바일 AI 기능들은 모두 스마트폰에 탑재된 대형 모델 가중치를 빠르게 읽어오는 스토리지 성능에 의존한다. 예를 들어 7B 파라미터 모델을 4-bit 양자화하면 약 4GB의 파일 크기가 된다. 이를 메모리에 로드하는 데 걸리는 시간이 앱 응답 속도를 결정한다. ZUFS 4.0의 4.2GB/s 읽기 속도는 이 로딩 시간을 약 1초 내외로 단축시켜 AI 기능의 첫 응답 지연을 실용적 수준으로 만든다. 2026년 하반기 출시되는 안드로이드 플래그십 스마트폰(삼성 Galaxy S26 시리즈, Google Pixel 11 등)에 ZUFS 4.0이 탑재될 것으로 예상된다. Apple은 자체 설계 UFS 인터페이스를 사용하기 때문에 직접 적용 대상은 아니지만, 업계 전반의 스토리지 성능 기준을 높이는 효과가 있다.

자동차 전장으로 가는 길

ZUFS 4.0의 또 다른 주요 응용 분야는 자동차 전장이다. 자율주행 SoC(Qualcomm Snapdragon Ride, NVIDIA Drive Thor 등)는 고해상도 지도 데이터, 센서 퓨전 모델, 경로 계획 알고리즘 등을 고속으로 저장장치에서 읽어오는 능력이 필수적이다. 차량용 UFS(Automotive Grade UFS)는 -40°C~105°C 온도 범위, 진동 및 충격 내성, 장기 데이터 보존 신뢰성 등 일반 소비자용 UFS보다 훨씬 엄격한 조건을 요구한다. SK하이닉스는 ZUFS 4.0의 차량용 버전을 함께 개발하고 있으며, 2026년 4분기 중 차량용 인증 완료를 목표로 한다.

삼성전자, 마이크론과의 경쟁 구도

HBM 시장에서 SK하이닉스의 최대 경쟁자는 삼성전자다. 삼성전자는 HBM3E에서 수율 문제로 NVIDIA 공급에 어려움을 겪었지만, HBM4 세대에서 경쟁력 회복을 목표로 대규모 투자를 진행 중이다. Micron은 HBM3E를 NVIDIA에 소량 공급하기 시작하면서 시장에 진입했다. HBM4에서 Micron의 점유율이 확대될 경우 SK하이닉스의 독점적 위치가 도전받을 수 있다. SK하이닉스의 HBM4E 조기 개발 완료 목표는 경쟁자들이 따라오기 전에 다음 세대 기술 우위를 선점하려는 전략이다. ZUFS 분야에서는 삼성전자가 자체적으로 유사한 ZNS 지원 모바일 스토리지를 개발 중이다. 두 회사가 거의 동시에 제품을 출시하는 경쟁 구도가 형성되어 있으며, 이는 스마트폰 제조사들에게는 선택지 다양화와 가격 협상력 강화로 이어진다.

SK하이닉스의 HBM4E 개발 목표와 ZUFS 4.0 양산 계획은 AI 시대의 메모리 기술 경쟁이 얼마나 빠르고 치열하게 진행되는지를 보여준다. AI 가속기의 성능 진보는 CUDA 코어나 Tensor 코어 숫자만의 이야기가 아니라, 그 코어에 데이터를 얼마나 빠르게 공급할 수 있느냐는 메모리 대역폭 싸움이기도 하다. HBM4E가 제공할 2.5TB/s 이상의 대역폭은 현재 상상하기 어려운 규모의 AI 모델을 단일 가속기에서 실행하는 길을 열어줄 것이다. 모바일 영역에서는 ZUFS 4.0이 온디바이스 AI의 실용성을 한 단계 높이며, AI가 스마트폰에서 클라우드 없이 동작하는 미래를 앞당긴다.