메모리 슈퍼사이클의 이면: DRAM·SSD 품귀와 HBF가 그리는 계층형 아키텍처
AI 데이터센터가 고급 DRAM 생산량의 70%를 흡수하며 촉발된 2026년 메모리 품귀 사태와, HBM을 보완하는 낸드 기반 HBF·CXL 계층형 메모리 아키텍처로의 전환을 정리한다.
2026-08-12 · 최초 발행 2026-04-17
AI가 삼킨 70%, 소비자 시장까지 번진 가격 충격
글로벌 메모리 공급업체들이 2026년 말까지 지속될 DRAM·SSD 부족을 경고하고 있다. 원인은 단순하다 — AI 데이터센터가 2026년 고급 DRAM 생산량의 70%를 가져가면서, 삼성·SK하이닉스·마이크론 3사가 제한된 클린룸 생산능력을 고마진 HBM에 우선 배분하고 있기 때문이다. IDC는 2026년 DRAM 공급 성장률을 16%, NAND를 17%로 전망하는데 둘 다 역대 평균을 밑돈다. 그 결과 HBM 웨이퍼가 차지하는 비중은 전체 DRAM 생산량의 5% 미만에서 23~30%까지 급증했다.
공급이 조여지자 재고와 가격 지표가 먼저 반응했다. 글로벌 DRAM 재고는 23주분, NAND 재고는 34주분으로 각각 역사적 최저 수준까지 떨어졌다.
| 항목 | 현황 |
|---|---|
| 글로벌 DRAM 재고 | 2~3주분(역사적 최저) |
| 글로벌 NAND 재고 | 3~4주분(역사적 최저) |
| DDR5 계약 가격 | 개당 7달러 → 19.50달러(100%+ 급등) |
| 삼성 32GB DDR5 모듈 | 149달러 → 239달러(약 60% 인상) |
| 서버 DRAM 가격 | Q1 2026 60~70% 인상 추진 |
| NAND Flash | Q1 2026 33~38% QoQ 상승 |
이 가격 충격은 소비자 시장까지 그대로 번졌다. Gartner와 IDC는 2026년 전 세계 PC 출하량이 1011%, 스마트폰 출하량이 89% 감소할 것으로 전망했고, 노트북 가격은 최대 90만~100만 원 인상됐다. PC 평균 가격은 연말까지 20% 추가 상승이 예상된다. SK하이닉스는 2026년 HBM·DRAM·NAND 생산량이 "사실상 완판"됐다고 밝혔고, Micron은 소비자 브랜드 'Crucial'을 접고 기업·AI 고객에 생산능력을 집중하기로 했다.
HBF — HBM을 대체하는 게 아니라 보완하는 낸드 메모리
이 공급 위기 속에서 업계가 주목하는 대안 기술이 HBF(High Bandwidth Flash)다. HBM과 동일한 TSV(Through-Silicon Via) 기술로 여러 레이어를 수직 적층하되, DRAM 대신 NAND 플래시를 쓴다는 점이 다르다. 같은 적층 구조에서 재료만 바꿔 용량 대비 비용을 획기적으로 낮춘 기술이다.
HBM4와 나란히 놓고 보면 HBF의 포지셔닝이 분명해진다. HBM4가 최대 2TB/s 대역폭과 ns 수준의 지연시간으로 AI 학습·저지연 추론을 맡는다면, HBF는 400800GB/s 대역폭에 us 수준 지연시간을 감수하는 대신 스택당 최대 512GB — HBM4의 816배에 달하는 용량으로 모델 가중치와 KV 캐시 같은 읽기 집중 데이터를 담당한다.
| 항목 | HBM4(2026) | HBF Gen1(2026 샘플) |
|---|---|---|
| 기반 기술 | DRAM | NAND Flash |
| 스택당 용량 | 64~100 GB | 최대 512 GB(8~16배) |
| 대역폭 | 최대 2 TB/s | 400~800 GB/s |
| 레이턴시 | ns 수준 | us 수준(DRAM 대비 느림) |
| 소비전력 | 기준 | HBM 대비 약 40% 절감 |
| 쓰기 내구성 | 사실상 무제한 | 약 10만 회(읽기 집중 적합) |
| 주요 용도 | AI 학습, 저지연 추론 | AI 추론(모델 가중치, KV 캐시) |
| 와트당 대역폭 | 기준 | 6.4 GB/s/W 이상 |
로드맵도 이미 세대별로 그려져 있다. Gen1이 2026년 하반기 400800GB/s·512GB 사양으로 샘플 출하되면, Gen2(20272028)는 2TB/s 이상·1TB로, Gen3(2029년 이후)는 3.2TB/s·1.5TB로 확장된다.
| 세대 | 대역폭 | 용량 | 시기 |
|---|---|---|---|
| Gen1 | 400~800 GB/s | 512 GB | 2026 H2 샘플 |
| Gen2 | 2+ TB/s | 1 TB | 2027~2028 |
| Gen3 | 3.2 TB/s | 1.5 TB | 2029+ |
SK하이닉스가 제안한 H3(HBM+HBF Hybrid) 아키텍처는 이 둘을 한 시스템 안에서 역할 분담시킨다. 활성 가중치·그래디언트 같은 고속 연산 데이터는 HBM4에, 모델 가중치·KV 캐시 같은 대용량 읽기 전용 데이터는 HBF에 배치하고 필요할 때만 HBM으로 승격시키는 구조다.
이 조합의 효과는 수치로 확인된다. HBM 단독 대비 와트당 성능이 최대 2.69배 향상되고, 1000만 토큰 KV 캐시 기준으로는 HBM+HBF 조합이 HBM 단독 대비 18.8배 더 많은 동시 쿼리를 처리할 수 있다.
업체들의 움직임도 빨라졌다. SK하이닉스와 SanDisk는 2025년 8월 MoU를 체결하고 2026년 2월부터 글로벌 표준화에 착수했으며, 2026년 하반기 샘플 출하와 2027년 초 AI 추론 시스템 첫 적용을 목표로 잡고 있다. 삼성은 독자 HBF 솔루션 설계에 착수해 AI 메모리·스토리지 아키텍처를 전면 재편 중이고, 키옥시아(Kioxia)도 HBF 경쟁에 참여했다.
HBM4가 요구하는 대역폭, 그리고 AI 서버의 메모리 스케일
2026년 양산되는 HBM4는 인터페이스 폭이 2048비트로 HBM3e(1024비트)의 두 배다. 데이터 전송 속도 6~8+ Gbps에 총 대역폭 2TB/s 이상을 내며, 12-Hi와 16-Hi(24/32Gb DRAM 레이어) 스택 구성 중 16-Hi 스택은 2026년 4분기를 타겟으로 한다.
이 정도 대역폭이 필요한 이유는 AI 서버의 메모리 요구량 자체가 커졌기 때문이다. 멀티GPU AI 서버는 시스템 DDR5 RAM이 총 GPU HBM/VRAM 용량의 34배 필요하고, AI 가속기 탑재 서버는 통상 24TB의 DDR5 시스템 RAM을 장착한다. 1조 파라미터급 대규모 LLM은 추론만으로 수 TB의 메모리를 요구한다. BofA는 2026년 HBM 시장 규모를 546억 달러(전년 대비 58% 성장)로 추정하며, 글로벌 DRAM 매출은 51%, NAND는 45% 성장할 것으로 전망된다.
단일 계층에서 다층 계층으로 — 차세대 메모리 아키텍처
2026년부터 AI 데이터센터의 메모리 구조는 GPU에 가까운 순서대로 HBM4·HBF·DDR5·CXL 메모리 풀·NVMe SSD가 층을 이루는 다층 계층으로 전환되고 있다.
이 계층 구조를 실제로 가능케 하는 축이 CXL(Compute Express Link) 메모리 풀링이다. 2026년 신규 출하 서버의 90% 이상이 CXL을 지원할 전망이며, CXL 3.1은 PCIe 6.1 기반으로 x16 링크에서 양방향 128GB/s 처리량을 낸다. 2025년 11월 발표된 CXL 4.0 사양은 PCIe 7.0 물리 계층에서 128GT/s를 목표로 한다. VectorDB·RAG 시스템에서는 CXL 확장 메모리를 쓸 때 DRAM 단독 대비 최대 19% 성능 향상이 확인됐고, 추론 워크로드에서는 200G RDMA 대비 CXL 메모리 풀이 3.8배 속도 향상을 보였다. 2028년까지 CXL 시장 규모는 160억 달러, 서버 CXL 장착률은 30%에 이를 것으로 전망된다.
계층별로 대역폭과 용량, 역할이 뚜렷이 나뉜다.
| 계층 | 기술 | 대역폭 | 용량 | 역할 |
|---|---|---|---|---|
| L1 | HBM4 | 2 TB/s | 64~100 GB | 활성 연산, 그래디언트 |
| L2 | HBF | 400~800 GB/s | 512 GB | 모델 가중치, KV 캐시 |
| L3 | DDR5 | ~100 GB/s | 2~4 TB | 시스템 메모리, 배치 데이터 |
| L4 | CXL 풀 | 128 GB/s | 수십 TB | 공유 메모리, 분산 캐시 |
| L5 | NVMe SSD | ~14 GB/s | 수백 TB | 체크포인트, 데이터셋 |
이 위기는 일시적일까 — 업체들의 베팅
메모리 3사의 2026년 투자 계획은 이 구조적 전환에 베팅하는 규모다.
| 업체 | CapEx | 증가율 |
|---|---|---|
| Micron | 135억 달러 | 23% |
| SK하이닉스 | 205억 달러 | 17% |
| 삼성 | 200억 달러 | 11% |
전체 DRAM CapEx는 613억 달러(14% 성장), NAND CapEx는 222억 달러(5% 성장)로 전망된다. 일부 분석가는 이 공급 부족이 2027년까지, 잠재적으로는 최대 10년간 지속될 수 있다고 본다. 일시적인 수급 불일치가 아니라 세계 실리콘 웨이퍼 용량이 AI 쪽으로 영구적·전략적으로 재배치되는 과정이라는 해석이다. UBS는 NVIDIA Rubin 플랫폼용 HBM 수요를 기준으로 SK하이닉스의 HBM 시장 점유율이 약 70%에 이를 것으로 예상한다.
AI 워크로드 폭증이 글로벌 메모리 공급 구조를 근본적으로 재편하고 있다. HBM에 집중된 생산 자원 배분이 범용 DRAM·NAND 부족과 가격 급등을 야기하는 구조적 불균형은 최소 2027년까지 이어질 전망이다. HBF는 HBM의 대체재가 아니라 보완재로서, H3 하이브리드 아키텍처와 CXL 메모리 풀링을 결합한 계층형 구조가 차세대 AI 데이터센터의 표준으로 자리잡아가고 있다.
Sources
- IDC Global Memory Shortage Crisis
- Tom's Hardware - Data Centers Consume 70% of Memory Chips
- TrendForce - SK hynix Unveils AI Chip Architecture with HBF
- Tom's Hardware - SanDisk and SK hynix Standardize HBF
- EE Times - NAND Reimagined in High-Bandwidth Flash
- SanDisk HBF Fact Sheet
- Samsung Warns of Memory Shortages - Network World
- Neumonda - Memory Market 2026
- SK hynix 2026 Market Outlook
- Compute Express Link - Overcoming AI Memory Wall
- Bloomberg - Rampant AI Demand Fueling Growing Chip Crisis
- 글로벌이코노믹 - 삼성 DRAM 가격 2.6배