반도체 산업이 1조 달러를 넘는 동안, 병목은 로직이 아니라 HBM이었다

2026년 반도체 산업이 AI 주도로 연간 1.3조 달러를 돌파하며 사상 최대 규모에 진입했다. 그런데 이 성장을 뜯어보면 이상한 지점이 있다 — 메모리 매출만 6,333억 달러로 전년 대비 3배 가까이 급등하며 이른바 '메모리 인플레이션(memflation)'을 만들어내고 있다는 점이다. HBM과 어드밴스드 패키징이 AI 반도체의 진짜 병목인 이유, 로직 다이와 백엔드 용량 사이의 불균형, SK Hynix·Samsung·Micron의 시장 역학, 그리고 HBM4·CXL로 이어지는 다음 수를 짚어본다.

매출이 늘어난 속도

연도	매출 규모	출처	전년 대비
2024년	~$600B	SIA	기준점
2025년	$791.7B(SIA) / $805.3B(Gartner)	SIA, Gartner	32% 성장
2026년	$1.32T(Gartner)	Gartner(2026.04)	64% 성장

AI 반도체가 2026년 전체 반도체 매출의 약 30%를 차지하고, 하이퍼스케일러의 AI 인프라 투자는 2026년에만 50% 이상 늘었다. 이 성장을 가장 극적으로 보여주는 숫자는 메모리 쪽이다 — 2025년 2,163억 달러에서 2026년 6,333억 달러로, 약 3배 급등했다. Gartner는 이 memflation이 비AI 수요를 2028년까지 지연시킬 수 있다고 경고한다.

⤢✕

병목은 왜 로직이 아니라 HBM인가

산술 강도(arithmetic intensity)라는 개념으로 보면 답이 나온다. 지난 20년간 서버 FLOPS는 2년마다 3.0배씩 성장했는데, DRAM 대역폭은 같은 기간 1.6배, 인터커넥트 대역폭은 1.4배 느는 데 그쳤다. H100 SXM5 기준으로 산술 강도가 591 FLOPs/byte 미만이면 메모리 바운드 상태가 되는데, LLM 추론의 디코드 단계는 산술 강도가 약 1~~2 FLOPs/byte에 불과하다 — 루프라인 대비 200~~600배 낮은 수치다. 연산 능력은 이미 충분한데, 그 연산에 데이터를 먹여줄 대역폭이 못 따라가는 구조다.

공급 집중도도 문제를 키운다. NVIDIA·Google·AMD·Amazon 4대 AI 칩 설계사가 HBM 공급의 90% 이상을 소비하는데, NVIDIA 혼자 69%를 가져간다. 그런데 이들이 쓰는 첨단 로직 다이는 전체 생산의 12%에 불과하다. 병목이 실리콘(로직)이 아니라 패키징과 메모리 쪽에 몰려 있다는 뜻이다.

수급 상황도 이 진단을 뒷받침한다. SK Hynix CFO는 "2026년 HBM 전량 매진(sold out)"이라고 밝혔고, Micron CEO도 "2025~2026년 HBM 생산 역량이 전량 예약 완료"라고 확인했다. HBM 수요는 2025년 전년 대비 130% 이상 성장했고 2026년에도 70% 이상 YoY 성장이 이어지고 있다. 미국 내 신규 팹은 2028년 이후에나 양산이 가능하다.

세대가 바뀌면서 벌어진 격차

항목	HBM3	HBM3E	HBM4	HBM4E
인터페이스 폭	1024-bit	1024-bit	2048-bit	2048-bit
데이터 레이트	6.4 Gb/s	9.6 Gb/s	8 Gb/s	16 Gb/s
스택당 대역폭	819 GB/s	1,229 GB/s	2,048 GB/s	4,096 GB/s
8스택 시스템 대역폭	6.6 TB/s	9.8 TB/s	16.4 TB/s	32.8 TB/s

HBM4의 핵심은 인터페이스 폭을 1024비트에서 2048비트로 두 배 넓힌 아키텍처 전환이고, HBM4E는 여기에 데이터 레이트까지 2배로 올려 스택당 4TB/s를 낸다.

GPU	HBM 종류	용량	대역폭
H100(Hopper)	HBM3	80GB	3.35 TB/s
B200(Blackwell)	HBM3E	192GB	~8 TB/s
B300(Blackwell Ultra)	HBM3E	288GB	~8 TB/s
VR200(Rubin)	HBM4	288GB+	~22 TB/s

B200은 H100 대비 HBM 탑재량이 140% 늘었고, Rubin은 Blackwell 대비 메모리 대역폭이 약 2.8배 향상됐다.

로직은 여유롭고 백엔드는 빡빡하다

⤢✕

Epoch AI 분석에 따르면 AI 칩은 첨단 로직 다이 생산의 12%만 쓰면서 CoWoS/HBM 공급의 90% 이상을 소비한다. 로직 팹 용량은 스마트폰·노트북·자동차 등 여러 시장과 공유되기 때문에 AI가 경쟁 수요를 오버비드해서 점유율을 늘릴 여지가 있지만, CoWoS/HBM은 사실상 AI 전용 수요에 가까워 신규 팹을 짓지 않는 한 확장이 불가능하다. 결국 AI 칩의 리드타임은 거의 전적으로 패키징 가용성이 결정한다.

B200의 원가 구조를 뜯어보면 이 불균형이 숫자로 드러난다. HBM 메모리가 원가의 약 50%(~$3,200), CoWoS 패키징이 약 33%, 로직 다이는 약 17%다. HBM과 패키징을 합치면 원가의 약 2/3에 달한다.

회사들의 점유율 싸움

시기	SK Hynix	Samsung	Micron
Q2 2025	62%	17%	21%
Q3 2025	53~57%	22~35%	11~21%

SK Hynix가 확고한 1위이지만 점유율은 소폭 하락하는 추세이고, Samsung은 HBM3E 인증 통과 효과로 3분기에 점유율을 회복했다. SK Hynix는 2025년 DRAM 전체에서도 처음으로 삼성을 제치고 세계 1위에 올랐다.

2026년 전망으로 눈을 돌리면, Samsung은 HBM3E 인증 확대와 HBM4 양산을 발판 삼아 점유율을 30% 이상으로 끌어올릴 것으로 보이고, Samsung과 SK Hynix를 합치면 글로벌 HBM 생산의 90%를 장악하게 된다. Micron의 HBM 연간 매출 런레이트는 약 80억 달러다. HBM4 양산은 Samsung이 2026년 2월 평택(월간 웨이퍼 170K→연말 250K), SK Hynix도 같은 2026년 2월 이천 M16/청주 M15X(월간 160K)에서 시작했다. 베이스 다이 공정은 SK Hynix가 12nm, Samsung은 10nm급을 쓴다.

가격이 말해주는 것

연도	HBM 시장 규모	전년 대비
2024년	$18B	기준점
2025년	$34~35B	약 2배
2026년	$54.6B	58% 성장

HBM3E는 일반 DDR5보다 GB당 약 5배 비싸고, B200 기준 HBM GB당 가격은 14~~17달러다. 2025년에는 HBM 가격이 5~~10% 인상됐고, 카운터포인트리서치는 D램 가격이 2026년 2분기까지 최대 40% 추가 상승할 수 있다고 본다. SK하이닉스는 DRAM·NAND·HBM 전 제품이 2026년까지 완판 상태다.

이런 가격 흐름의 배경에는 구조적인 이유가 있다. HBM 제조는 일반 DRAM보다 훨씬 복잡하고 수율이 낮아, 같은 양의 실리콘으로 훨씬 적은 메모리 비트를 만들어낸다. 팹이 HBM 생산으로 전환할수록 전체 DRAM 공급이 줄어들고, 이게 다시 가격 상승(memflation)을 부추기는 순환이다.

HBM만으로는 안 되는 부분, CXL

신규 출하 서버의 90% 이상이 이미 CXL을 지원한다. CXL 3.1은 x16 링크에서 128GB/s 대역폭을 널리 지원하고, 2025년 말 발표된 CXL 4.0 사양은 속도를 64GT/s에서 128GT/s로 두 배 올렸다. 2026년 CXL 시장 규모는 18억~25억 달러로 추산된다.

HBM과 CXL은 역할이 다르다. HBM이 GPU 온패키지의 고대역폭 문제를 푼다면, CXL은 시스템 수준의 메모리 용량 확장과 풀링을 담당한다. LLM 추론에서 KV 캐시처럼 대용량 메모리가 필요한 구간을 CXL 기반 외장 메모리로 대응하면 하이퍼스케일러 TCO를 15~20% 절감할 수 있다. Marvell의 Structera S 30260은 260레인 CXL 스위치로 랙 수준 메모리 풀링을 지원하며 총 4TB/s 대역폭을 낸다(2026년 3분기 샘플링 예정).

⤢✕

HBM이 고대역폭 컴퓨트를 맡고 CXL이 대용량 확장을 맡는, GPU 중심의 상호보완적 계층 구조다.

한국이 서 있는 자리

SK하이닉스는 HBM 시장 1위이자 2025년 DRAM 시장 세계 1위를 달성했고, Samsung은 2026년 2월 HBM4 양산을 선제적으로 개시하며 월간 웨이퍼 용량을 47% 확대했다. "AI가 만든 1조달러 반도체 시대"에서 한국은 메모리 분야의 확고한 주연이다. 다만 로직(TSMC)과 패키징(CoWoS) 의존도는 여전히 리스크 요인으로 남아 있고, 2.5D 패키징 수요 급증은 국내 장비 기업들에 수혜로 이어질 것으로 전망된다.

반도체 산업이 1.3조 달러 시대에 들어서면서 AI 워크로드가 메모리 아키텍처를 근본적으로 재편하고 있다. 정작 출하량을 결정하는 것은 로직 다이가 아니라 HBM과 어드밴스드 패키징이라는 백엔드 공정이다. HBM4의 2048비트 인터페이스, CXL 기반 메모리 풀링, 그리고 SK Hynix·Samsung의 양산 경쟁이 이 병목을 얼마나 풀어낼지가 다음 국면을 가를 변수다.