NVIDIA Rubin GPU 2026: 트랜지스터 336B·HBM4 22TB/s 사양과 추론 전용 CPX

Blackwell 후속에 담긴 도박

NVIDIA가 Blackwell 후속으로 차세대 AI 플랫폼 Vera Rubin을 공식 발표했다. 2024년 GTC에서 처음 언급된 이후 2025년 GTC에서 상세 스펙이 공개됐고, 2026년 1월 CES에서 양산 돌입이 선언됐다. NVIDIA 역사상 최초의 6칩 극한 코디자인(Extreme Co-design) 플랫폼이자, HBM4를 처음 탑재한 세대이며, 추론 전용 GPU라는 새로운 카테고리까지 도입했다는 점에서 이번 세대는 스펙 업그레이드를 넘어선 구조적 전환에 가깝다.

TSMC 3nm(N3/N3P) 공정으로 제조되는 Rubin GPU는 트랜지스터 3,360억 개(336B)를 담아 Blackwell(208B) 대비 1.6배 늘었고, HBM4를 8스택 12-Hi 구성으로 288GB 탑재해 메모리 대역폭 22TB/s — Blackwell(8TB/s)의 2.75배를 낸다.

항목	Rubin GPU	Blackwell(B200) 대비
공정	TSMC 3nm	4nm → 3nm
트랜지스터	336B	1.6배
메모리	HBM4 288GB	HBM4 최초 채택
메모리 대역폭	22 TB/s	2.75배
추론 성능(NVFP4)	50 PFLOPS	5배
학습 성능(NVFP4)	35 PFLOPS	3.5배
TDP	최대 2,300W	—

재학습 없이 처리량만 올리는 3세대 Transformer Engine

Rubin GPU의 핵심 혁신은 3세대 Transformer Engine이다. 트랜스포머 레이어별로 정밀도를 동적으로 조절하는 적응형 압축(Adaptive Compression)은 2레벨 마이크로블록 스케일링 방식의 NVFP4 포맷을 쓰고, 데이터 스트림에서 제로값을 실시간 제거하면서 비제로값 정확도는 유지하는 동적 희소성 연산(Dynamic Sparsity)이 함께 작동한다. 기존 Blackwell용 모델을 재프로그래밍 없이 그대로 실행할 수 있으면서도, 모델 정확도 손실 없이 처리량을 대폭 끌어올린다는 게 핵심이다. 추론 시 대부분의 레이어에서 낮은 정밀도가 허용되는 특성을 하드웨어 수준에서 동적으로 활용하기 때문에, 이 기술은 특히 AI 추론 워크로드에서 큰 효과를 낸다.

GPU 혼자가 아니라 6칩이 함께 설계됐다

Vera Rubin 플랫폼은 Rubin GPU 단독이 아니라 총 6개 신규 칩의 극한 코디자인으로 구성된다. AI 연산을 맡는 Rubin GPU, 88코어 Arm 호환 Olympus 코어로 구성된 Vera CPU가 NVLink-C2C로 코히어런트 연결되고, GPU 간 3.6TB/s 양방향 대역폭을 내는 NVLink 6 Switch가 NVL72 랙 내 72개 GPU의 풀메시 연결을 담당한다. 여기에 ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Switch가 네트워크·데이터 경로·스위칭을 나눠 맡는다.

⤢✕

랙 하나로 3.6 엑사플롭스 — NVL72 시스템

Vera Rubin NVL72는 단일 랙 수준에서 엑사플롭스급 성능을 달성하는 시스템이다. 72개 Rubin GPU와 36개 Vera CPU를 묶어 추론 3.6 EFLOPS(NVFP4)·학습 2.5 EFLOPS를 내고, HBM4 총 20.7TB에 총 대역폭 1.6PB/s, 스케일업 대역폭은 NVLink 6 기준 260TB/s에 이른다. 100% 직접 칩 액체냉각(45도C)으로 최대 220kW의 TDP를 감당하며, 호스트 인터페이스는 PCIe Gen 6이다.

항목	사양
GPU 수	72x Rubin GPU
CPU 수	36x Vera CPU
추론 성능	3.6 EFLOPS(NVFP4)
학습 성능	2.5 EFLOPS
HBM4 총 용량	20.7 TB
LPDDR5x 용량	54 TB
HBM 총 대역폭	1.6 PB/s
스케일업 대역폭	260 TB/s(NVLink 6)
냉각	100% 직접 칩 액체냉각(45도C)
TDP	최대 220kW
호스트 인터페이스	PCIe Gen 6

Blackwell과 비교하면 개선폭이 더 뚜렷하다. 추론 토큰 비용은 10배 감소했고, MoE 모델 학습에 필요한 GPU 수는 4배 줄었으며, 와트당 추론 처리량은 최대 10배 향상됐다. 냉각 방식도 Blackwell의 85% 액체+15% 공랭 하이브리드에서 100% 액체냉각으로 전환됐다.

학습용과 추론용 GPU를 아예 나눈 Rubin CPX

Rubin 세대에서 가장 새로운 부분은 NVIDIA가 처음 선보인 추론 전용 GPU 클래스, Rubin CPX다. 100만 토큰 이상의 장문맥 추론에서 프리필(prefill) 단계를 전담하도록 설계됐고, 30 PFLOPS(NVFP4) 성능에 128GB GDDR7 메모리를 탑재해 비용 효율을 노렸다. 어텐션 가속은 GB300 NVL72 대비 3배이며, PCIe Gen 6로 연결되고 NVLink는 쓰지 않는다. 2026년 말 출시가 예정돼 있다.

⤢✕

항목	Rubin CPX 사양
용도	100만+ 토큰 장문맥 추론(프리필 단계 전담)
성능	30 PFLOPS(NVFP4)
메모리	128GB GDDR7(비용 효율)
어텐션 가속	GB300 NVL72 대비 3배
비디오	4x NVENC + 4x NVDEC
연결	PCIe Gen 6(NVLink 미사용)
출시	2026년 말

설계 철학은 명확하다. GDDR7을 탑재한 CPX가 프리필을 전담하고, HBM4를 장착한 표준 Rubin GPU가 디코딩(decode)을 담당하는 이종 구성(disaggregated architecture)으로 자원을 효율적으로 배분하는 접근이다. 144개 Rubin GPU와 144개 Rubin CPX, 36개 Vera CPU를 조합한 NVL144 CPX 랙은 8 EFLOPS, 100TB 고속 메모리, 1.7PB/s 대역폭을 달성한다.

짝수 해엔 신규 플랫폼, 홀수 해엔 Ultra

NVIDIA의 GPU 로드맵은 짝수 해에 신규 플랫폼, 홀수 해에 Ultra 업그레이드를 내놓는 1년 주기 리듬을 따른다.

시기	아키텍처	주요 특징
2024	Blackwell	208B 트랜지스터, HBM3e
2025	Blackwell Ultra	Blackwell 강화 버전
2026 H2	Vera Rubin	336B 트랜지스터, HBM4, 50 PFLOPS
2026 말	Rubin CPX	추론 전용, GDDR7, 30 PFLOPS
2027 H2	Rubin Ultra	4다이 구성, HBM4E 1TB, 100 PFLOPS
2028	Feynman	차차세대, HBM5 가능성

⤢✕

2027년 등장할 Rubin Ultra는 4개 GPU 다이를 패키지로 묶는 쿼드 칩릿 구성으로, 100 PFLOPS FP4 추론에 1TB HBM4E 메모리를 얹는다. 144 GPU(576 컴퓨트 칩릿)로 구성된 NVL576 시스템은 365TB 메모리를 갖추며, GB300 NVL72 대비 추론·학습 성능이 14배에 이를 것으로 전망된다.

2026년 하반기부터 배포되는 클라우드 생태계

2026년 하반기 최초 배포 예정 클라우드 파트너로는 AWS, Google Cloud, Microsoft Azure, Oracle Cloud(OCI) 같은 하이퍼스케일러와 CoreWeave, Lambda, Nebius, Nscale 같은 AI 클라우드가 이름을 올렸다. Microsoft는 Rubin 대규모 배포를 위한 전략적 데이터센터 계획을 별도로 공개했고, Jensen Huang CEO는 CES 2026에서 "AI 팩토리가 기가와트급으로 진화할 것"이라고 밝혔다.

NVIDIA Vera Rubin은 6칩 코디자인, HBM4, 3세대 Transformer Engine, 추론 전용 CPX라는 네 가지 축으로 AI 인프라의 새 기준을 세운다. 추론 토큰 비용 10배 감소와 와트당 성능 10배 향상은 AI 서비스의 경제성을 근본적으로 바꿀 변수이고, 2026년 하반기부터 주요 클라우드에 순차 배포된 뒤 1년 후 Rubin Ultra가 다시 한번 성능을 배가할 예정이어서 AI 컴퓨팅 인프라 투자 계획을 세울 때 반드시 고려해야 할 아키텍처다.