NVIDIA Rubin, 왜 칩을 6개나 새로 설계했나

NVIDIA가 GPU 한 개를 잘 만드는 방식에서 벗어나, 역사상 처음으로 6개 칩을 하나의 플랫폼으로 통째로 설계했다. GPU, CPU, 인터커넥트 스위치, SuperNIC, DPU, 이더넷 스위치까지 6종의 커스텀 실리콘을 극한 코디자인(Extreme Co-design)으로 완성한 Vera Rubin은 Blackwell 대비 추론 5배, 토큰 비용 10배 절감을 내세운다. 이 6칩 구성이 어떻게 짜였는지, NVLink 6가 인터커넥트를 어떻게 확장했는지, 그리고 추론 전용으로 새로 만든 Rubin CPX가 왜 필요했는지를 살펴본다.

6개 칩, 각자의 자리

#	칩 이름	역할	핵심 사양
1	Rubin GPU (VR200)	AI 연산 핵심	TSMC 3nm, 336B 트랜지스터, 50 PFLOPS
2	Vera CPU	ARM 호스트 프로세서	88코어 Olympus, 227B 트랜지스터
3	NVLink 6 Switch	GPU 간 인터커넥트	3.6 TB/s 양방향, 72 GPU 풀메시
4	ConnectX-9 SuperNIC	네트워크 인터페이스	포트당 800 Gb/s
5	BlueField-4 DPU	데이터 처리 유닛	64코어 Grace CPU, 20M IOPs
6	Spectrum-6 Switch	이더넷 스위칭	102.4 Tb/s 총 대역폭

이전 세대까지는 GPU와 CPU 중심으로 설계가 이뤄졌다면, Rubin은 여기에 네트워킹과 데이터 처리까지 얹어 단일 플랫폼으로 통합 설계한 첫 사례다.

⤢✕

6개 칩이 각각 독립적으로 최적화되면서도 전체가 하나의 시스템처럼 맞물려 동작하는 것이 이 코디자인 철학의 핵심이다.

Rubin GPU: 연산의 중심

항목	Rubin (VR200)	Blackwell (B200)	향상 배율
공정	TSMC N3 (3nm)	TSMC 4NP	풀 노드 쉬링크
트랜지스터	336B	208B	1.6배
SM 수	224	128	1.75배
텐서 코어	5세대	4세대	세대 업
NVFP4 추론	50 PFLOPS	10 PFLOPS	5배
NVFP4 학습	35 PFLOPS	10 PFLOPS	3.5배
FP64 매트릭스	200 TFLOPS	-	HPC 강화
메모리	HBM4, 288GB	HBM3E, 192GB	1.5배 용량
메모리 대역폭	22 TB/s	8 TB/s	2.75배
NVLink 대역폭	3.6 TB/s	~1.8 TB/s	2배

Blackwell과 마찬가지로 듀얼 Reticle-sized 다이 구조를 유지하지만, GPU당 최대 2,300W TDP까지 전력을 끌어쓴다. SHARP 인네트워크 컴퓨트는 all-reduce 통신 트래픽을 최대 50% 줄인다.

Rubin에 들어간 3세대 Transformer Engine은 세 가지 축으로 작동한다. 레이어별로 정밀도를 동적으로 조절하는 적응형 압축(FP4/FP8/FP16 혼합), 제로값을 실시간 제거해 연산 밀도를 극대화하는 동적 희소성, 그리고 기존 Blackwell 모델을 재프로그래밍 없이 그대로 실행할 수 있는 호환성이다. CUDA 13과 TensorRT 11 최적화도 함께 지원한다.

Vera CPU: NVIDIA의 첫 커스텀 코어

항목	Vera CPU	Grace CPU (이전 세대)
코어	88 Olympus (ARM v9.2)	72 Neoverse V2
스레드	176 (Spatial Multi-Threading)	72
트랜지스터	227B	-
시스템 메모리	1.5TB LPDDR5X	480GB LPDDR5X
메모리 대역폭	1.2 TB/s	500 GB/s
L3 캐시	162MB 통합	-
CPU-GPU 연결	NVLink-C2C 1.8 TB/s	NVLink-C2C 900 GB/s

Olympus는 NVIDIA가 처음 만든 커스텀 CPU 코어다. ARM ISA와 호환되지만 마이크로아키텍처는 독자 설계이며, Grace 대비 메모리 대역폭 2.4배·용량 3배를 확보했다. NVLink-C2C로 CPU와 GPU가 코히어런트 메모리를 공유해, 사실상 통합 메모리 주소 공간처럼 동작한다.

NVLink 6와 네트워킹 3종

NVLink 6 Switch는 GPU당 3.6TB/s 양방향 대역폭(이전 세대 대비 2배)으로 NVL72 랙 안 72개 GPU를 풀메시로 묶는다. 랙당 스케일업 대역폭은 260TB/s이며, SHARP 인네트워크 컴퓨트가 텐서 병렬 실행 시간을 20% 줄여준다.

ConnectX-9 SuperNIC은 포트당 800Gb/s, Rubin GPU 한 개당 1.6Tb/s 네트워크 대역폭을 스케일아웃 통신에 전담한다. BlueField-4 DPU는 64코어 Grace CPU(Arm Neoverse V2)를 얹고 800Gb/s 연결·128GB 메모리·20M IOPs NVMe 스토리지 가속을 담당하며, 보안·네트워크 가상화·스토리지 오프로드를 처리한다. Spectrum-6 이더넷 스위치는 512×200Gb/s 포트에 Co-Packaged Optics(CPO)를 적용해 총 102.4Tb/s 대역폭을 낸다. Spectrum-X 기술은 가변 all-to-all 작업 완료 시간을 표준 이더넷 대비 3배 개선한다.

NVL72 랙으로 묶었을 때

항목	Vera Rubin NVL72	Blackwell NVL72	향상
NVFP4 추론	3.6 EFLOPS	~720 PFLOPS	5배
NVFP4 학습	2.5 EFLOPS	~720 PFLOPS	3.5배
HBM 용량	20.7 TB	~14 TB	1.5배
HBM 대역폭	1.6 PB/s	~576 TB/s	2.8배
스케일업 대역폭	260 TB/s	~130 TB/s	2배
추론 토큰 비용	기준	10배 비쌈	10배 절감
MoE 학습 GPU 수	기준	4배 필요	4배 절감

72 Rubin GPU와 36 Vera CPU, ConnectX-9, BlueField-4, NVLink 6 Switch, Spectrum-6까지 6칩이 한 랙에 들어간다. 100% 직접 칩 액체냉각(45°C)과 GPU당 400J 에너지 저장장치(이전 대비 6배)로 열과 전력을 관리하며, 케이블-프리 모듈러 트레이(3세대 MGX) 덕에 조립·서비스 속도가 Blackwell 대비 18배 빨라졌다. 랙 하나에 들어가는 부품 수는 약 130만 개다.

Rubin CPX: 추론만을 위한 새 GPU 클래스

GTC 2026에서 발표된 Rubin CPX는 대규모 컨텍스트 추론 전용으로 만들어진 최초의 CUDA GPU다.

항목	Rubin CPX	Rubin SXM (VR200)
용도	100만+ 토큰 장문맥 추론	범용 학습/추론
성능 (NVFP4)	30 PFLOPS	50 PFLOPS
메모리	128GB GDDR7	288GB HBM4
어텐션 가속	GB300 대비 3배	기준
비디오	4x NVENC + 4x NVDEC	-
연결	PCIe Gen 6	NVLink 6
다이 구조	모놀리식	듀얼 다이

HBM 대신 GDDR7을 쓴 이유는 명확하다 — 프리필 단계처럼 컴퓨트가 몰리는 구간을 비용 효율적으로 처리하기 위해서다.

⤢✕

NVL144 CPX 랙은 144개 Rubin GPU와 144개 Rubin CPX, 36개 Vera CPU로 구성돼 총 8EFLOPS, 100TB 메모리를 내며 GB300 NVL72 대비 7.5배 AI 성능을 낸다. 투자 대비 수익은 $100M 투자당 $5B 토큰 수익이 가능하다는 계산이고, 출시는 2026년 말이다.

NVLink Fusion: 경쟁이 아니라 포섭

GTC 2026에서 함께 발표된 NVLink Fusion은 서드파티 칩이 NVLink 6에 직접 붙을 수 있게 여는 이니셔티브다. AMD, Qualcomm, Intel, MediaTek 같은 서드파티 프로세서가 대상이며, NVLink-C2C 기술을 라이선스받아 이종 칩 혼합 서버를 구성할 수 있다. GPU뿐 아니라 인터커넥트 표준까지 플랫폼을 장악하려는 전략으로 읽히며, 결과적으로 경쟁사 CPU·가속기도 NVLink 생태계 안으로 들어오게 된다.

로드맵: 짝수 해 신제품, 홀수 해 업그레이드

시기	아키텍처	주요 특징
2024	Blackwell	208B, HBM3E, NVL72 최초 도입
2025 H2	Blackwell Ultra (B300)	288GB HBM3E, 1.5x FP4
2026 H2	Vera Rubin (VR200)	3nm, HBM4, NVLink 6, 50 PFLOPS
2026 말	Rubin CPX	추론 전용, GDDR7, 30 PFLOPS
2027 H2	Rubin Ultra (VR300)	4다이 칩렛, 100 PFLOPS, 1TB HBM4E, NVL576
2028	Feynman	3D 스태킹, 커스텀 HBM, NVLink 8

2026년 1분기에 풀 프로덕션이 시작됐는데, 이는 초기 가이던스보다 앞당겨진 일정이다. 생산 예상 물량은 2026년 20만~30만 유닛이며, TSMC 패키징과 HBM4 공급이 제약 요인으로 꼽힌다. 클라우드 진영에서는 AWS·Google Cloud·Microsoft Azure·Oracle Cloud, AI 클라우드로는 CoreWeave·Lambda·Nebius·Nscale, 하드웨어 OEM으로는 Cisco·Dell·HPE·Lenovo·Supermicro가 생태계에 참여한다. 소프트웨어는 CUDA 13, TensorRT 11, 300개 이상 모델을 지원하는 NVIDIA NIM으로 뒷받침된다.

데이터센터가 따라가야 할 변화들

Jensen Huang이 말하는 "AI 팩토리" 비전은 전력 규모를 메가와트에서 기가와트로 밀어올리고 있다. Intelligent Power Smoothing은 GPU당 400J 에너지 저장으로 전력 피크를 평활화한다. 냉각은 45°C 직접 칩 액체냉각이 사실상 필수가 됐고, 랙 밀도 200kW 이상을 감당하려면 공랭으로는 애초에 불가능하다. 3세대 MGX의 케이블-프리 트레이 설계는 세대 간 업그레이드(Blackwell→Rubin 현장 교체)를 쉽게 만들었고 조립 시간을 18배 줄였다. 토큰당 비용이 1/10로 줄면서 대규모 AI 서비스의 경제성이 근본적으로 달라졌고, ICMS(Inference Context Memory Storage)는 토큰/초 최대 5배, 전력 효율 5배 향상을 낸다. 마지막으로 Rubin SXM(학습)과 Rubin CPX(추론)를 섞어 배치하는 이종 가속기 구성이, NVLink Fusion으로 서드파티 칩까지 포함하는 형태로 확장되고 있다.

6개 칩을 통째로 코디자인한다는 것은 곧 GPU 혼자서는 이 성능 도약을 만들 수 없다는 뜻이기도 하다. Rubin GPU의 3nm·50PFLOPS, Vera CPU의 88코어 Olympus, NVLink 6의 3.6TB/s, 그리고 추론 전용 Rubin CPX까지 — 6개 칩이 맞물려야 Blackwell 대비 추론 5배, 토큰 비용 10배 절감이 나온다. NVLink Fusion으로 서드파티 칩까지 끌어들이는 행보는 NVIDIA의 다음 목표가 GPU 판매를 넘어선 곳에 있음을 보여준다.