NVIDIA가 Rubin을 서둘러 꺼낸 이유 — 커스텀 실리콘 추격전의 전면화

NVIDIA가 Blackwell Ultra 출하 직후 수개월 만에 차세대 AI 칩 Rubin을 CES 2026 및 GTC 2026 무대에서 조기 공개했다. 1년 주기 플랫폼 전환(Yearly Cadence)을 선언한 이후 처음 실행된 이 조기 공개는 TSMC 3nm 공정, HBM4 메모리, NVFP4 50 PFLOPS라는 세대 간 대도약을 선보이는 동시에, Google TPU·Amazon Trainium·Microsoft Maia·Meta MTIA 등 하이퍼스케일러 커스텀 실리콘의 맹추격에 대한 전면적 응답이기도 하다.

발표 템포가 왜 빨라졌나

직전 세대인 Blackwell(B200)은 2024년 공개됐고 Blackwell Ultra(B300)는 2025년 하반기에야 출하됐다. 그런데 Rubin은 CES 2026(1월)에서 플랫폼 윤곽을 먼저 보여준 뒤 GTC 2026(3월)에서 6칩 세부 구성을 공개하는 두 단계 노출을 택했다. 생산은 2026년 1분기에 풀 프로덕션을 시작해 초기 가이던스보다 앞당겨졌고, 고객 출하는 2026년 하반기로 잡혔다. 후속작인 Rubin Ultra는 2027년 하반기에 4다이 칩렛과 100 PFLOPS 성능, NVL576 랙 구성으로 이어지며, 2028년에는 3D 스태킹과 커스텀 HBM, NVLink 8을 갖춘 Feynman이 예정돼 있다.

템포가 빨라진 배경은 크게 네 가지로 읽힌다. Google TPU v7, AWS Trainium3, Microsoft Maia 200 등 ASIC 물량 확대가 2026년부터 본격화되는 커스텀 실리콘 위협이 첫째다. 전체 AI 컴퓨트의 3분의 2가 추론으로 이동하면서 토큰당 비용 경쟁이 핵심 변수로 떠오른 추론 경제성 전환이 둘째, CoWoS·HBM 공급 계약에서 1년 템포를 유지하는 것 자체가 TSMC 캐파 우선권을 확보하는 조건이라는 점이 셋째다. 여기에 하이퍼스케일러의 CAPEX 가속에 맞춰 제품을 공급해야 하는 AI 인프라 5,000억 달러 슈퍼사이클이 넷째 배경으로 꼽힌다.

Rubin(VR200), Blackwell과 무엇이 다른가

항목	Rubin (VR200)	Blackwell (B200)	향상 배율
공정	TSMC N3 (3nm)	TSMC 4NP	풀 노드 쉬링크
트랜지스터	336B	208B	1.6배
SM 수	224	128	1.75배
텐서 코어	5세대	4세대	세대 업
NVFP4 추론	50 PFLOPS	10 PFLOPS	5배
NVFP4 학습	35 PFLOPS	10 PFLOPS	3.5배
메모리	HBM4 288GB	HBM3E 192GB	1.5배 용량
메모리 대역폭	22 TB/s	8 TB/s	2.75배
NVLink 대역폭	3.6 TB/s	1.8 TB/s	2배
다이 구성	듀얼 레티클 다이	듀얼 레티클 다이	동일
TDP	최대 2,300W	1,000W	2.3배

HBM4를 세계 최초로 상용 채택한 것도 이번 세대의 특징이다. SK하이닉스·삼성·마이크론 3사가 공급하며 스택당 12Hi로 구성된다. 대역폭이 2.75배로 뛰면서 대형 파운데이션 모델의 메모리-바운드 병목이 완화되고, SHARP 인네트워크 컴퓨트는 all-reduce 통신 트래픽을 50% 줄이고 텐서 병렬 실행을 20% 단축한다. NVLink-C2C는 1.8TB/s 대역폭으로 Vera CPU와 코히어런트 메모리를 통합한다.

GPU 하나가 아니라 칩으로 코디자인한 플랫폼

⤢✕

기존 세대가 GPU·CPU 중심이었다면, Rubin은 네트워킹·DPU·이더넷 스위치까지 단일 플랫폼으로 코디자인한 최초 사례다. NVIDIA가 표방해온 극한 코디자인(Extreme Co-design)이라는 설계 철학이 이번 세대에서 실체화됐다.

학습용 GPU와 추론 전용 GPU를 분리하다

⤢✕

Rubin CPX는 100만 토큰 이상의 컨텍스트에 특화된 최초의 추론 전용 CUDA GPU다. HBM 대신 GDDR7 128GB를 탑재해 비용 효율을 극대화했고, 어텐션 가속은 GB300 대비 3배, 4개의 NVENC와 4개의 NVDEC를 내장해 비디오 가속까지 지원한다. 실제 배치에서는 Rubin SXM(학습·디코딩)과 Rubin CPX(프리필)를 섞어 쓰는 이종 구성이 상정돼 있으며, NVIDIA는 1억 달러 투자당 50억 달러 규모의 토큰 수익이 가능하다는 수치를 공식적으로 제시하고 있다.

하이퍼스케일러들의 자체 칩이 만드는 경쟁 지형

업체	칩	공정/메모리	핵심 지표	상태
Google	TPU v7 Ironwood	HBM3E	4.7x 학습 성능(v5e 대비)	100K+ 클러스터 배포
Amazon	Trainium3	HBM3E 144GB	2.52 PFLOPS FP8	Anthropic·OpenAI 채택
Microsoft	Maia 200	TSMC 3nm, HBM3E 216GB	FP4 Trainium3 대비 3배	2026 상반기 배포
Meta	MTIA 300~500	RISC-V 기반	세대 간 25배 컴퓨트 향상	2026년 3월 4세대 발표
OpenAI	자체 ASIC	Broadcom 협업	추론 특화	2026년 테이프아웃

커스텀 ASIC 시장은 CAGR 44.6%로 성장하고 있는데, 이는 GPU 솔루션의 CAGR 16.1% 대비 3배에 가까운 속도다. 공통적으로 추론 워크로드를 겨냥하고, HBM을 탑재하며, ICI·EFA·MCCL 같은 자체 인터커넥트를 개발하는 전략을 취한다. ASIC 설계는 초기 투자로 수천만에서 수억 달러가 필요하고, 그중에서도 대규모 실배포에 이른 곳은 Google 정도가 유일하다.

GPU 진영에서도 카운터가 나온다. AMD MI450은 2027년 1분기 출시로 Rubin과 동세대 경쟁을 벌이며, Helios 랙은 72 GPU와 Open Rack Wide 표준(Meta 공동 설계)을 통해 하이퍼스케일러의 벤더 락인을 해소할 옵션으로 제시된다. Intel Gaudi 4는 2026년 하반기 출시로 자체 HBM 인터페이스와 에셜론 네트워킹을 갖추고, AWS·IBM을 중심으로 채택되며 가격 경쟁력으로 중간 세그먼트를 공략한다.

NVIDIA의 시장 점유율은 어디까지 방어될까

2026년 현재 NVIDIA는 AI 학습 가속기 시장의 약 80%를 점유하고 있다. 그러나 분석가들은 2028년 추론 시장 점유율이 90%대에서 20~30%까지 하락할 수 있다고 추정한다. 시장 구조 자체가 학습 중심에서 추론 중심으로 옮겨가면서 커스텀 ASIC의 점유율이 함께 상승할 여지가 크기 때문이다.

NVIDIA의 방어 전략은 네 갈래로 정리된다. Rubin CPX로 추론 전용 세그먼트에 정면 대응하고, NVLink Fusion으로 AMD·Qualcomm·MediaTek을 포함한 이종 칩 생태계를 편입시킨다. CUDA 13과 TensorRT 11, 300종 이상의 모델을 지원하는 NIM으로 소프트웨어 락인을 강화하는 한편, CoWoS·HBM4 공급망을 선점해 경쟁사의 공급 자체를 제약하는 전략도 병행한다.

데이터센터가 감당해야 할 변화

전력 규모는 MW에서 GW로 진화하는 기가와트급 AI 팩토리가 표준이 되고 있다. 45°C 직접 칩 냉각을 전제로 랙 밀도 200kW 이상을 요구하는 100% 액체냉각이 필수가 됐고, 스케일업 도메인은 NVL72에서 NVL144 CPX, NVL576으로 커지고 있다. Spectrum-6에는 512x200Gb/s 광 포트를 지원하는 Co-Packaged Optics(CPO)가 도입됐고, Meta가 주도하는 Open Rack Wide 표준은 AMD·NVIDIA 양쪽에서 간접적으로 수렴하고 있다. 전력 예산 역시 GPU당 400J 에너지 저장장치와 Intelligent Power Smoothing으로 재설계되는 중이다.

도입을 검토한다면 무엇을 봐야 하나

CoWoS·HBM4 병목 탓에 대규모 도입은 18~24개월의 리드타임을 필요로 한다. GPU 구매가만이 아니라 3년치 전력·냉각·공간 비용을 통합 평가하는 TCO 분석이 필수이고, 학습 집약 조직은 Rubin SXM, 추론 서비스 제공자는 Rubin CPX를 섞는 워크로드 매칭이 필요하다. CUDA 종속을 그대로 감당할지, OpenXLA·ROCm·Triton으로 소프트웨어 스택을 분산할지도 결정해야 한다. NVIDIA 단독 대신 AMD MI450과 ASIC을 병행해 협상력을 확보하는 벤더 다변화 옵션도 있고, 기존 공랭 데이터센터는 Rubin NVL72를 그대로 수용할 수 없는 만큼 액침·직접 냉각으로의 인프라 전환도 함께 검토해야 한다.

NVIDIA Rubin의 조기 공개는 단순한 제품 리프레시가 아니라 커스텀 실리콘 경쟁에 대한 전면적 응답이다. HBM4 22TB/s 대역폭, NVFP4 50 PFLOPS, 6칩 극한 코디자인, 추론 전용 Rubin CPX라는 신규 GPU 클래스까지—Blackwell 대비 5배 추론 성능은 하이퍼스케일러가 ASIC 전환을 재검토하게 만드는 강력한 제안이다. 그러나 Google TPU·AWS Trainium·Microsoft Maia의 CAGR 44.6% 성장은 NVIDIA의 독점이 영원하지 않음을 시사하며, 2026~2028년이 AI 가속기 시장의 권력 구조가 재편되는 결정적 시기가 될 것이다.