Computex 2026 서버 아키텍처 총정리 — Xeon 6+, Vera CPU, HBM4가 그리는 메모리 중심 컴퓨팅

AI가 하드웨어 로드맵을 다시 쓰다

Computex 2026이 대만 타이베이에서 폐막했다. 이번 전시의 핵심 주제는 단연 AI 인프라였다. CPU 신제품과 데이터센터 서버 혁신이 전시의 무게중심을 차지했으며, 마이크로소프트·메타·아마존·알파벳 등 하이퍼스케일러의 2026년 AI 인프라 투자 규모가 6,500억 달러에 달할 것으로 전망되면서 하드웨어 생태계 전체가 AI 수요를 향해 급격히 재편되는 현실이 드러났다.

모든 메인 키노트는 AI 배포(AI Deployment)를 인프라 지출의 주요 동력으로 제시했다. 지난 2년간 투자 시장이 LLM 훈련을 위한 AI 가속기 용량에 집중했다면, 이번 전시에서는 추론(Inference)과 에이전트 AI가 새로운 전면에 나섰다. 퀄컴 CEO 크리스티아노 아몬은 "2026년은 AI 에이전트의 해"라고 선언하며, 이어폰에서 엔터프라이즈 서버까지 AI 연산이 분산되는 '컴퓨팅 컨티뉴엄(Computing Continuum)' 전략을 발표했다.

전시에서는 AI 인프라의 물리적 한계도 솔직하게 드러났다. MSI, GIGABYTE, 슈퍼마이크로, ASUS, 델타, MiTAC 등 서버 및 ODM 업체들은 랙 밀도, 액체 냉각, 전력 제약이라는 공통 과제를 중심으로 제품을 전시했다. AI 수요가 기존 데이터센터 설계 가정을 빠르게 추월하고 있다는 메시지가 일관되게 전달됐다.

Xeon 6+가 코어 288개를 들고 나온 이유

인텔은 Computex 2026에서 차세대 데이터센터 CPU Xeon 6+ "Clearwater Forest"를 공식 출시했다. 인텔 18A(1.8nm급) 공정으로 제조된 이 프로세서는 소켓당 최대 288개의 E-코어(Darkmont 아키텍처)를 탑재한다.

항목	Xeon 6+ 사양
코어 수	최대 288개 E-코어
제조 공정	Intel 18A
L3 캐시	576MB (저지연 LLC)
메모리	12채널 DDR5 8000 MT/s
PCIe	Gen 5.0 × 96 레인
CXL	2.0 × 64 전용 레인
UPI	2.0 × 6링크 (24 GT/s)
내장 가속기	16개 (QuickAssist·DSA·IAA 등)

인텔은 AMD EPYC 대비 스레드당 평균 성능 30% 향상, 일반 40% CPU 사용률 워크로드에서 전력 대비 성능 30% 개선을 주장했다. 주목할 점은 인텔 Xeon 6이 NVIDIA DGX Rubin NVL8 시스템의 호스트 CPU로 선정됐다는 것이다. NVIDIA가 자체 Vera CPU를 개발하는 가운데도 Rubin 세대에서는 Xeon 6를 파트너로 선택했다는 사실은 CPU 시장에서 인텔의 입지를 재확인시켜 준다.

NVIDIA가 CPU까지 만드는 이유

NVIDIA는 Vera CPU의 세부 사양을 공개했다. Armv9.2 아키텍처 기반 88코어 설계로, 초기 벤치마크에서 AMD EPYC 및 인텔 Xeon 최상위 모델을 상당한 차이로 앞서는 성능을 기록했다.

Vera CPU는 세 가지 형태로 제공된다. GPU와 긴밀하게 결합된 풀스택 AI 팩토리 구성인 Vera Rubin NVL72 랙, 고집적 데이터센터 환경을 위한 액체 냉각 CPU 전용 랙, 유연한 범용 배포가 가능한 단일/듀얼 소켓 서버다. 상용 출시는 2026년 하반기가 목표다.

Vera CPU의 등장은 NVIDIA가 GPU를 넘어 데이터센터 CPU 시장 전체를 겨냥한다는 신호다. NVIDIA RTX Spark 슈퍼칩은 Blackwell RTX GPU(6,144 CUDA 코어, 5세대 텐서 코어, FP4 정밀도)와 미디어텍과 공동 개발한 Grace 20코어 Arm CPU를 결합한다.

HBM4와 CXL — 대역폭과 용량을 나눠 푼다

SK하이닉스는 Computex 2026에서 16단 48GB HBM4를 전시했다. HBM4의 핵심 혁신은 I/O 레인 수를 HBM3의 1,024개에서 2,048개로 2배 확대한 것이다. 이로써 대역폭이 비약적으로 향상됐고, 전력 효율은 이전 세대 대비 40% 이상 개선됐다. 마이크론의 발표에 따르면 HBM4 36GB 12단 스택은 LLM 추론 처리량(토큰/초)을 대역폭 2배 증가에 맞춰 2.6배 향상시킨다. 단순한 대역폭 스케일링을 넘어 추론 효율 자체를 구조적으로 개선하는 수준이다.

CXL(Compute Express Link) 2.0/3.x 아키텍처는 메모리 풀링과 근거리 메모리 연산을 가능하게 한다. CXL 3.0은 64 GT/s 코히런트 메모리 풀링을 지원하며 데이터 이동 오버헤드를 PCIe 대비 50% 줄인다. OS 레벨 핫 페이지 마이그레이션은 원격 메모리 스케줄링으로 대역폭 활용률을 최적화하며, 모델 가중치 중 콜드 데이터는 CXL 메모리에, 핫 가중치는 HBM에 배치하는 계층 전략이 용량 확장 경로로 자리잡고 있다. 삼성, SK하이닉스, 마이크론 모두 CXL 메모리 제품을 양산 또는 샘플링 단계에 두고 있다.

한 대의 서버 안에서 계층을 나누다

Computex 2026에서 제시된 AI 서버 플랫폼은 컴퓨트·메모리·스토리지의 계층적 통합 설계를 특징으로 한다.

⤢✕

마이크론이 발표한 데이터센터 메모리 계층 전략은 HBM은 고속 모델 실행 및 핫 KV 캐시, LPDDR/DDR는 오케스트레이션 및 장문 컨텍스트 확장, CXL 메모리는 테라바이트급 용량 확장, 데이터센터 SSD는 영구 KV 캐시 및 대규모 데이터 레이크를 각각 담당하는 구조다.

인텔은 Xeon 6+와 SambaNova SN-50 RDU(재구성 가능 데이터플로우 유닛)를 결합한 랙스케일 AI 추론 인프라를 발표했다. CPU 기반 AI 추론의 비용·전력 효율을 GPU와 경쟁 가능한 수준으로 끌어올리겠다는 전략이다.

6,500억 달러는 어디로 가는가

2026년 한 해 동안 주요 빅테크의 데이터센터 투자 합산액은 약 6,500억 달러로 추산된다. 2024년의 약 2,170억 달러에서 3배 이상 급증한 수치다.

투자 영역	주요 내용
GPU·AI 가속기	NVIDIA Blackwell·Rubin, AMD Instinct, 자체 ASIC
서버 인프라	랙, 전력 분배, 케이블링, 네트워킹
냉각 시스템	액체 냉각, 직접 칩 냉각, 공조 설비
메모리·스토리지	HBM4, CXL, DDR5, NVMe SSD
데이터센터 건설	부지, 건물, 전력 인프라

고밀도 AI 서버 랙은 100kW 이상의 전력을 소비하며, 이는 기존 공랭 방식으로는 처리가 불가능한 수준이다. Computex 2026에서는 직접 액체 냉각(DLC), 침수 냉각, 칩 레벨 냉각 솔루션이 대거 등장했다. 데이터센터 전력 소비 급증은 전력망 인프라 투자와 소형 원자로(SMR) 도입 논의로까지 확대되고 있다.

HBM 공급망은 2030년까지 수급 부족이 지속될 전망이다. SK하이닉스가 HBM3E와 HBM4 양산 공급에서 주도적 위치를 차지하고 있으며 마이크론이 추격 중이다. 지역별로는 미국·유럽·동남아시아에서 데이터센터 클러스터 확장이 동시에 진행되고 있으며, 국가별 AI 주권 논의도 인프라 지역 배분에 영향을 미치고 있다.

컴퓨터 구조 관점에서 다시 보면

Computex 2026의 기술 변화는 컴퓨터 시스템 구조의 핵심 개념들과 직접 맞닿아 있다.

메모리 계층 구조(Memory Hierarchy) 측면에서, HBM4와 CXL 메모리의 등장은 기존 캐시→DRAM→스토리지 3계층 구조를 더욱 세분화한다. HBM은 GPU에 물리적으로 적층되어 기존 GDDR 대비 수십 배의 대역폭을 제공하는 반면, CXL은 표준 인터페이스로 DRAM·스토리지급 메모리를 서버 버스에 투명하게 추가한다.

버스 인터페이스와 입출력 구조(I/O Architecture) 측면에서, Intel Xeon 6+의 CXL 2.0 64레인과 PCIe Gen 5.0 96레인 구성은 입출력 대역폭 병목을 공격적으로 해소한다. UPI(Ultra Path Interconnect) 2.0의 6링크 24 GT/s 지원은 소켓 간 캐시 코히런시를 유지하면서 NUMA 성능을 개선한다.

병렬 처리와 이기종 컴퓨팅(Heterogeneous Computing) 측면에서, AI 서버 플랫폼은 CPU(범용 연산)·GPU(대규모 행렬 연산)·AI 가속기(특수 추론 엔진)를 하나의 랙에 통합하는 이기종 컴퓨팅 설계를 채택한다. 이는 Flynn의 분류 체계에서 MIMD(Multiple Instruction Multiple Data) 아키텍처를 기반으로 하되, 텐서 연산에 특화된 SIMD(Single Instruction Multiple Data) 파이프라인을 대규모로 확장한 형태다.

다음 경쟁 축

Computex 2026이 제시한 기술 로드맵은 몇 가지 중장기 방향을 시사한다.

CPU와 AI 가속기의 경계가 무너지고 있다. NVIDIA Vera CPU와 Blackwell GPU의 통합, Intel Xeon의 내장 가속기 16개 탑재는 CPU가 단순 제어 장치를 넘어 AI 추론 실행의 일부를 직접 담당하는 방향을 가리킨다.

메모리 중심 컴퓨팅(Memory-Centric Computing) 패러다임이 부상하고 있다. HBM4의 대역폭 폭발적 확장과 CXL 기반 메모리 풀링은 "연산이 데이터 근처로 이동"하는 PIM(Processing-In-Memory) 개념을 가속화한다.

에너지 효율이 경쟁의 축이 됐다. HBM4의 40% 전력 절감, Xeon 6+의 전력 대비 성능 30% 향상은 단순 성능 경쟁에서 전력당 성능(Performance per Watt) 경쟁으로 전선이 이동했음을 보여준다.

AI 에이전트 인프라가 설계 요구사항을 주도한다. 단순 배치 추론이 아닌 실시간 멀티에이전트 워크로드는 낮은 지연·높은 메모리 대역폭·유연한 메모리 계층을 동시에 요구하며, 이 조건을 충족하는 플랫폼 생태계 구축이 2026~2028년의 핵심 과제로 부상했다.

Intel Xeon 6+ Clearwater Forest, NVIDIA Vera CPU, HBM4, CXL 메모리 풀은 AI 추론과 에이전트 워크로드를 위해 서버 아키텍처의 모든 계층이 동시에 재설계되고 있음을 보여준다. 6,500억 달러 규모의 2026년 AI 인프라 투자는 이 흐름을 더욱 가속화할 것이며, 메모리 공급망 경쟁과 데이터센터 전력 제약이 산업 전체의 속도를 결정하는 변수로 작용할 전망이다.