Anthropic이 xAI의 Colossus 1을 통째로 빌린 이유 — 300MW·GPU 22만 대 데이터센터 인프라 뜯어보기

2026년 5월 6일, AI 업계에 이례적인 거래가 공개됐다. Anthropic이 경쟁사 Elon Musk의 SpaceX·xAI가 소유한 Colossus 1 데이터센터 전 용량을 임대하는 계약을 체결한 것이다. 300MW 이상, NVIDIA GPU 22만 대 이상 규모의 이 인프라 확보는 단순한 컴퓨팅 조달을 넘어 AI 기업이 경쟁하는 방식 자체를 바꾸는 신호탄이 됐다.

Colossus 1이 왜 Anthropic 손에 들어갔나

Colossus 1은 원래 xAI가 Grok 모델 훈련을 위해 테네시주 멤피스의 구 가전공장 부지에 122일 만에 구축한 슈퍼컴퓨터 클러스터다. 그런데 H100 15만 장, H200 5만 장, GB200 3만 장이 혼재된 이종(heterogeneous) 아키텍처가 발목을 잡았다. GPU 세대가 섞이면 분산 훈련 시 최저 성능 GPU에 맞춰 처리량이 제한되어 Grok 훈련 효율이 크게 떨어졌기 때문이다.

xAI는 전략을 선회했다. Colossus 1을 외부에 임대하는 "네오클라우드(neocloud)" 모델로 전환하고, 단일 GPU 세대(Blackwell 전용)로 통합된 Colossus 2(1GW+ 목표)에 역량을 집중하기로 했다. 한편 Anthropic은 Claude Code 수요 폭증으로 용량이 절대적으로 부족한 상태였다. Dario Amodei CEO는 2026년 1분기 수익이 전년 대비 80배 성장해 목표(10배)를 여덟 배 초과했다고 밝힌 바 있다. 두 회사의 이해관계가 정확히 맞아떨어진 결과가 이번 파트너십이다.

대규모 GPU 클러스터는 어떻게 조립되나

⤢✕

22만 장 규모의 GPU 클러스터는 계층적으로 구성된다. 랙 하나에 8노드, 노드당 8 GPU로 64 GPU가 배치되고, 25,000 GPU 단위의 홀 4개가 열(thermal)·전력 격리를 위해 독립 운영된다. 이 계층 구조는 장애 도메인을 최소화하고 유지보수 중에도 서비스를 유지할 수 있게 한다.

인터커넥트는 층위마다 다른 기술을 쓴다. 노드 내부 GPU 간 통신에는 NVLink/NVSwitch가 쓰이는데, Blackwell 세대 기준 900 GB/s 대역폭과 서브마이크로초 지연으로 올투올(all-to-all) 그래디언트 동기화를 처리한다. 랙 간 통신에서 Colossus 1은 전통적인 InfiniBand 대신 NVIDIA Spectrum-X 이더넷을 채택했다. 95% 처리량 효율로 기존 이더넷(60%)을 크게 앞서며, RDMA(Remote Direct Memory Access) 지원으로 CPU 개입 없이 GPU 메모리 간 직접 전송이 가능하다.

전력 공급은 이중화가 핵심이다. 멤피스 전력망에서 250MW 기본 공급을 받고, 다중 피더(multi-feeder) 회로로 단일 장애점을 제거한다. UPS(무정전 전원장치)와 백업 발전기가 전환 시간 없이 연속 운영을 보장하며, Colossus 2는 1GW+ 목표로 AI 데이터센터의 전력 수요가 중형 도시 수준에 도달하고 있음을 보여준다.

냉각은 혼합 방식이다. Colossus 1은 재생수 냉각(graywater cooling) 50%와 공기 냉각 50%를 함께 쓴다. 랙 하단 CDU(Coolant Distribution Unit)와 후방 열교환기가 고발열 AI 워크로드를 처리하고, 액체 직접 냉각(direct-to-chip) 시스템은 물 사용량을 70~90% 줄인다. GPU 전력 밀도가 공기 냉각 한계를 초과하는 고밀도 클러스터에서는 이미 사실상 필수 기술이 됐다.

에너지 집약적 데이터센터를 지속 가능하게 만드는 법

⤢✕

글로벌 AI 데이터센터 전력 소비는 2024년 415 TWh에서 2030년 약 945 TWh로 두 배 이상 증가할 전망이다(IEA 보고). AI 가속기 워크로드가 이 성장의 주요 동인이다.

PUE(Power Usage Effectiveness)는 데이터센터 효율의 핵심 지표다. 하이퍼스케일 시설의 목표는 1.1~~1.2로, 냉각·네트워크·UPS 등 IT 외 오버헤드가 전체 전력의 10~~20%를 차지하도록 관리한다. 다만 PUE만으로는 실제 효율을 평가하기 부족하다 — 저활용률(현재 업계 평균 GPU 활용률 37%)이 낮은 PUE를 무의미하게 만들기 때문이다.

기업 전력구매계약(PPA)은 빅테크 기업들이 신규 재생에너지 프로젝트를 직접 금융 지원하는 구조로 발전했다. 수십 년 장기 계약으로 풍력·태양광 발전소 건설을 보장하고, 전력망 업그레이드에 공동 투자하며 부하 유연성을 제공하는 방식이다. Colossus 멤피스 시설도 배터리 저장, 온사이트 태양광, 유틸리티 협력을 혼합한 전력 포트폴리오를 운영한다.

폐열 재활용은 아직 주류가 아니지만 유럽을 중심으로 지역 난방망 연계 사례가 늘고 있다. 데이터센터 출구 온도(35~60°C)를 도심 난방에 활용하면 PUE를 실질적으로 1.0에 근접시킬 수 있다.

누가 어떻게 AI 컴퓨팅을 확보하고 있나

⤢✕

세 진영의 전략은 이렇게 갈린다.

플레이어	전략	용량	연환산 수익
Anthropic	하이브리드 클라우드 + Colossus 임대	300MW + 클라우드 예약	300억$ (2026.4 기준)
xAI	네오클라우드 (인프라 임대)	Colossus 2: 1GW+ 목표	50~60억$ 추정
Microsoft/OpenAI	수직 통합 + 커스텀 실리콘	CAPEX 1900억$/년	클라우드 백로그 6250억$

Anthropic의 딜레마는 이렇다. Claude Code 수요로 연환산 수익이 300억 달러에 달했지만 GPU 용량이 턱없이 부족했다. AWS Trainium, Google TPU, Azure NVIDIA를 분산 조달해 희소한 NVIDIA GPU를 연구 훈련에 집중하는 전략을 썼지만, 2026~2027년 본격 공급 전까지 인퍼런스 수요를 감당할 브리지가 필요했다. Colossus 1이 그 해답이었다.

xAI 쪽에서는 전략적 선회가 이뤄졌다. Colossus 1의 이종 GPU 조합(H100/H200/GB200)은 Grok 훈련에 비효율적이었지만, 네오클라우드 전환으로 연간 50~60억 달러의 잠재 수익이 생기면서 xAI의 연간 60억 달러 순손실을 상쇄하는 계산이 나온다. Colossus 2는 Blackwell 단일 아키텍처로 프런티어 모델 훈련에 최적화한다.

Microsoft/OpenAI는 규모로 압도한다. 2026년 CAPEX는 1,450억 달러 연환산으로 모든 경쟁자를 앞선다. 다만 용량 제약은 2026년 이후까지 지속되며, 상업적 백로그(6,250억 달러)의 45%가 OpenAI에 연계된 구조적 의존이 있다. Maia 커스텀 실리콘은 인퍼런스 비용 효율화를 노린다.

이 경쟁에서 드러나는 핵심 통찰은 데이터가 컴퓨팅을 앞선다는 것이다. xAI의 Cursor 100억 달러 파트너십(코딩 인터랙션 데이터 확보 목적)이 보여주듯, 업계 컨센서스는 이제 원시 GPU 용량보다 데이터 품질이 더 전략적이라는 쪽으로 기울고 있다.

GPU 시간으로는 진짜 비용이 안 보인다

GPU 시간(GPU-hour)으로 훈련 비용을 측정하는 관행은 실제 TCO(총소유비용)를 과소평가한다. 업계 평균 GPU 활용률이 37%에 머무는 현실에서는, 새 하드웨어 구매보다 활용률을 37%→70%로 높이는 최적화가 더 큰 ROI를 만든다.

비용 구성을 뜯어보면 GPU 구매 상각(35년)이 가장 큰 단일 항목이고, GPU 전력 밀도 상승으로 전력 비용이 운영 비용에서 차지하는 비중이 빠르게 커지고 있다. 냉각 인프라는 AI 워크로드에서 전체 데이터센터 전력의 3060%를 소비하며, InfiniBand에서 Spectrum-X로의 전환에도 인터커넥트 네트워크 비용이 들어간다.

인퍼런스 단계에서는 유용한 토큰당 비용(cost-per-useful-token)이 최종 경쟁력을 결정한다. xAI가 Colossus 1을 임대할 때의 논리도 여기에 있다 — 자체 훈련에 비효율적인 혼합 GPU를 외부 인퍼런스 수요에 돌려 마진을 확보하는 것이다.

경쟁 축은 GPU 용량 확보에서 전력 인프라 확보로, 단일 소유에서 임대·공유 모델로, 그리고 하드웨어 우위에서 데이터 품질 우위로 이동하고 있다. 300MW·22만 GPU는 지금 시점 최대 규모지만, Colossus 2(1GW+)와 Microsoft의 연 1,450억 달러 CAPEX는 이것도 곧 중간 단계로 만들 것이다. AI 훈련 클러스터 아키텍처, 에너지 지속 가능성, 비용 최적화 세 영역의 기술적 역량이 앞으로 AI 기업의 실질적 경쟁력을 결정한다.