AWS NVIDIA GPU 100만 배치 계획: 클라우드 AI 인프라 패권 경쟁의 새 국면

2026년 초, 클라우드 AI 인프라 시장은 단순한 기술 경쟁을 넘어 글로벌 패권 다툼의 무대로 변모했다. AWS가 NVIDIA GPU 100만 기 이상을 전 세계 데이터센터에 배치한다는 초대형 계획을 공식화하면서, AI 컴퓨팅 자원 확보 전쟁은 새로운 국면에 접어들었다. 이 결정은 단순한 용량 증설이 아니라 클라우드 산업 지형 자체를 재편할 전략적 선택이다.

AI 군비경쟁이 만든 배경

대형 언어 모델(LLM)과 생성형 AI 서비스의 급속한 확산이 GPU 수요를 전례 없는 수준으로 끌어올렸다. 20242025년을 거치며 AI 워크로드 처리 능력이 클라우드 사업자의 핵심 경쟁력으로 부상했다. ChatGPT, Claude, Gemini 등 AI 서비스 이용자 급증으로 추론(inference) 수요가 10배 이상 성장했고, GPT-4·Claude 3 Opus급 이상 모델의 훈련·추론에는 수천수만 개 GPU 클러스터가 필수가 됐다. 포춘 500대 기업의 80% 이상이 클라우드 기반 AI 인프라 도입 계획을 세웠고, 미국·EU·중국 등 주요국은 AI 컴퓨팅 인프라를 국가 경쟁력 핵심 요소로 지정했다. NVIDIA의 H100·H200·B200 시리즈는 AI 훈련·추론 워크로드에서 사실상 표준 지위를 확보했다.

⤢✕

Project Olympus가 그리는 그림

2025년 말 발표된 AWS의 'Project Olympus'로 알려진 초대형 GPU 인프라 확장 계획은 2026~2028년을 목표 기간으로 설정했다. 총 목표 수량은 NVIDIA GPU 100만 기 이상(H200, B200, 차세대 Rubin 아키텍처 포함)이고, 배치 기간은 2026년 1분기 착수해 2028년 상반기 완료가 목표다. 핵심 서비스는 Amazon EC2 UltraClusters, Amazon SageMaker HyperPod, AWS Trainium 병행이며, AWS re:Invent 2025에서 CEO 맷 가먼(Matt Garman)이 공식 천명했다. NVIDIA와는 5개년 전략적 공급 계약을 체결해 우선 할당 물량을 확보했고, 동시에 AWS Trainium3·Inferentia4 개발을 가속화해 NVIDIA 의존도를 분산하는 전략도 함께 추진하고 있다.

리전은 어떤 순서로 채워지나

글로벌 배치는 수요 밀도, 데이터 주권 규제, 전력 인프라 가용성을 기준으로 우선순위가 결정된다.

⤢✕

1단계(2026년)는 핵심 리전 집중 배치다. us-east-1(버지니아 북부)은 전체 물량의 25%가 배치되는 미국 동부 AI 수요 중심지이고, us-west-2(오리건)는 빅테크 고객이 집중된 지역으로 재생에너지 전력 우위가 있다. eu-west-1(아일랜드)는 GDPR 준수 유럽 AI 허브로 금융·헬스케어에 특화돼 있다.

2단계(2027년)는 아시아태평양 확장이다. ap-northeast-1(도쿄)은 일본 기업 AI 전환 수요와 소니·도요타 등 대형 계약을 기반으로 하고, ap-northeast-2(서울)은 삼성·LG·네이버 등 국내 대기업 AI 인프라 수요에 대응한다. ap-southeast-1(싱가포르)은 동남아시아 AI 스타트업 허브 역할을 맡는다.

3단계(2028년)는 신흥 시장과 주권 클라우드다. 중동 리전은 사우디아라비아 비전 2030, UAE 국가 AI 전략과 연계되고, 인도 리전은 디지털 인디아 정책 수혜와 급성장하는 AI 스타트업 생태계를 겨냥한다. 남미 리전은 브라질 AI 규제에 대응하는 로컬 데이터 처리 수요를 다룬다.

1500억 달러는 어디로 가는가

총 투자액은 2026~~2028년 1,500억 달러(약 200조 원) 이상이며 AI 인프라 투자 계획 중 GPU 인프라가 핵심 비중을 차지한다. NVIDIA GPU 단가는 H200 기준 대당 3~~4만 달러, B200은 5~~7만 달러 수준이다(대량 계약 할인 적용 전). 100만 기 기준 총 하드웨어 비용은 약 400~~600억 달러 규모로 추산되고, 전력·냉각 인프라를 포함한 데이터센터 건설 비용은 총 투자액의 1.5~~2배가 추가된다. 분기별 자본지출(CapEx)은 2026년 분기당 180억~~200억 달러 수준으로 역대 최고치 경신이 전망된다. ROI 목표는 배치 GPU당 연간 클라우드 매출 기준 3년 내 투자 회수이고, 재원은 자체 현금흐름이 중심이며 Amazon 전체 2025년 영업이익 680억 달러가 재원이 된다.

H200에서 Rubin까지, GPU 포트폴리오

AWS의 100만 GPU 포트폴리오는 단일 모델이 아닌 세대별·용도별 다층 구조로 구성된다. NVIDIA GPU 라인업별 배치 비중은 현재 주력인 H200 SXM5가 전체의 40%, 2026~~2027년 주요 배치 물량인 B200(Blackwell)이 35%, 초대형 모델 훈련 클러스터 전용인 GB200 NVL72(NVLink 통합형)가 15%, 2027~~2028년 배치 예정인 차세대 Rubin 아키텍처가 10%다.

클러스터 구성 방식을 보면 UltraCluster는 최대 65,536개 GPU를 초저지연 네트워크로 연결해 1조 파라미터 이상 모델 훈련을 지원하고, 네트워크는 EFA(Elastic Fabric Adapter) 차세대 버전이 800Gbps 대역폭을 제공한다. 냉각 방식은 액침 냉각(Liquid Immersion Cooling)과 직접 액체 냉각(DLC) 도입으로 PUE 1.1 이하 달성을 목표로 하고, 전력 공급은 리전별 전용 변전소와 재생에너지 직접 구매계약(PPA)을 확대하는 방식이다.

AWS 자체 칩과의 역할 분담도 뚜렷하다. Trainium3는 대규모 AI 모델 훈련 전용으로 NVIDIA H200 대비 40% 비용 절감을 주장하고, Inferentia4는 추론 워크로드 전용으로 가격 대비 처리량을 최적화한다. NVIDIA GPU는 범용성을 최우선으로 고객 자체 모델과 기존 CUDA 생태계 호환 수요에 대응한다.

Azure·Google과 겨루는 삼각구도

⤢✕

AWS와 Azure를 비교하면, Azure는 OpenAI 독점 파트너십으로 GPT 시리즈 인프라를 최우선 배치하고 Microsoft 365 Copilot 수요로 추론 GPU 수요가 급증하고 있다. AWS의 우위는 글로벌 데이터센터 네트워크 규모, 기업 고객 신뢰도, AWS 생태계 내 AI 통합 용이성이고, Azure의 우위는 OpenAI 모델 독점 접근과 Microsoft Fabric과의 데이터·AI 통합이다.

AWS와 Google Cloud를 비교하면, Google Cloud는 TPU v6(Trillium) 자체 칩과 NVIDIA A3 Ultra 인스턴스를 병행하는 전략을 쓴다. AWS의 우위는 CUDA 생태계 친화성과 기업 고객의 기존 워크로드 마이그레이션 용이성이고, Google의 우위는 Gemini 모델과 인프라의 수직 통합, 검색·광고 AI 자체 수요 기반이다.

2025년 말 기준 점유율 경쟁 현황은 AWS 33%, Azure 29%, Google Cloud 21%, 기타(Oracle, Meta, xAI 등) 17%다.

고객사는 뭐가 달라지나

GPU 공급 급증이 고객사에 미치는 파급 효과는 단기·중기·장기로 나뉜다. 단기(2026년)에는 GPU 인스턴스 가용성이 개선돼 기존 대기 시간이 수개월에서 수일수주로 단축될 전망이고, 온디맨드 가격은 동결되거나 소폭 인하돼 H200 기반 p5.48xlarge 온디맨드 시간당 가격이 안정화될 것으로 보인다. 스팟 인스턴스 할인 폭은 온디맨드 대비 6070%까지 확대될 가능성이 있고, Reserved Instance 옵션도 1년·3년 약정 상품에 신규 GPU 모델이 포함되며 다양해진다.

중기(2027년)에는 Azure·Google Cloud 대비 가격 인하 압력으로 GPU 인스턴스 요금이 15~25% 인하될 것으로 예상되고, Amazon Bedrock·SageMaker 등 관리형 AI 서비스의 비용 절감이 파급될 전망이다. 초기 수만 달러 수준이던 AI 인프라 진입 비용이 대폭 낮아져 중소기업의 AI 접근성이 향상되고, GPU 시간 단위가 아닌 AI 토큰·API 호출 단위 과금 모델도 확산될 것으로 보인다.

장기(2028년 이후)에는 GPU 컴퓨팅이 일반 클라우드 서버처럼 저렴하고 범용적으로 변하는 AI 인프라 상품화(Commoditization)가 예상된다. 단순 GPU 제공을 넘어 AI 모델·데이터·툴링 통합 플랫폼 경쟁으로 차별화 경쟁이 심화되고, AWS AI 생태계(Bedrock, SageMaker, Q)와의 깊은 통합으로 전환 비용이 커지는 고객 락인 전략도 강화될 전망이다. GPU 가격 하락으로 소규모 AI 기업의 진입 장벽이 대폭 완화되는 스타트업 AI 민주화도 기대된다.

시장이 어디로 향하는가

AWS의 100만 GPU 배치는 단순한 용량 증설을 넘어 AI 산업 전체의 구조적 변화를 촉발한다. 글로벌 AI 클라우드 인프라 시장은 2025년 2,000억 달러에서 2028년 5,000억 달러 규모로 성장할 것으로 예상되고, GPU-as-a-Service 시장은 연평균 45% 성장률로 가장 빠르게 성장하는 클라우드 세그먼트다. AI 추론(Inference) 수요는 훈련 수요의 10배 이상으로 성장해 2028년에는 AI 워크로드의 80%를 차지할 전망이다.

산업별로는 헬스케어(신약 개발 AI, 의료 영상 분석), 금융(리스크 모델링, 알고리즘 트레이딩, 사기 탐지 실시간 AI 처리), 제조(산업용 AI, 품질 검사 자동화, 예측 유지보수), 미디어·엔터테인먼트(AI 콘텐츠 생성, 영상 처리, 개인화 추천)에서 AI 채택이 가속되고 있다.

지정학적 변수도 만만치 않다. 미중 반도체 수출 규제로 NVIDIA GPU의 중국 수출이 제한되는 것이 AWS 글로벌 배치 전략의 제약 요인이고, 2026년 전면 시행되는 유럽 AI 법(EU AI Act)은 유럽 AI 인프라의 규정 준수 비용을 늘린다. 미중 기술 갈등의 반사이익으로 인도·동남아가 대체 AI 인프라 허브로 부상하고 있고, 데이터센터 전력 소비 급증으로 각국 전력망 부담이 커지면서 원전·재생에너지 직접 계약도 확대되고 있다.

NVIDIA 공급망 리스크도 남아 있다. TSMC의 3nm·2nm 공정 용량 한계로 생산 병목과 공급 지연 가능성이 상존하고, AWS는 자체 칩(Trainium, Inferentia) 강화로 NVIDIA 의존도를 점진적으로 분산하는 대안 공급처 모색에 나서고 있다. NVIDIA 독주를 견제할 목적으로 AWS가 AMD MI400 시리즈 도입을 확대할 가능성도 있다.

AWS의 NVIDIA GPU 100만 기 이상 글로벌 배치 계획은 클라우드 AI 인프라 패권 경쟁에서 결정적 전환점이 될 전망이다. 단순한 하드웨어 수량 경쟁을 넘어 데이터센터 전력, 냉각 기술, 공급망 관리, 지역 규제 대응까지 총체적 역량의 대결이다. 이 계획이 예정대로 실행될 경우, AI 컴퓨팅 비용의 대중화와 함께 클라우드 AI 생태계의 규모와 깊이가 한 단계 도약하게 된다. 고객사 입장에서는 GPU 가용성 개선과 가격 인하라는 직접적인 혜택과 함께, AI 서비스 개발·운용의 진입 장벽이 크게 낮아지는 구조적 기회를 맞이한다.