커스텀 AI ASIC이 GPU의 3배 속도로 성장하는 시장 구조

Google, Amazon, Meta, Microsoft 등 하이퍼스케일러가 NVIDIA GPU 의존도를 줄이기 위해 커스텀 AI ASIC 개발에 본격 투자하고 있다. Broadcom이 2027년까지 AI 서버 ASIC 시장 60% 이상을 점유할 전망이며, ASIC 출하량은 GPU의 3배 속도로 성장 중이다.

시장 규모가 보여주는 속도 차이

연도	AI ASIC 시장 규모	전체 AI 칩 비중	출처
2024년	~$16.7B	8%	업계 추정
2027년	~$30B	15%+	Morgan Stanley
2033년	~$118B	19%	Bloomberg Intelligence

연평균 성장률(CAGR)은 27~~34% 구간이고, 하이퍼스케일러 합산 CapEx는 2026년 6,600~~6,900억 달러에 이르며 이 중 75%가 AI 인프라 전용이다. TrendForce는 2026년 ASIC 출하량이 45% 증가할 것으로 보는데, 이는 GPU 16% 증가의 약 3배에 해당한다. Counterpoint Research도 AI 서버 컴퓨트 ASIC 출하량이 2027년까지 3배 늘어난다고 전망한다. 이 성장의 핵심 동력은 추론 워크로드 비중 확대다.

GPU와 ASIC, 트레이드오프의 실체

⤢✕

항목	GPU (NVIDIA)	커스텀 ASIC
유연성	높음 — 다양한 워크로드, CUDA 생태계	낮음 — 특정 워크로드 고정 설계
개발 비용	낮음 (구매만 하면 됨)	매우 높음 (3nm NRE $4~6억+)
개발 기간	즉시 도입	설계~~양산 2~~3년
추론 비용	기준선	40~60% 절감
전력 효율	기준선	40~67% 개선
가격 대비 성능	기준선	최대 4.7배 (Google 발표)
생태계	CUDA, PyTorch 네이티브	자체 프레임워크 (JAX/XLA 등)
적합 대상	스타트업, 중소기업, R&D	하이퍼스케일러, 대규모 서빙

숫자로 확인된 절감 사례도 있다. Midjourney는 NVIDIA GPU에서 Google TPU로 전환한 뒤 월 컴퓨팅 비용이 210만 달러에서 70만 달러로 65% 줄었다. 하이퍼스케일 운영에서는 20% 전력 효율 개선만으로도 연간 수억 달러가 절감되고, Google은 TPU 추론 시 GPU 대비 가격 대비 성능이 4.7배 우수하다고 밝혔다.

하이퍼스케일러의 커스텀 실리콘

Google TPU v7 Ironwood는 7세대 TPU로 FP8 기준 칩당 4.6 PFLOPS, HBM3e 192GB, 메모리 대역폭 7.4TB/s를 갖췄고 최대 9,216칩 규모의 Pod(42.5 EFLOPS)를 구성한다. 설계 파트너는 Broadcom이며, 훈련과 추론 모두를 지원한다. Google은 "추론의 시대"를 선언하며 Ironwood를 추론 최적화 TPU로 포지셔닝했고, Anthropic은 Google TPU 100만 개까지 접근하는 계획을 발표했다.

AWS Trainium3는 FP8 기준 2.52 PFLOPS, HBM3e 144GB, 메모리 대역폭 4.9TB/s로 Trainium2 대비 4.4배 성능 향상을 이뤘다. 후속 Trainium4는 전 요소를 강화할 예정이며, 두 세대 모두 설계 파트너는 Marvell이다. AWS는 Trainium3와 Inferentia3로 훈련·추론을 모두 커버하고, Anthropic은 AWS Trainium3까지 활용해 이중 ASIC 전략을 구사한다.

Meta MTIA 300~500은 2026년 3월 발표된 4세대 라인업으로 RISC-V 기반 아키텍처를 채택했으며 최대 25배 컴퓨팅 성능 향상을 달성했다. 추천·랭킹과 GenAI 용도로 쓰이고 설계 파트너는 Broadcom이다. Meta는 MTIA로 추천 시스템의 GPU 의존도를 대폭 줄이는 전략을 취하고 있다.

Microsoft Maia 200은 TSMC 3nm 공정에 트랜지스터 1,400억 개 이상, HBM3e 216GB를 탑재하고 Trainium3 대비 FP4 성능이 3배다. 추론 최적화 용도이며 설계 파트너는 Marvell이지만, TSMC 3nm/CoWoS 용량 제약으로 출시가 2026년으로 지연됐다.

Broadcom과 Marvell, 설계 파트너 시장의 양강 구도

항목	Broadcom	Marvell
시장 점유율	60~80%	20~25%
주요 고객	Google, Meta, OpenAI	AWS, Microsoft
매출 지표	Q1 2026 AI 매출 $8.4B (YoY +106%)	FY2026 전체 매출 $8.2B (YoY +42%)
전망	2027년 AI 매출 $100B+	AI ASIC 매출 전망 $9~11B

Broadcom은 Google TPU, Meta MTIA, OpenAI 커스텀 칩까지 3대 고객을 확보하며 연간 AI 매출 1,000억 달러 돌파를 앞두고 독주 체제를 굳히고 있다. Marvell은 규모는 작지만 AWS Trainium/Inferentia와 Microsoft Maia 설계를 지원하며 핵심 고객 기반을 확보했다.

⤢✕

왜 하이퍼스케일러만 ASIC을 감당할 수 있는가

NRE(Non-Recurring Engineering)는 칩 설계에 소요되는 일회성 비용이다.

공정 노드	NRE 비용	마스크 세트 비용	웨이퍼 비용
7nm	$1~2.5B	-	-
5nm	$2~4.5B	~$10M	~$17K/장
3nm	$4~6B+	$10~20M	~~$20~~22K/장
2nm	$7.25B+	-	-

3nm 웨이퍼 비용은 28nm 대비 6.5배이고, 설계에서 양산까지 2~3년이 걸린다. 연간 수십만 칩 이상을 생산해야 NRE를 회수할 수 있어, 이 경제성은 사실상 하이퍼스케일러에게만 열려 있다. 역할 분담도 뚜렷하다. 하이퍼스케일러가 아키텍처·마이크로아키텍처·ISA 같은 프론트엔드 설계를 맡고, Broadcom·Marvell이 물리 설계·인터커넥트·패키징·검증 같은 백엔드 설계 서비스를 제공하며, TSMC가 3nm 파운드리 제조를 담당한다. 핵심 설계 요소는 시스톨릭 어레이 기반 텐서 파이프라인과 AI 전용 고밀도 행렬곱 최적화이며, 범용 SoC 대비 단순한 어레이 구조 덕분에 설계 비용·기간이 상대적으로 줄어든다.

왜 추론이 ASIC의 핵심 전장이 됐나

AI 컴퓨팅 지출은 훈련에서 추론으로 이동하고 있다. 추론 워크로드는 예측 가능한 연산 패턴, 대규모 동시 요청 처리, 지연 시간 민감도라는 특성을 갖는다. ASIC이 여기서 유리한 이유는 세 가지다. 고정된 워크로드에 최적화된 데이터패스가 불필요한 회로를 제거해 전력 효율을 극대화하고, 대규모 배포 시 칩당 비용 절감 효과가 커지며, 학습은 모델 변경이 잦아 GPU의 유연성이 유리한 반면 추론은 안정된 모델을 서빙하므로 ASIC이 적합하다. Google Ironwood와 Microsoft Maia 200 모두 추론 최적화에 집중하고 있고, NVIDIA의 Rubin CPX(GDDR7)도 같은 추론 전용 트렌드를 따른다.

대체가 아니라 병행

시나리오	최적 선택	이유
모델 개발/실험	GPU	다양한 아키텍처 빠른 반복
학습 (대규모)	GPU + ASIC	GPU 유연성 + ASIC 효율 병행
추론 서빙 (대규모)	ASIC	비용/전력 효율 극대화
스타트업/중소기업	GPU	NRE 부담 불가, 즉시 도입
하이퍼스케일러	ASIC + GPU 병행	자체 워크로드 ASIC + 범용 GPU 서비스

GPU와 ASIC은 대체 관계가 아니라 상호보완 관계다. 하이퍼스케일러는 자체 워크로드(추천, 검색, 추론)에 ASIC을 쓰고 고객 서비스용으로는 NVIDIA GPU를 병행한다. NVIDIA의 CUDA 생태계 락인은 여전히 강력해 ASIC 전환의 가장 큰 장벽으로 남아 있고, 2026년 시점에서도 GPU가 전체 AI 칩의 80% 이상을 차지한다.

공급망 제약이 성장 속도를 늦추는 지점

TSMC 3nm은 100% 가동 중이며 수요가 공급의 3배에 달한다. 커스텀 ASIC도 어드밴스드 패키징이 필요해 GPU와 CoWoS 용량을 두고 경합하고, Microsoft Maia 200이 TSMC 3nm/CoWoS 제약으로 2026년까지 밀린 것이 대표 사례다. TSMC 병목을 피하기 위해 Google과 Amazon은 Intel EMIB 패키징을 검토 중이다. 장기적으로는 2033년 AI ASIC 시장이 1,180억 달러, 전체 AI 칩 시장의 19%로 확대될 전망이다.