K-클라우드 밑그림 위에서, 국산 NPU 스타트업들이 칩을 쏟아낸 이유

2026년은 국내 AI 반도체 스타트업들이 자체 개발 NPU를 일제히 양산·출시하며 K-AI 반도체 원년으로 불리는 해가 됐다. 리벨리온·퓨리오사AI·딥엑스 등 토종 팹리스 기업들이 과기부 K-클라우드 사업의 지원 아래 데이터센터용 추론 가속기 시장에 본격 진입하면서, NVIDIA GPU 일변도이던 국가 AI 인프라 공급망에 실질적인 변화가 시작되고 있다.

K-클라우드에서 K-NPU 연합으로

과학기술정보통신부는 2025년부터 2030년까지 6년간 총사업비 4,031억원 규모의 AI 반도체 기반 K-클라우드 기술개발사업을 추진하고 있다. 28개 세부 과제(인프라·HW 8개, 컴퓨팅 SW 14개, 클라우드 6개)로 구성된 이 사업에는 17개 컨소시엄이 선정됐고, 네이버클라우드·NHN·SKT 등 AI 인프라 운영 기업들이 참여해 국산 NPU의 실수요를 보장하는 구조를 형성하고 있다.

2026년에 접어들며 정부는 기존 153개 회원사로 구성된 K-클라우드 연합을 K-NPU 연합으로 개편·확대했다. GPU 대신 NPU를 중심 축으로 재편한 이 연합은 AI 칩 설계사, 클라우드 서비스 업체, AI 모델·서비스 기업을 포괄하며 스마트시티·공공 AI 인프라 사업을 통해 대규모 국산 NPU 수요를 창출하는 것을 목표로 한다. 2026년 2단계 사업에서는 DRAM 기반 PIM(Processing in Memory)과 국산 NPU를 결합해 글로벌 수준의 추론 연산 성능을 저전력으로 구현하는 것이 핵심 기술 목표다.

국산 NPU 스타트업과 칩

리벨리온은 2024년 말 SKT의 AI 반도체 자회사 사피온코리아와 합병하며 기업가치 3.4조원의 유니콘 기업으로 부상했다. 1세대 칩 ATOM(5nm)은 이미 KT AI 모델에 공급 중이고, 2세대 REBEL(4nm, HBM3E 탑재)은 2026년 하반기 고객사 샘플 납품 후 본격 양산에 돌입해 연간 1,000억원 이상 매출을 목표로 한다. 2026년 3월에는 미래에셋과 정부 국민성장펀드(1억 6,600만 달러 포함)의 주도로 4억 달러 프리IPO 라운드를 완료했고, 총 누적 조달액은 8억 5,000만 달러에 달한다. REBEL의 핵심 전략은 NVIDIA GPU 대비 에너지 효율 우위를 앞세운 추론(inference) 특화로, 대규모 LLM 서빙 환경에서 TCO 절감을 포지셔닝 포인트로 삼고 있다.

퓨리오사AI는 2024년 3분기 2세대 칩 RNGD를 출시했고, 2025년 중 RNGD-S(저전력·엣지용)와 RNGD-MAX(최고 성능)를 추가 출시해 서버·엣지 전 영역을 커버하는 제품 라인업을 완성할 계획이다. 자체 컴파일러 생태계를 함께 구축하고 있어 소프트웨어 스택 완성도 측면에서 경쟁사 대비 차별화 요소로 평가받는다.

애플 출신 김녹원 대표가 창업한 딥엑스는 CES 2026에서 차세대 칩 DX-M2를 공개했다. 삼성전자 파운드리 2nm 공정을 채택하고 2026년 4분기 시제품 제작에 착수해 2027년 양산을 목표로 한다. 초저전력·고성능을 동시에 추구하는 온디바이스 AI 및 엣지 데이터센터 시장이 주요 공략 대상이다.

GPU와 다른 길을 가는 NPU 설계

국내 스타트업들이 NVIDIA GPU와 차별화하는 핵심은 추론 워크로드 특화 아키텍처다. GPU는 행렬 연산에 최적화된 범용 구조인 반면, NPU는 특정 모델 구조(Transformer, CNN 등)의 연산 패턴을 하드웨어 수준에서 최적화해 단위 전력당 추론 처리량을 높이는 데 집중한다.

⤢✕

리벨리온의 REBEL은 분산 컴퓨팅 지원에 강점을 두어 멀티노드 추론 클러스터 구성을 겨냥하고 있고, 퓨리오사AI는 컴파일러 최적화로 모델 이식성을 높이는 전략을 취하고 있다. 딥엑스는 2nm 미세공정을 선점해 성능 밀도와 전력 효율에서 앞서 나가겠다는 방향이다.

칩이 있어도 쓰이지 않으면 소용없다

국산 NPU 생태계의 핵심 도전은 수요 창출이다. 아무리 뛰어난 칩도 쓰이지 않으면 의미가 없다. K-클라우드 사업은 이를 해결하기 위해 네이버클라우드, NHN, SKT 등 국내 주요 클라우드·통신사가 국산 NPU를 실제 서비스 인프라에 채택하도록 연계하는 구조를 만들었다.

VESSL AI는 리벨리온의 REBEL NPU를 기반으로 한 클라우드 인프라를 구축해 AI 스타트업들에게 국산 NPU 기반 GPU 클라우드 대안을 제공하는 협력을 발표했다. 이는 칩 설계사 → 클라우드 인프라 → AI 모델/서비스 기업으로 이어지는 K-AI 풀스택 생태계를 조립하려는 시도다.

⤢✕

NVIDIA를 걷어내기보다 공존을 택하는 이유

국산 NPU의 NVIDIA 대체는 단기간에 전면 실현되기 어렵다. 현실적인 접근은 공존과 점진적 대체다. NVIDIA H100/B200은 학습(training) 워크로드와 범용 추론에서 여전히 독보적이고, 국산 NPU는 당분간 특정 추론 워크로드와 국내 공공·클라우드 시장에서 교두보를 확보하는 전략이 현실적이다.

그럼에도 장기적으로는 의미 있는 변화가 기대된다. 정부 조달·공공 AI 인프라 영역에서 국산 NPU 의무 채택 비율이 높아질 가능성이 있고, 리벨리온의 IPO와 4억 달러 조달이 보여주듯 글로벌 자본이 K-NPU의 성장성을 인정하고 있다. 유럽의 AI 주권 수요(미스트랄 AI 등)가 미국 NVIDIA 외 대안 탐색으로 이어지며 리벨리온 등 국내 기업에 해외 진출 기회를 열어주는 흐름도 있다.

반면 CUDA 대항마 수준의 컴파일러·프레임워크 지원 같은 SW 생태계, 하이엔드 학습용 칩 부재, HBM4 등 최신 메모리 패키징 접근성은 단기 과제로 남아 있다.

과기부 K-클라우드 4,031억원 투자, K-NPU 연합 153개사 결집, 리벨리온의 유니콘 등극과 IPO 준비가 맞물리며 생태계 기반은 전례 없이 두터워졌다. NVIDIA 의존도를 단기에 완전 대체하는 것은 비현실적이지만, 추론 특화·저전력 NPU 분야에서는 점진적인 대체 가능성이 충분하다. 한국 AI 반도체 생태계가 R&D를 넘어 실제 매출과 글로벌 공급망 편입으로 이어지는 전환점을 2026~2027년에 맞이할지 주목된다.