국산 NPU가 클라우드에 올라선다: 리벨리온·퓨리오사AI와 K-온디바이스 전략

2026년 6월, 국산 NPU는 연구개발 성과물에서 실제 클라우드 인프라로 이동하기 시작했다. 산업통상자원부가 총 8,002억원 규모의 K-온디바이스 AI반도체 기술개발 사업 착수를 공식화한 가운데 KT클라우드와 가비아는 리벨리온 NPU 기반 NPUaaS를 상용화했다. 삼성SDS도 퓨리오사AI RNGD를 탑재한 구독 서비스를 7월 출시할 예정이다.

칩 개발을 클라우드 서비스까지 잇는 국책사업

K-온디바이스 AI반도체 기술개발 사업은 2026년부터 2030년까지 총 5년간 진행된다. 전체 사업비는 국비 약 5,111억원을 포함한 총 8,002억원이다. 추진 배경에는 글로벌 온디바이스 AI반도체 시장이 2024년 173억 달러에서 2030년 1,033억 달러로 약 6배 성장할 것이라는 전망이 있다.

개발 대상은 자동차·IoT/가전, 기계·로봇, 방산 등 4대 주력업종에 맞춘 AI반도체다. 칩만 설계하는 사업은 아니다. 모듈과 구동 AI 소프트웨어까지 포함한 풀스택을 구축하고, 수요기업·팹리스·파운드리를 LINK 구조로 묶어 양산과 적용으로 이어지는 생태계를 만드는 데 초점을 둔다.

이를 위해 차량·IoT·로봇 도메인에 특화된 NPU 설계를 지원하고, TSMC와 삼성 파운드리를 연결해 양산 경로를 확보한다. AI 소프트웨어 스택과 컴파일러, SDK도 함께 개발해 NVIDIA CUDA에 대한 의존도를 낮춘다.

초기에는 예산 축소 움직임을 두고 업계의 우려가 나왔지만, 사업비는 최종 8,002억원으로 확정됐다. 온디바이스 AI 시장에 진입할 시기를 놓치지 않겠다는 정책 방향이 반영된 결과다.

리벨리온 NPU를 서비스로 제공하는 클라우드

리벨리온의 주력 추론 NPU인 ATOM-Max는 반복적이고 패턴화된 LLM 추론 연산에 맞춘 마이크로아키텍처를 채택했다. MLPerf 3.0 벤치마크에서는 NVIDIA 추론 전용 반도체보다 1.4~2배 빠른 처리 속도를 기록했고, 전력 소모량은 GPU의 약 5분의 1 수준이다.

차세대 제품 **리벨100(REBEL)**은 삼성전자 4나노 파운드리 공정에서 생산된다. 삼성 HBM3E 144GB를 탑재해 NVIDIA H200의 141GB HBM3E와 유사한 메모리 대역폭을 제공한다. 반도체 스타트업 최초로 UCIe(Universal Chiplet Interconnect Express) 기반 칩렛 아키텍처를 도입한 것도 특징이다. 서로 다른 연산 수요와 확장 요구에 대응하기 위한 설계이며, 2026년 현재 xAI·OpenAI 등 글로벌 파트너와 상용화 테스트를 진행하고 있다.

이 하드웨어는 국내 클라우드 사업자를 통해 서비스 형태로 공급되기 시작했다. KT클라우드는 2026년 6월 클라우드 보안인증(CSAP)을 받은 국내 최초의 공공 전용 NPU Server 서비스를 출시했다. 리벨리온의 데이터센터급 NPU인 Atom Plus를 공공 전용 데이터센터에 배치하고 VM 방식으로 제공한다.

공공기관은 이 인프라를 통해 보안 규정을 준수하면서 정책 가점도 받을 수 있다. 민원 상담과 행정 지원, 문서 검색·분석 같은 AI 에이전트 서비스를 국산 NPU 위에 구축할 수 있는 선택지가 생긴 셈이다.

가비아는 이에 앞선 2026년 4월 ATOM-Max 기반 NPUaaS를 출시했다. VM 인스턴스 방식으로 제공되며 OS 커널 수준의 환경 설정과 커스터마이징이 가능하다. AI 워크로드에 맞춰 인프라를 세밀하게 구성하고 필요에 따라 스케일아웃할 수 있다.

⤢✕

퓨리오사AI RNGD와 삼성SDS의 구독 모델

퓨리오사AI의 2세대 NPU **레니게이드(RNGD)**는 TSMC 5nm 공정으로 제조되며 약 400억 개의 트랜지스터를 집적한다. 내부에는 LLM의 Attention 연산과 MLP 레이어에 최적화된 데이터 플로우를 제공하는 텐서 수축 프로세서(Tensor Contraction Processor) 아키텍처가 적용됐다.

RNGD의 최대 연산 성능은 512 TFLOPS다. HBM3 메모리는 48GB이고 대역폭은 1.5TB/s이며, 온칩 SRAM은 256MB다. 연산 과정의 캐시 히트율을 높이기 위한 구성이다. TDP는 약 180W다.

퓨리오사AI 측 벤치마크에서는 대형 언어 모델 추론 시 전력 효율을 기준으로 NVIDIA RTX Pro 6000보다 7.4배 높은 동시 처리 사용자 수를 기록했다. RNGD는 2026년 1월부터 대량 양산에 들어갔으며, 2026년 한 해 목표 양산 규모는 2만 장이다.

삼성SDS는 2025년 9월부터 RNGD를 삼성 클라우드 플랫폼(SCP) 상품으로 만드는 작업을 퓨리오사AI와 진행해왔다. 7월 출시 예정인 서비스에서는 RNGD를 1장·2장·4장·8장 단위로 구독할 수 있다. SCP의 스토리지·네트워크·컴퓨트 서비스와 연결해 사용하는 구조다.

국내 CSP가 국산 NPU를 구독형 클라우드 상품으로 제공하는 최초 사례라는 점에서, 이 서비스는 국산 NPU 클라우드 시장의 확산 계기가 될 전망이다.

엣지와 클라우드가 추론을 나누는 방식

온디바이스 AI와 클라우드 AI를 양자택일할 필요는 없다. 두 환경은 협업 추론(Co-Inference) 구조에서 역할을 나눌 수 있다.

먼저 디바이스에 탑재된 경량 NPU와 SmallLM·SLM이 실시간 응답이 필요한 1차 추론을 수행한다. 프라이버시에 민감한 데이터는 이 단계에서 로컬 처리를 끝낸다.

1차 추론의 신뢰도가 임계값보다 낮거나 추가 컨텍스트가 필요하면 요청을 ATOM-Max나 RNGD 같은 클라우드 NPU로 넘긴다. 클라우드에서 생성된 결과는 다시 엣지 디바이스로 전달되며, 로컬 모델을 점진적으로 개인화하고 최적화하는 피드백에도 활용된다.

⤢✕

K-온디바이스 국책사업이 지향하는 최종 구조도 이와 맞닿아 있다. 자동차·IoT·로봇 환경의 엣지 단에는 사업 R&D를 통해 개발한 국산 온디바이스 NPU를 배치하고, 클라우드 단은 리벨리온·퓨리오사AI의 NPUaaS로 연결하는 수직 통합 생태계다.

추론 전성비와 CUDA 생태계 사이

NVIDIA H100·H200 GPU는 학습과 추론을 모두 다루는 범용 AI 가속기다. 리벨리온과 퓨리오사AI NPU는 LLM 추론에 맞춰 설계해 전성비, 즉 전력 대비 성능에서 차별화를 시도한다.

항목	리벨리온 REBEL	퓨리오사AI RNGD	NVIDIA H100
공정	삼성 4nm	TSMC 5nm	TSMC 4nm
메모리	HBM3E 144GB	HBM3 48GB	HBM3 80GB
대역폭	~3.9TB/s(추정)	1.5TB/s	3.35TB/s
TDP	공개 예정	~180W	700W
강점	학습+추론 범용	추론 전성비 극대화	생태계·CUDA
주요 클라우드	KT클라우드, 가비아	삼성SDS SCP	대부분 CSP

다만 하드웨어 사양만으로 NVIDIA의 지위를 흔들기는 어렵다. NVIDIA의 강력한 해자(moat)는 CUDA 소프트웨어 생태계이기 때문이다.

리벨리온은 오픈소스 기반 AI 프레임워크 스택을 넓히고 칩렛 아키텍처 기반 인터커넥트를 고도화하는 방식으로 대응한다. 퓨리오사AI는 PyTorch·쿠버네티스·OpenAI API와 호환되는 Furiosa SDK를 구축해 CUDA에 의존하지 않는 개발 환경을 제공한다.

엔비디아도 2026년 추론 전용 칩을 출시하면서 추론 시장의 경쟁은 더 치열해졌다. 반면 국내 공공 시장의 CSAP 인증 요건과 정책 우선구매 가점, 국산 AI 주권 논의는 K-NPU 진영에 고유한 진입 기반을 제공한다.

NPU를 이해할 때 봐야 할 컴퓨터 구조

NPU는 CPU와 같은 전통적 폰노이만 구조와 실행 방식이 다르다. CPU가 명령어 순서에 따라 연산을 진행한다면, NPU는 데이터 의존성을 기준으로 동작하는 데이터플로우 아키텍처를 사용해 병렬 텐서 연산의 지연을 줄인다.

연산 성능만큼 중요한 것이 메모리 계층과 대역폭이다. NPU에서는 계산량보다 메모리 대역폭이 병목이 되는 경우가 많다. HBM(High Bandwidth Memory)은 기존 GDDR보다 10배 이상의 대역폭을 제공한다. RNGD의 온칩 SRAM 256MB는 레지스터-L1-L2 계층 구조를 통해 캐시 미스를 줄이는 역할을 맡는다.

리벨리온의 UCIe 기반 칩렛 구조는 단일 다이(die)의 수율 한계를 극복하면서 모듈 단위 확장을 가능하게 한다. SoIC·CoWoS 같은 어드밴스드 패키징과 함께 2026년 반도체 아키텍처에서 주목받는 영역이다.

하드웨어를 실제 LLM 서빙에 투입하려면 소프트웨어 최적화도 뒤따라야 한다. 양자화(INT8/INT4), 가지치기(Pruning), 지식 증류(Knowledge Distillation), KV 캐시 최적화가 NPUaaS 환경의 추론 효율을 좌우하는 소프트웨어 레이어를 구성한다.

팹리스에서 수요기업까지 이어지는 생태계

⤢✕

2026년 국산 AI반도체 전략은 **수직 통합(Vertical Integration)**과 **수평 확장(Horizontal Scaling)**을 함께 추진하는 형태다.

수직 통합은 정부 R&D에서 시작해 팹리스의 칩 설계, 파운드리 양산, CSP의 NPUaaS, 수요기업의 AX 적용으로 이어지는 가치 사슬 전체를 국산 생태계 안에 연결하는 작업이다.

수평 확장은 자동차의 V2X 실시간 추론, 가전의 엣지 AI 에이전트, 로봇의 동작 제어 NPU, 방산의 전술 AI로 적용 범위를 넓힌다. 대상은 4대 주력업종이다.

리벨리온 박성현 대표는 서울포럼 2026에서 "AI의 중심축이 학습에서 추론으로 이동하고 있으며, K-추론이 엔비디아 독점을 균열시킬 핵심 레버"라고 강조했다. 퓨리오사AI는 UAE 무바달라 투자 협의를 진행하며 글로벌 확장 기반을 다지고 있다.

클라우드 랙에 오른 뒤 남은 과제

국책사업 착수와 NPUaaS 상용화는 한국 AI반도체 산업이 R&D에서 시장 진입으로 넘어가고 있음을 보여준다. NVIDIA GPU 중심의 클라우드 구조에 국산 NPU 기반 추론 인프라가 추가되면서 전성비와 TCO 절감이라는 경제적 요구, AI 주권과 보안 인증이라는 정책 목표가 맞물리고 있다.

하드웨어 성능만으로는 CUDA 장벽을 넘기 어렵다. 개발자가 기존 워크로드를 쉽게 이식하고 최적화하려면 SDK와 컴파일러를 포함한 소프트웨어 생태계가 성숙해야 한다.

대량 양산의 수율과 공급 안정성도 확인해야 한다. 퓨리오사AI의 2만 장 양산 목표와 리벨리온의 글로벌 파트너십 테스트 결과가 2026년 하반기 경쟁력을 가를 것이다.

마지막 변수는 NPUaaS의 실제 수요다. KT클라우드·가비아·삼성SDS가 국산 NPU를 클라우드 상품으로 패키징하고 수요기업의 AX 프로젝트로 연결하는 속도가 생태계의 선순환을 결정한다.

2026년은 K-NPU가 실험실을 벗어나 클라우드 랙에 올라서는 해다. 정부 정책과 민간 투자, 수요기업의 AX 수요가 만나는 지점에서 국산 AI반도체의 성패가 판가름 날 전망이다.