오픈웨이트 MoE 모델이 바꾸는 프런티어 AI 조달 전략
Kimi K3와 DeepSeek V4를 중심으로 오픈웨이트 MoE의 성능, 비용, 자체 호스팅과 기술 주권 관점의 모델 조달 기준을 정리한다.
2026-08-30 · 최초 발행 2026-07-23
프런티어 모델 선택지가 폐쇄형 API만은 아니다
2026년 상반기 오픈웨이트 대형 모델의 연속 공개는 폐쇄형 상용 모델이 언제나 최상위라는 전제를 흔들었다. Moonshot AI의 Kimi K3는 2.8조(2.8T) 파라미터 규모의 Mixture-of-Experts(MoE) 백본으로 공개됐고, Artificial Analysis Intelligence Index에서 3위권에 진입해 Claude Opus 4.8을 근소하게 앞섰다. Frontend Code Arena에서는 1위를 기록했다.
DeepSeek V4는 그보다 앞서 오픈웨이트 모델의 코딩 성능을 보여줬다. 여기에 Llama 5의 공개 여부를 둘러싼 기대와 불확실성까지 겹치며, 기업의 모델 조달은 단순한 성능 순위 비교보다 복합적인 문제로 바뀌었다. 가중치를 확보해 직접 운영할 수 있는지, 필요한 GPU 규모는 어느 정도인지, 데이터 통제권을 어디까지 가져갈 수 있는지가 함께 판단 대상이 된다.
초대형 MoE를 볼 때는 전체 규모와 활성 연산을 나눠야 한다
MoE 모델은 전체 파라미터가 조 단위여도 매 토큰에서 모든 전문가를 활성화하지 않는다. Kimi K3는 896개 전문가 가운데 토큰당 16개만 사용하며, 이는 2.8T 규모 대비 약 1.8%다. DeepSeek V4-Pro는 1.6T total 가운데 약 49B active를 사용하고, 장기 컨텍스트 효율을 위해 sparse attention 3종 스택을 적용한다.
이 차이는 서빙 비용을 해석할 때 중요하다. 총 파라미터 수만으로 실제 추론 연산량을 판단하면 안 된다. 활성화되는 연산량과 전체 가중치를 적재하기 위한 메모리 요구량은 별도로 계산해야 한다.
오픈웨이트 배포는 가중치를 내려받아 자체 인프라에서 서빙할 수 있다는 뜻이다. vLLM·SGLang 등 서빙 스택은 day-0 지원을 제공했고, DeepSeek V4-Pro는 공개 1주 만에 174K 다운로드를 기록했다. Kimi K3는 MXFP4 등 양자화(quantization)로 배포 부담을 낮추려 한다.
모델 벤더의 발표 수치만으로 판단하기보다 Artificial Analysis Intelligence Index, Frontend Code Arena, SWE-bench Verified, GPQA Diamond 같은 제3자 평가를 함께 봐야 한다. Kimi K3의 GPQA Diamond 93.5%는 오픈웨이트 최고 수준으로 보고됐다. Kimi K3는 API를 먼저 공개하고 가중치를 7월 27일까지 순차 공개할 예정이어서, 초대형 모델을 오픈웨이트로 내놓는 사례라는 상징성도 가진다.
자체 호스팅은 API 대체가 아니라 운영 설계의 문제다
2.8T급 모델을 직접 운영하려면 다수 GPU에 텐서 병렬화와 전문가 병렬화를 적용해야 한다. 초기 CapEx와 운영 복잡도는 올라간다. 활성 파라미터 기준으로 필요한 메모리와 처리량을 추정하되, 전체 가중치를 올리기 위한 VRAM 총량도 빠뜨릴 수 없다.
비용만 놓고 보면 Artificial Analysis 기준 Kimi K3는 약 $2.31/1M 토큰, Claude Opus 4.8(max reasoning)은 약 $3.85/1M 토큰이다. Cost per Intelligence Index Task는 Kimi K3가 $0.94, Opus 4.8이 $1.80으로 Kimi K3가 약 1/2 수준이다. 다만 K3의 비용은 K2.6 대비 약 3배 상승했다.
속도 역시 한 방향으로만 비교하기 어렵다. Opus 4.8은 약 59.6 tok/s로 K3의 약 36.1 tok/s보다 우위에 있지만, K3는 time-to-first-token이 짧다. 응답 생성 속도와 첫 응답 대기 시간 중 무엇이 중요한지에 따라 선택은 달라진다.
중국·오픈모델을 조달할 때는 보안과 라이선스도 운영 조건으로 취급해야 한다. 데이터 유출과 거버넌스 우려가 있는 환경이라면 에어갭을 포함한 자체 호스팅이 통제 수단이 될 수 있다. 외부 API를 직접 호출할 경우에는 데이터 분류 정책과 연계해야 한다. DeepSeek V4는 MIT 라이선스이며, 모델마다 사용 제한과 재배포 조건이 다르므로 확인이 필요하다.
단일 모델에 종속되지 않도록 상용 API와 자체 호스팅 모델을 함께 두고, 라우팅 계층에서 과업을 분기하는 방식도 고려할 수 있다.
Kimi K3, DeepSeek V4, Llama 5, Claude Opus 4.8의 위치
| 구분 | Kimi K3 | DeepSeek V4-Pro | Llama 5 | Claude Opus 4.8 |
|---|---|---|---|---|
| 유형 | 오픈웨이트 MoE | 오픈웨이트 MoE | 오픈웨이트(불확실) | 상용 폐쇄형 |
| 규모 | 2.8T / 16 active | 1.6T / ~49B active | 보도상 600B | 비공개 |
| 컨텍스트 | 1M | 1M | 보도상 5M | 대용량 |
| AA Intelligence Index | 약 57 (3위권) | 상위 오픈웨이트 | 미확정 | 약 56 |
| 대표 강점 | Frontend Code Arena 1위, GPQA 93.5% | SWE-bench 80.6%(오픈 최고) | 미확정 | 균형·속도·안정성 |
| 비용(참고) | ~$2.31/1M | ~$0.87/M output | 미확정 | ~$3.85/1M |
| 라이선스 | 오픈웨이트(순차 공개) | MIT | 미확정 | 상용 |
Kimi K3는 개방성과 코딩·추론 성능에서, DeepSeek V4는 SWE-bench 기반 코딩 성능과 비용 효율에서 강점을 보인다. Claude Opus 4.8은 속도, 안정성, 생태계 성숙도에서 상용 프런티어의 우위를 유지한다.
벤더의 자체 벤치마크는 과대 표현될 수 있으므로, Artificial Analysis 같은 독립 지표를 우선 판단 근거로 두고 자체 파일럿 검증으로 보완할 필요가 있다. 인텔리전스 인덱스 격차는 1~3점대로 좁혀졌지만, 이것이 모든 과업의 격차 소멸을 뜻하지는 않는다. 에이전트, 툴 사용, 안전성에서는 상용 모델의 우위가 남아 있다.
Llama 5는 릴리스 상황이 불확실하다. 일부 보도는 600B와 5M 컨텍스트 공개를 언급하지만, Meta Superintelligence Labs(MSL)의 폐쇄형 Muse Spark 발표 이후 Meta가 오픈웨이트 프런티어 참여를 축소한다는 관측이 우세하다. 따라서 다음 대형 오픈웨이트 릴리스를 전제로 조달 계획을 세울 때는 Meta를 보수적으로 보고 DeepSeek·Qwen·Mistral을 우선 고려하는 흐름이 나타난다.
조달 정책에 기술 주권을 포함시키는 방법
모델 조달의 총소유비용(TCO)은 라이선스 비용만으로 계산할 수 없다. 자체 호스팅이라면 GPU CapEx, 전력, 운영 인건비를 포함해야 하며, 이를 상용 API의 종량 과금과 정량 비교해야 한다. 성능 평가는 독립 벤치마크와 도메인 특화 자체 평가셋을 병행하고, 재현 가능한 평가 파이프라인으로 운영하는 편이 낫다.
기술 주권 관점에서는 데이터 국외 이전 규제와 민감정보 처리가 핵심 조건이다. 에어갭 자체 호스팅은 통제권을 확보하는 방법이 될 수 있다. 특정 벤더나 특정 국가 모델에 대한 의존을 낮추기 위해 멀티소싱과 폴백 전략을 조달 정책에 명문화할 필요가 있다.
라이선스와 재배포 조건, 모델 카드, 데이터 출처의 투명성도 보안성 검토 항목에 포함해야 한다. 운영 단계에서는 모델 등록제(inventory), 버전·가중치 무결성 관리, 변경 통제와 롤백 절차, 지속적인 성능·안전성 모니터링을 표준 프로세스로 정착시킬 수 있다.
경쟁의 초점은 운영성과 통제권으로 이동한다
초대규모 오픈웨이트 릴리스는 반기 단위로 이어지고 있으며, 코딩·수학·장기 컨텍스트 같은 특정 과업에서는 프런티어 격차가 실질적으로 소멸하는 국면에 들어섰다. 경쟁의 기준도 최고 성능에서 성능 대비 비용과 자체 호스팅 운영성으로 이동하고 있다.
중국발 오픈웨이트 모델인 Kimi·DeepSeek·Qwen은 개방성 경쟁을 주도하고, Meta는 Muse Spark를 통해 폐쇄형으로 선회하며 오픈 진영의 지형을 바꾸고 있다. 기업에는 상용·오픈 모델을 함께 운용하는 라우팅 아키텍처와, 독립 벤치마크 및 기술 주권 거버넌스를 조달 의사결정의 기본 항목으로 두는 접근이 요구된다.
Sources
- Kimi K3 achieves #3 in the Artificial Analysis Intelligence Index (Artificial Analysis)
- Kimi K3 vs Claude Opus 4.8 model comparison (Artificial Analysis)
- Kimi K3 - Intelligence, Performance & Price Analysis (Artificial Analysis)
- Moonshot AI Launches Kimi K3 Open-Weight 2.8T Model (Eastern Herald)
- Kimi K3 Model Overview: 2.8T Parameters, MXFP4 Quantization (Hugging Face)
- DeepSeek V4 Ships 1M Context, Open-Weights (WinBuzzer)
- DeepSeek V4: 1.6T MoE, 1M Context, Architecture & Benchmarks (MorphLLM)
- Open-Weight Model Q3 2026 Projection (Digital Applied)
- Meta Llama 5 Roadmap from Behemoth to Avocado 2026 (Sean Kim)