Kimi K3 오픈웨이트 MoE 모델의 구조와 도입 판단

Kimi K3가 제시한 오픈웨이트 프런티어 모델의 범위

Moonshot AI가 2026년 7월 16일 공개한 Kimi K3는 총 2.8조(2.8T) 파라미터 규모의 MoE(Mixture-of-Experts) 모델이다. 100만 토큰 컨텍스트와 텍스트·이미지·비디오 네이티브 멀티모달 입력을 지원하며, Modified-MIT 라이선스로 가중치를 공개해 셀프호스팅을 허용한다.

API는 2026년 7월 16일 시작됐고, 전체 가중치(weights)는 7월 27일 배포 예정이다. K3는 현존 세계 최대 규모 오픈소스 AI 모델로 소개됐으며, Frontend Code Arena 블라인드 평가에서 1,679점을 기록했다. Claude Fable 5의 1,631점과 GPT-5.6 Sol의 1,618점을 앞선 결과다.

항목	값	비고
총 파라미터	2.8T	K2.6 대비 약 3배
활성 파라미터	~50B	희소 활성화(16/896)
활성화 비율	약 1.8%	전문가 풀 대비
컨텍스트	1M 토큰	KDA 기반
멀티모달	텍스트·이미지·비디오	네이티브 융합
API 가격	입력 $3 / 출력 $15 (1M 토큰)	캐시 히트 $0.30

896개 전문가를 선택적으로 쓰는 백본

K3는 896개의 라우팅 전문가 풀 가운데 토큰마다 16개만 활성화한다. 총 파라미터는 2.8T이지만 실제 추론 연산은 활성 약 50B 파라미터 수준에서 이뤄지는 구조다.

게이팅 네트워크는 토큰별로 상위-k 전문가를 고르고, 공유 전문가는 모든 토큰에 병렬로 적용된다. 공유 전문가는 일관된 기반 역량을 제공하고, 라우팅 전문가는 도메인별 처리를 맡는다. Stable LatentMoE 프레임워크는 16/896이라는 공격적인 희소성을 학습 불안정 없이 훈련하기 위한 안정화 기법이다.

K2와 비교한 스케일링 효율은 약 2.5배 개선됐다. 같은 연산량을 지능으로 전환하는 효율을 높이려는 접근이다.

Kimi Delta Attention이 장문 컨텍스트를 처리하는 방식

표준 트랜스포머 어텐션은 컨텍스트 길이가 늘어날수록 계산량이 제곱으로 증가한다. Kimi Delta Attention(KDA)은 대부분의 구간을 선형 재귀로 처리하고, 중요한 지점에만 희소 풀-어텐션 델타 패스를 넣는 하이브리드 선형 어텐션이다.

100만 토큰 컨텍스트에서 디코딩은 최대 6.3배 빨라진다. 컨텍스트가 300k 토큰을 넘으면 압축 메커니즘이 작동하며, 압축 후 BrowseComp는 91.2%, 비압축 1M 컨텍스트에서는 90.4%를 기록했다. 텍스트·이미지·비디오는 단일 표현 공간에서 함께 처리한다.

⤢✕

서빙 설계에서 먼저 확인할 조건

896개 전문가는 다수 GPU에 분산하는 전문가 병렬(expert parallelism) 구성을 요구한다. 라우팅에 따른 통신 오버헤드를 관리하면서 텐서 병렬과 조합해 노드 수를 설계해야 한다.

MXFP4 양자화를 적용하면 FP16 대비 메모리 대역폭을 약 4배 절감할 수 있다. 2.8T 가중치 저장과 로딩, 다중 GPU 클러스터 비용은 온프레미스 도입 초기 CAPEX를 크게 좌우한다. 반면 추론 OPEX는 활성 약 50B 수준과 토큰당 1.8% 활성화 구조를 전제로 검토할 수 있다.

1M 컨텍스트에서는 KV 캐시 메모리가 지배적인 요소가 된다. KDA의 선형 구조는 이 캐시 부담을 완화하는 역할을 한다. 반복 프롬프트가 많은 워크로드라면 $0.30/1M의 캐시 히트 요율도 비용 판단에 포함할 수 있다.

API와 셀프호스팅 사이의 운영 경계

K3는 Frontend Code Arena 6/7 도메인에서 1위를 기록했다. 마케팅, 데이터 분석, UI 생성처럼 프런트엔드 코드가 포함되는 실무 워크로드에 적합성을 검토할 근거가 된다.

셀프호스팅은 프롬프트와 산출물이 외부로 유출되지 않는다는 점에서 민감 데이터의 주권을 확보하는 선택지다. 다만 Modified-MIT 조건과 상업적 재배포·파생 모델 조항을 검토해야 하며, K2.6에서 K3로 전환할 때는 가격 인상을 반영한 프롬프트 및 에이전트 파이프라인 회귀 검증이 필요하다.

판단 축	API 소비	온프레미스 셀프호스팅
초기 비용	낮음(종량제)	높음(GPU 클러스터 CAPEX)
데이터 주권	벤더 정책 의존	완전 통제
운영 부담	최소	서빙·양자화·모니터링 필요
규모의 경제	트래픽 비례	고트래픽에서 단가 유리
규제 대응	위탁 계약 필요	자체 통제 용이

성능, 비용, 개방성을 함께 보는 비교

Frontend Code Arena에서는 K3가 1,679점으로 1위였고, Fable 5는 1,631점, GPT-5.6 Sol은 1,618점, GLM-5.2는 1,587점이었다. 이 평가는 유효 투표 1,757건을 기준으로 한다.

Artificial Analysis Intelligence Index에서는 Fable 5가 59.9점으로 1위, GPT-5.6 Sol이 58.9점, K3가 57.1점으로 4위였다. 종합·에이전트·코딩 지표에서 K3는 대안군 선두에 위치하지만, 과학 지식·사실 신뢰성·시각 추론에서는 Gemini가 우위다.

모델	입력 $/1M	출력 $/1M	개방성	Code Arena
Kimi K3	3	15	오픈웨이트	1,679 (1위)
GPT-5.6 Sol	5	30	폐쇄 API	1,618
Claude Fable 5	10	50	폐쇄 API	1,631

9종 벤치마크 작업당 비용은 K3 약 $0.94, GPT-5.6 Sol은 $1.04, Opus 4.8은 $1.80이다. 다만 K3의 가격은 전작 K2.6보다 상승했으며, 이는 “초저가 중국 AI” 국면이 전환되고 있음을 시사한다.

희소 MoE는 파라미터 규모 대비 추론 효율에서 강점을 보이고, 밀집(dense) 모델은 서빙의 단순성과 예측 가능성에서 강점이 있다. K3처럼 초대형 오픈웨이트 모델을 선택하면 범용 프런티어 역량을 자체 통제 아래 둘 수 있다. 반대로 경량 특화 모델은 단일 태스크의 저지연·저비용 요구에 더 적합하다.

AI 모델 선정은 최고 점수만으로 끝나지 않는다. 데이터 주권, 규제 준수, 공급망 리스크, TCO를 함께 다루는 거버넌스 의사결정이 됐다. 2026년에는 오픈웨이트 모델이 코드와 비용 측면에서 상용 프런티어를 추격하면서, 평가 기준도 성능 순위에서 주권·TCO·거버넌스 정합성으로 옮겨가고 있다.