12일 만에 쏟아진 중국 오픈웨이트 코딩 모델 4종: GLM·MiniMax·Kimi·DeepSeek 비교

GLM-5.1·MiniMax M2.7·Kimi K2.6·DeepSeek V4의 MoE 아키텍처·SWE-bench 성능·추론 비용을 비교하고 vLLM·SGLang·TensorRT-LLM 자체 호스팅 전략과 벤치마크 오염 논란을 정리한다

2026-08-14 · 최초 발행 2026-05-11

2026년 4월, 중국의 4대 AI 연구소가 약 12일 간격으로 오픈웨이트 코딩 특화 LLM을 잇달아 공개하며 글로벌 AI 생태계에 충격을 던졌다. Z.ai의 GLM-5.1, MiniMax의 M2.7, Moonshot AI의 Kimi K2.6, DeepSeek의 V4 Pro/Flash가 그 주인공으로, 이들은 모두 MIT 라이선스 혹은 그에 준하는 오픈 라이선스로 가중치를 공개했으며, 에이전틱 엔지니어링 태스크에서 GPT-5.4·Claude Opus 4.7 등 서구 프론티어 모델과 직접 경쟁하는 수준의 성능을 보여주었다.

12일 간격, 우연이라기엔 너무 정교한 타이밍

4월 7일 GLM-5.1이 첫 포문을 열었고, 4월 12일 MiniMax M2.7, 4월 20일 Kimi K2.6, 4월 24일 DeepSeek V4 Pro/Flash가 차례로 공개되었다. 우연이라고 보기 어려운 이 타이밍은 중국 AI 연구소들이 서구 모델 릴리스에 대응하는 동시에 오픈소스 생태계에서 주도권을 확보하려는 전략적 경쟁임을 보여준다.

이 모델들의 공통점은 세 가지다. 첫째, 모두 Mixture-of-Experts(MoE) 아키텍처를 채택하여 추론 시 전체 파라미터의 일부만 활성화함으로써 계산 효율을 극대화했다. 둘째, SWE-bench를 기준으로 실세계 소프트웨어 엔지니어링 태스크에서 측정 가능한 성능을 공개했다. 셋째, API 사용 비용이 GPT-5.5나 Claude Opus 4.7 대비 현저히 낮아 비용 효율 측면에서 강점을 주장했다.

모델마다 갈리는 규모와 어텐션 전략

GLM-5.1은 754B 총 파라미터를 가진 대형 MoE 모델로 MIT 라이선스로 공개되었다. 200K 토큰의 컨텍스트 창과 128K 토큰의 최대 출력 길이를 지원한다. 가장 주목할 만한 점은 자율적인 장시간 실행 능력으로, 8시간 연속으로 655회 반복 최적화를 수행하며 벡터 데이터베이스 쿼리 처리량을 초기 프로덕션 버전 대비 6.9배까지 높이는 데 성공했다. SWE-bench Pro에서 58.4%를 기록하여 릴리스 당시 GPT-5.4(57.7%)와 Claude Opus 4.6(57.3%)을 앞질렀다.

MiniMax M2.7는 230B 총 파라미터, 10B 활성 파라미터를 갖는 스파스 MoE 모델이다. 62개 레이어, 숨겨진 크기 3072, 256개의 로컬 전문가 중 토큰당 8개를 활성화하는 Top-k 라우팅 방식을 사용한다. QK RMSNorm을 적용하여 대규모 학습 시 안정성을 확보했으며, SWE-bench Pro에서 56.22%, Terminal Bench 2에서 57.0%를 기록했다. MiniMax의 특기할 점은 "자기 진화(Self-Evolution)" 개념을 도입하여 에이전트가 반복 작업 중 자체 개선 루프를 형성하는 설계를 표방한다는 것이다.

Kimi K2.6은 현재 공개된 중국 오픈웨이트 코딩 모델 중 가장 큰 규모인 1조(1T) 파라미터 MoE 구조를 채택했다. 토큰당 32B 파라미터를 활성화하며, 262,144 토큰의 컨텍스트 창을 지원한다. INT4 양자화가 기본으로 적용되어 로컬 배포 부담을 낮추었다. SWE-bench Pro에서 58.6%를 기록하여 GPT-5.5와 동점을 이루었고, SWE-bench Verified에서는 80.2%를 달성했다. 전작인 K2.5 대비 아키텍처 변화 없이 후처리 파이프라인을 전면 개편하여, 단일 실행에서 4,000회 이상의 툴 호출 일관성을 유지하고 최대 300개의 서브에이전트 동시 운영을 지원한다.

DeepSeek V4는 두 가지 버전으로 출시되었다. V4 Pro는 1.6T 총 파라미터, 49B 활성 파라미터이며, V4 Flash는 284B 총 파라미터, 13B 활성 파라미터로 경량화된 버전이다. 가장 주목할 혁신은 CSA(Compressed Sparse Attention)와 HCA(Heavily Compressed Attention)를 결합한 하이브리드 어텐션 메커니즘이다. 이를 통해 1M 토큰 컨텍스트 설정에서 DeepSeek V3.2 대비 단일 토큰 추론 FLOPs는 27% 수준, KV 캐시는 10% 수준으로 줄였다. 전체 메모리 효율은 V3.2 대비 9.5~13.7배 개선되었다.

중국 오픈웨이트 코딩 모델 비교GLM-5.1 (Z.ai)MiniMax M2.7Kimi K2.6 (Moonshot)DeepSeek V4 Pro 파라미터: 754B컨텍스트: 200K 토큰라이선스: MITSWE-bench Pro: 58.4% 파라미터: 230B / 활성:10B전문가: 256개 8개 활성라이선스: Apache 2.0SWE-bench Pro: 56.22% 파라미터: 1T / 활성: 32B컨텍스트: 262K 토큰라이선스: Modified MITSWE-bench Pro: 58.6% 파라미터: 1.6T / 활성: 49B컨텍스트: 1M 토큰라이선스: MITSWE-bench Pro: 최상위권

1T 파라미터 모델을 직접 돌리는 법

오픈웨이트 모델의 실질적 가치는 자체 호스팅을 통한 비용 절감과 데이터 프라이버시 확보에 있다. 그러나 수백B에서 1T에 달하는 MoE 파라미터를 효율적으로 추론하려면 적절한 추론 엔진 선택과 GPU 메모리 최적화 전략이 필수적이다.

2026년 현재 프로덕션 LLM 추론에서 핵심적인 세 가지 엔진은 vLLM, SGLang, TensorRT-LLM이며, 각각 서로 다른 트레이드오프를 가진다. vLLM은 가장 광범위한 모델 지원과 뛰어난 문서화를 자랑한다. 컴파일 단계가 필요 없어 빠른 시작이 가능하며, H100 기준 약 12,500 tokens/sec의 처리량을 제공한다. 신속한 프로토타이핑과 다양한 모델을 유연하게 서빙해야 하는 환경에 적합하다. SGLang 0.4는 DeepSeek-V3 MTP(Multi-Token Prediction) 통합이 가장 우수하며, H100 기준 약 16,200 tokens/sec으로 가장 빠른 처리량을 보인다. Kimi K2.5/K2.6, GLM-5, MiniMax 2.5 등 중국 주요 모델에 대한 네이티브 지원도 확장되었다. 장기 컨텍스트 리트리벌 작업과 DeepSeek 계열 모델 서빙에 권장된다. TensorRT-LLM은 NVIDIA GPU에 최적화된 저수준 하드웨어 최적화로 가장 높은 처리량과 낮은 레이턴시를 제공하나, 28분에 달하는 컴파일 시간이 단점이다. 레이턴시 크리티컬한 음성 에이전트 등 특수 목적 서빙에 유용하다.

아니오아니오아니오모델 선택DeepSeek V4?SGLang 0.4(MTP 네이티브 지원)레이턴시 최우선?TensorRT-LLM(컴파일 필요)모델 유연성 필요?vLLM(광범위한 모델 지원)SGLang(처리량 최고)

1T 파라미터 규모의 Kimi K2.6이나 1.6T의 DeepSeek V4 Pro를 자체 호스팅하려면 GPU 클러스터 수준의 인프라가 필요하다. 실용적인 메모리 효율 전략으로는 H100 등 Hopper 아키텍처 GPU에서 메모리를 절반으로 줄이고 처리량을 약 2배 높이는 FP8 양자화(DeepSeek V4 Pro/Flash는 기본적으로 FP8과 FP4 혼합 정밀도를 사용), 정적 KV 캐시 할당 시 발생하는 6080%의 메모리 낭비를 제거하는 PagedAttention(vLLM에서 기본 지원), 대형 모델의 초안을 소형 드래프트 모델이 생성하고 대형 모델이 검증하는 방식으로 인터랙티브 패스의 레이턴시를 23배 단축하는 Speculative Decoding, 다중 GPU에 모델을 분산 배치하는 텐서 병렬화(TP) 및 파이프라인 병렬화(PP) 조합(Kimi K2.6의 경우 INT4 기본 양자화로 1T 파라미터임에도 메모리 요구량을 대폭 낮췄다)을 고려한다.

자체 호스팅 환경에서의 배치 추론 최적화는 지속적인 배칭(Continuous Batching)을 기반으로 한다. 요청을 고정 배치 단위로 묶는 정적 배칭과 달리, 연속 배칭은 각 토큰 생성 단계마다 완료된 시퀀스를 내보내고 새 시퀀스를 추가하여 GPU 유휴 시간을 최소화한다. 에이전틱 코딩 태스크는 특히 툴 호출(함수 호출, 코드 실행, 파일 읽기 등)이 빈번하여 요청 당 수천 번의 전후 처리가 필요하다. Kimi K2.6은 단일 실행에서 4,000회 이상의 툴 호출을 일관성 있게 처리하도록 설계되었으며, SGLang의 구조화된 생성(Structured Generation) 기능과 조합하면 툴 호출 파싱 오버헤드를 줄일 수 있다.

SWE-Rebench가 드러낸 벤치마크 오염의 격차

에이전틱 코딩 모델 평가에서 가장 널리 사용되는 벤치마크는 SWE-bench 계열이다. SWE-bench Verified는 GitHub 이슈 해결 능력을 측정하며 실제 오픈소스 프로젝트의 버그 수정 태스크로 구성된다. SWE-bench Pro는 더 어렵고 복잡한 다단계 엔지니어링 태스크를 포함하여 보다 도전적인 기준을 제시한다. 다단계 코딩 태스크 평가에서 고려해야 할 요소는 수백~수천 회의 툴 호출 후에도 컨텍스트를 유지하는 툴 사용 일관성, 대규모 리포지토리에서 관련 파일을 식별하는 코드베이스 탐색 능력, 수정 사항의 정확성을 자동 검증하는 테스트 작성 및 실행, 기존 기능을 손상시키지 않는 변경인 회귀 방지다.

주목할 만한 논란은 SWE-Rebench 평가다. MiniMax M2.5는 SWE-bench Verified에서 80.2%를 기록하여 Claude Opus 4.6(80.8%)에 근접했으나, 새로운 문제로 구성된 비오염 벤치마크 SWE-Rebench에서는 39.6%로 급락한 반면 Claude Opus 4.6은 51.7%를 유지했다. 이 12포인트 차이는 기존 벤치마크만으로는 확인할 수 없는 훈련 데이터 오염 가능성을 시사한다. 반면 DeepSeek V4 Pro는 GPT-5.5, Opus 4.7과 에이전틱 벤치마크에서 경쟁적 성능을 보이며 오염 논란에서 상대적으로 자유로운 편이다. 벤치마크 평가를 설계할 때는 공개 벤치마크와 비공개 프라이빗 평가셋을 병행 사용하고, 반복 재현성 테스트를 통해 우연성을 배제하는 것이 권장된다.

SWE-bench Verified 점수Kimi K2.680.2%DeepSeek V4 Pro최상위권Claude Opus 4.680.8%SWE-bench Pro 점수 (2026년 4월 기준)Kimi K2.658.6%GLM-5.158.4%MiniMax M2.756.22%Claude Opus 4.764.3%GPT-5.558.6% (동점)

서구 모델 대비 가격 우위는 얼마나 큰가

오픈웨이트 모델의 핵심 경쟁력은 비용이다. API 기반 비교에서도 중국 모델은 현저한 가격 우위를 보인다. DeepSeek V4 Flash는 입력 토큰 $0.028/1M(캐시 히트), $0.14/1M(미스), 출력 토큰 $0.28/1M을 제공한다. V4 Pro의 출력 토큰은 $3.48/1M으로, Claude Opus 4.7($25/1M)의 약 1/7 수준이다. Kimi K2.6은 GPT-5.5 대비 약 80% 저렴한 가격을 제공하며, SWE-bench Pro 동점 성능임을 감안하면 비용 효율 측면에서 명백한 우위다. 자체 호스팅의 경우, 1M 컨텍스트를 지원하는 DeepSeek V4 Pro는 V3.2 대비 KV 캐시 10%, FLOPs 27% 수준으로 운영 비용을 획기적으로 절감할 수 있다. 특히 장문 코드베이스 분석이나 대규모 리포지토리 탐색 태스크에서 이점이 두드러진다.

2026년 4월 12일 간격으로 공개된 GLM-5.1, MiniMax M2.7, Kimi K2.6, DeepSeek V4는 오픈웨이트 코딩 LLM 시대의 새로운 기준점을 제시했다. 이들은 MoE 아키텍처로 파라미터 대비 추론 효율을 극대화하고, SWE-bench Pro에서 서구 프론티어 모델과 대등한 성능을 달성했다. 자체 호스팅을 위해서는 SGLang(DeepSeek 계열), vLLM(범용), TensorRT-LLM(레이턴시 최우선) 중 목적에 맞는 추론 엔진을 선택하고, FP8 양자화·PagedAttention·연속 배칭 조합으로 GPU 효율을 극대화해야 한다. 다만 SWE-Rebench 사례가 보여주듯 벤치마크 오염 가능성에 대한 비판적 시각을 유지하며 실제 도메인 태스크 기반의 직접 평가가 병행되어야 한다.

Sources

오픈웨이트모델MoE아키텍처SWE-bench자체호스팅추론중국AI랩