Cursor Composer 2.5의 Kimi 기반 후훈련과 추론 최적화

Kimi 체크포인트를 코딩 모델로 바꾸는 후훈련

Cursor는 Moonshot AI의 Kimi K2.5 오픈소스 체크포인트를 기반으로 Composer 2.5를 만들었다. 강화학습과 온폴리시 디스틸레이션을 적용해 Claude Opus 4.7, GPT-5.5와 동등한 수준의 코딩 벤치마크 성능을 기록하면서 입력 토큰 기준 $0.50/M의 가격을 제시했다. 동급 성능 모델과 비교하면 약 10분의 1에 해당하는 비용이다.

이 성과를 이해하려면 사전훈련 모델을 가져온 뒤 코딩 작업에 맞게 조정하는 과정과, 완성된 모델을 낮은 비용으로 서비스하는 추론 구조를 나눠 봐야 한다.

현재 학생 모델의 출력에서 배우는 온폴리시 방식

온폴리시 디스틸레이션(On-Policy Distillation)은 학생 모델(student model)의 현재 파라미터로 만든 출력과 교사 모델(teacher model)의 출력을 비교해 손실을 계산한다. 교사가 미리 생성한 고정 샘플을 학습하는 오프폴리시 방식과 달리, 학생 모델이 실제로 생성하는 분포 안에서 학습 신호를 얻는다. 따라서 학생의 현재 능력에 맞춰 지식을 전달할 수 있다.

Composer 2.5의 후훈련은 지도 학습 미세조정(SFT)에서 시작한다. 코딩 특화 고품질 데이터셋으로 Kimi K2.5 체크포인트를 먼저 조정한 뒤, 인간 평가자의 선호 데이터로 보상 모델을 학습하고 PPO를 통해 정책을 최적화한다. 이후 Claude Opus 4.7을 교사로 사용해 코드 생성 시나리오의 사고 과정(chain-of-thought)을 학생 모델에 전이한다.

⤢✕

학습 손실에는 교사와 학생의 출력 분포 사이 KL 발산, 보상 모델이 산출한 출력 품질 점수, 사전훈련 모델과의 KL 발산이 함께 들어간다. 마지막 항은 정규화 항으로 작동해 후훈련 도중 기반 모델의 일반 언어 능력이 훼손되는 파국적 망각(catastrophic forgetting)을 막는다.

실행 결과가 코드 보상의 중심이 된다

일반적인 언어 생성은 인간 선호에 크게 의존하지만, 코드는 실행 결과에서 비교적 명확한 평가 신호를 얻을 수 있다. Composer 2.5는 실행 가능성(Executability), 테스트 통과율(Test Pass Rate), 코드 품질(Code Quality), 효율성(Efficiency)을 결합해 보상을 계산한다.

실행 가능성은 생성한 코드가 구문 오류 없이 동작하는지를 이진 신호로 판정한다. 테스트 통과율은 제공된 테스트 케이스 중 통과한 비율을 연속 신호로 사용한다. 코드 품질에는 pylint와 eslint 같은 정적 분석 도구의 점수가 들어가며, 효율성은 시간 복잡도와 메모리 사용량을 기준으로 평가한다.

⤢✕

보상 집계에서는 실행 가능성의 가중치가 가장 높고 테스트 통과율이 뒤를 잇는다. 코드 품질과 효율성은 보조 신호로 반영한다. 먼저 실행되는 코드를 확보한 뒤 품질을 다듬는 개발 흐름을 보상 구조에 옮긴 셈이다.

낮은 토큰 가격을 지탱하는 추론 구조

입력 토큰 기준 $0.50/M이라는 가격은 후훈련만으로 설명되지 않는다. Kimi K2.5의 MoE(Mixture of Experts) 아키텍처와 서빙 단계의 최적화가 함께 작동한다.

MoE는 전체 파라미터 수가 크더라도 요청을 처리할 때 일부 파라미터만 활성화한다. 같은 수준의 성능을 내는 밀집 모델(dense model)보다 추론 연산량을 줄일 수 있는 구조다.

반복 컨텍스트를 다시 계산하지 않는 KV 캐시

코딩 에이전트는 시스템 프롬프트, 코드베이스 요약, 공통 라이브러리 문서처럼 같은 컨텍스트를 반복해서 사용한다. KV 캐시는 이 컨텍스트의 키-값 행렬을 GPU 메모리에 보관해 다시 계산하는 작업을 줄인다. Cursor의 멀티테넌트 서빙 환경에서는 같은 레포지토리를 사용하는 여러 사용자가 공유 KV 캐시를 활용할 수 있어 캐시 히트율도 높아진다.

동적 배치(Dynamic Batching)는 서로 다른 사용자의 요청을 컨텍스트 길이에 따라 묶는다. 길이가 비슷한 요청을 같은 그룹으로 처리하면 패딩 오버헤드를 줄이고 동일한 GPU 자원에서 더 많은 요청을 처리할 수 있다.

⤢✕

드래프트 모델로 순차 생성의 병목을 줄인다

스펙큘레이티브 디코딩(Speculative Decoding)은 작은 드래프트 모델이 토큰을 미리 생성하고 주 모델이 이를 병렬 검증하는 방식이다. 검증을 통과한 토큰은 추가 계산 없이 출력되므로 주 모델이 토큰을 하나씩 생성할 때보다 출력 속도를 높일 수 있다.

Composer 2.5는 Kimi K2.5와 같은 사전훈련 데이터로 학습한 소형 드래프트 모델을 사용한다. 코드에는 예약어, 괄호 짝, 들여쓰기처럼 예측 가능한 패턴이 많다. 이 환경에서 드래프트 수락률은 70-80% 수준이며, 처리량은 실질적으로 2-3배 향상된다.

오픈소스 기반 모델 개발이 바꾼 비용 구조

Kimi K2.5 체크포인트를 출발점으로 삼으면 대규모 사전훈련을 처음부터 수행하지 않고 코딩 특화 후훈련에 자원을 집중할 수 있다. 수억~수천억 달러의 사전훈련 비용을 우회하고 수천만 달러 수준의 후훈련 투자로 최전선 성능을 달성하는 전략이다.

자체 인프라에 모델을 배포할 수 있다는 점도 중요하다. 외부 API 의존성을 줄이면 비용 구조를 예측하기 쉬워지고 레이턴시를 직접 최적화할 수 있다. 양자화와 추론 최적화 커널처럼 오픈소스 커뮤니티에서 발전한 기술도 활용할 수 있다.

Kimi K2.5는 Moonshot AI가 2026년에 공개한 코딩 특화 MoE 모델이며, SWE-bench Verified에서 65% 이상의 해결률을 기록했다. Cursor는 이 체크포인트를 멀티파일 편집, 디버깅, 코드 리뷰 같은 코딩 에이전트 시나리오에 맞게 다시 훈련해 추가 성능 향상을 이뤘다.

성능만큼 가격이 중요해진 AI 코딩 시장

Composer 2.5의 입력 토큰 가격은 $0.50/M이다. Claude Opus 4.7은 $15/M, GPT-5.5는 $10/M 수준에서 운영되는 것으로 알려져 있다. 동급 성능을 30분의 1 ~ 20분의 1 가격으로 제공한다는 점은 비용에 민감한 기업 고객에게 직접적인 전환 요인이 된다.

⤢✕

이 가격은 프론티어 모델 제공업체가 추론 효율 개선을 서두르게 만드는 압력으로 작용한다. 동시에 오픈소스 체크포인트를 확보하고 특정 작업에 맞춰 후훈련하는 방식이 AI 스타트업의 표준 경로로 자리 잡을 가능성도 높인다.

GitHub Copilot은 Microsoft의 독자 인프라와 깊은 IDE 통합을 바탕으로 생태계 록인(lock-in)을 유지할 수 있다. 반면 독립 개발자와 비용 최적화를 우선하는 기업에서는 Cursor의 점유율 확대가 예상된다.

비용 하락은 코딩 에이전트의 사용 방식도 바꾼다. 코드 리뷰 자동화, 테스트 커버리지의 지속적 개선, 의존성 업데이트처럼 현재 비용 제약 때문에 제한적으로 실행되는 작업을 상시 백그라운드 프로세스로 운영할 경제적 여지가 생긴다. Composer 2.5는 오픈소스 체크포인트, 강화학습 후훈련, 추론 최적화를 결합해 프론티어 성능과 낮은 운영 비용을 함께 겨냥한 사례다.