Cursor Composer 2.5의 Kimi K2.5 후훈련과 추론 비용 설계

Kimi K2.5를 코딩 정책으로 특화하는 방법

Cursor는 Moonshot의 Kimi K2.5 오픈소스 체크포인트를 출발점으로 삼았다. 여기에 온폴리시 강화학습과 지식 증류를 결합한 후훈련 파이프라인을 적용해 Claude Opus 4.7·GPT-5.5와 동급의 벤치마크 성능을 확보하고, 입력 토큰당 $0.50/M의 비용으로 Composer 2.5를 제공한다.

이 구조에서 Kimi K2.5는 학생 모델이고 최전선 대형 언어 모델은 교사 역할을 맡는다. 학습 목표는 교사가 만든 답을 그대로 복제하는 데 머물지 않는다. 학생 정책이 실제로 생성하는 분포를 교사 정책과 정렬하면서 코드 생성에 특화된 보상을 함께 반영한다.

학생이 생성한 시퀀스에 교사 확률을 매긴다

일반적인 지식 증류는 교사의 소프트 레이블을 이용해 학생의 출력 분포를 교사 분포에 가깝게 만든다. Composer 2.5는 이를 온폴리시 환경으로 가져온다. 학생 정책이 생성한 시퀀스마다 교사 모델의 조건부 로그 확률을 실시간으로 계산하고, 그 값을 보상 신호로 사용한다.

학생 정책 $\pi_\theta$가 입력 $x$에 대해 시퀀스 $y$를 생성했다면 교사 로그 확률 $\log p_T(y|x)$가 보상의 일부가 된다. 동시에 $\beta \cdot D_{KL}(\pi_\theta || \pi_{ref})$ 항을 두어 학생 정책이 참조 정책에서 지나치게 멀어지지 않도록 제어한다. 구조는 RLHF의 표준 PPO 목적 함수와 닮았지만, 인간 피드백 대신 교사 모델의 확률 분포를 보상 원천으로 쓴다는 차이가 있다.

⤢✕

실행 결과와 코드 품질을 함께 보상한다

코드는 일반 텍스트보다 객관적인 평가 신호를 얻기 쉽다. 생성물을 실제로 실행하고 테스트 결과를 확인할 수 있기 때문이다. Composer 2.5의 보상 함수에는 실행 기반 정확도, 교사 모델 확률, 코드 품질 메트릭이 함께 들어간다.

실행 기반 정확도는 생성 코드를 단위 테스트 환경에서 돌린 결과로 산출한다. SWE-bench, HumanEval, MBPP 등의 벤치마크 태스크를 학습 데이터로 사용하며, 단순한 성공과 실패가 아니라 부분 점수로 결과를 정규화한다.

교사 모델 확률은 같은 컨텍스트에서 교사가 생성했을 법한 코드와 학생 출력의 분포 유사도를 측정한다. 토큰 일치 여부만 비교하지 않고 의미론적 유사도를 반영하기 위해 임베딩 코사인 유사도도 보조 신호로 사용한다.

여기에 순환 복잡도, 함수 길이, 주석 비율 같은 정적 분석 지표를 약한 보상으로 더한다. 테스트만 통과하도록 허점을 이용하는 보상 해킹을 억제하기 위한 장치다.

GRPO와 참조 정책으로 학습 이탈을 제어한다

Composer 2.5의 학습 파이프라인은 PPO의 변형인 GRPO(Group Relative Policy Optimization)를 채택한 것으로 알려져 있다. 동일한 프롬프트에서 여러 응답을 만들고 그룹 내부의 상대적 순위를 보상으로 사용하기 때문에 별도의 가치 함수 네트워크 없이 정책을 최적화할 수 있다. 그만큼 메모리 효율도 높다.

참조 모델은 EMA(Exponential Moving Average) 방식으로 주기적으로 갱신한다. KL 발산이 임계치를 넘으면 학습률을 자동으로 낮추는 적응형 KL 제어 메커니즘도 적용한다.

$0.50/M 가격을 뒷받침하는 서빙 구조

좋은 코딩 정책을 학습했더라도 추론 비용이 높으면 에이전틱 워크플로우에 반복적으로 투입하기 어렵다. Composer 2.5가 $0.50/M 입력 토큰 가격을 실현하려면 모델 학습과 별개로 여러 계층의 추론 최적화가 필요하다.

반복되는 코드베이스 컨텍스트를 캐시에 남긴다

코딩 어시스턴트는 열려 있는 파일과 프로젝트 구조처럼 같은 컨텍스트를 계속 처리한다. Cursor는 이 패턴을 접두사 캐싱에 활용한다. 반복되는 정보를 공유 KV 캐시에 저장하고, 새 요청에서도 캐시를 최대한 재사용할 수 있도록 프롬프트를 구성한다.

요청을 묶는 단계에서는 연속 배치와 동적 배치 크기 조절을 함께 사용한다. 짧은 코드 자동 완성 요청과 긴 컨텍스트가 필요한 Composer 요청을 서로 다른 배치 그룹에서 처리해 GPU 활용률을 높인다. vLLM 기반 PagedAttention은 KV 캐시의 메모리 단편화를 줄이고 동시에 처리할 수 있는 요청 수를 늘리는 데 쓰인다.

초안 검증과 INT4 양자화로 연산량을 낮춘다

Composer 2.5는 Kimi K2.5의 소형 버전을 스펙큘레이티브 디코딩용 초안 모델로 사용하는 설계를 채택한다. 초안 모델이 4~8개의 토큰을 먼저 예측하면 대형 검증 모델이 이를 병렬로 확인한다. 자동회귀 디코딩에서 발생하는 순차적 병목을 완화하는 방식이다. 코드에는 키워드와 반복 패턴처럼 예측 가능한 요소가 많아 자연어보다 이 방식의 효과가 크게 나타난다.

서빙 포맷에는 AWQ(Activation-aware Weight Quantization) INT4를 사용한다. 모델 파라미터의 메모리 풋프린트는 BF16보다 약 4배 줄어든다. 활성화 이상치를 고려한 채널별 스케일링으로 INT4에서도 코드 생성 품질 저하를 최소화한다.

⤢✕

필요한 파일만 컨텍스트에 넣는다

멀티턴 코드 편집에서는 컨텍스트 창을 어떻게 배분하느냐가 비용과 지연에 직접 영향을 준다. Composer 2.5의 토큰 예산 관리자는 요청별 최대 컨텍스트를 동적으로 조절한다. 최근 수정 여부, 의존성 그래프 거리, 심볼 참조 빈도로 파일 중요도를 평가한 뒤 우선순위가 높은 파일부터 컨텍스트에 포함한다.

응답 단계에서는 스트리밍 디코딩과 조기 중단을 결합한다. 첫 토큰 지연인 TTFT(Time To First Token)를 낮추기 위해 프롬프트 인코딩과 디코딩을 파이프라인화하고, 코드 블록 완성 신호를 감지하면 불필요한 후속 토큰 생성을 중단한다.

오픈소스 기반 모델에 전문화를 집중한 선택

Kimi K2.5는 MoE(Mixture of Experts) 아키텍처를 사용한다. 활성화 파라미터에 비해 전체 파라미터 비율이 높아 추론 시 계산 효율이 뛰어나다. Cursor는 이 체크포인트를 활용해 수천억 원 규모의 사전학습 비용을 피하고, 자사 코드 편집 흐름에 맞춘 후훈련에 자원을 집중했다.

기반 모델은 오픈소스에서 가져오고 서비스에 필요한 전문화는 자체적으로 수행하는 전략이다. 코드 도메인에는 실행 결과라는 객관적인 평가 기준이 있어 온폴리시 강화학습을 적용하기에도 유리하다. 범용 모델에서 확보하기 어려운 코드 생성 능력을 후훈련으로 끌어올린 사례인 셈이다.

AI 코딩 도구 사이에서의 위치

⤢✕

Claude Code는 Anthropic의 최전선 모델을 직접 사용해 최고 수준의 추론 능력을 제공하지만, 비용은 Composer 2.5보다 약 10배 높다. GitHub Copilot은 폭넓은 IDE 통합과 에코시스템이 강점인 반면, 순수 코드 생성 성능에서는 Composer 2.5에 뒤처진다는 평가가 많다.

가장 직접적인 경쟁 상대는 Windsurf 2.0(Codeium)이다. Windsurf 2.0은 자체 개발한 SWE-1 모델과 에이전틱 코드 편집 흐름의 수직 통합을 내세운다. Cursor는 외부 오픈소스 체크포인트를 강화학습으로 특화하는 길을 택했다. 이 방식은 기반 모델 연구의 발전을 빠르게 받아들이며 반복 개선할 수 있다는 유연성을 갖는다.

낮아진 호출 비용이 에이전트 활용 범위를 넓힌다

$0.50/M 입력 토큰 가격은 대기업 개발팀이 하루 수천만 토큰을 사용해도 월 수십만 원 수준에서 운영할 수 있는 비용 구조를 만든다. 소규모 팀과 스타트업도 AI 코딩 어시스턴트에 접근하기 쉬워진다.

비용 차이는 여러 번 모델을 호출하는 에이전틱 작업에서 더 크게 드러난다. 멀티스텝 코드 수정이나 대규모 리팩토링은 수십 회의 LLM 호출을 요구한다. 호출당 비용이 10분의 1로 줄면 이런 작업을 실행할 때의 경제적 제약도 크게 낮아진다. 터미널 에이전트, 테스트 자동화, PR 리뷰 자동화를 확장하려는 Cursor의 전략에서 낮은 추론 비용은 핵심 인프라가 된다.

오픈소스 생태계에도 같은 변화가 이어진다. Kimi K2.5와 같은 기반 모델을 확보할 수 있고 특화 후훈련 비용이 사전학습보다 수십 배 낮아진 상황에서는 도메인 AI 서비스의 진입 장벽이 낮아진다. Cursor의 접근법은 의료, 법률, 과학 등 전문 영역에서도 시도될 수 있음을 예고한다.

Composer 2.5는 오픈소스 모델의 온폴리시 강화학습과 추론 인프라 최적화를 하나의 비용 구조로 묶었다. Claude Opus 4.7 동급 성능을 1/10 비용에 제공하면서 AI 코딩 어시스턴트의 경쟁 기준도 단순한 최고 성능에서 비용 대비 성능으로 이동하게 됐다. 전문 도메인 후훈련과 서빙 최적화를 결합하는 방식이 이후 AI 응용 서비스의 표준 접근법으로 자리 잡을 전망이다.