MAI-Thinking-1 기술 보고서로 읽는 Microsoft AI의 독자 추론 모델 전략

Microsoft AI가 자체 추론 모델을 내놓은 이유

Microsoft AI는 2026년 6월 2일 Microsoft Build 2026에서 MAI-Thinking-1을 발표하고, 기술 보고서 「MAI-Thinking-1: Building a Hill-Climbing Machine」을 함께 공개했다. 보고서에는 데이터 수집부터 강화학습 설계, 평가 프레임워크에 이르는 학습 과정이 담겼다.

MAI-Thinking-1은 Microsoft AI가 독자 개발한 최초의 인하우스 추론 모델이다. Microsoft Build 2026에서 공개된 7개 MAI 패밀리 모델 가운데 플래그십에 해당하며, MAI-Code-1-Flash 같은 특화 모델과 함께 등장했다. 기존 Microsoft 제품군이 OpenAI 모델에 의존해 온 것과 달리, 이 모델은 OpenAI 데이터나 제3자 모델의 증류 없이 자체 학습 파이프라인으로 개발됐다.

보고서 부제인 “Hill-Climbing Machine”은 컴퓨팅·데이터·평가 사이클을 함께 설계하고 반복적으로 개선한다는 개발 철학을 나타낸다. 단순히 파라미터를 늘리거나 다른 모델의 출력을 모방하는 대신, 자체 인프라에서 개선 가능한 학습 체계를 축적하는 전략이다.

희소 MoE로 연산량과 모델 규모를 조율한다

MAI-Thinking-1의 기반은 희소 전문가 혼합(Sparse Mixture of Experts, MoE)을 적용한 디코더 전용 트랜스포머다.

항목	사양
활성 파라미터	350억 (35B)
전체 파라미터	약 1조 (1T)
컨텍스트 윈도우	256,000 토큰
기본 구조	디코더 전용 트랜스포머
어텐션 패턴	로컬 5레이어 : 글로벌 1레이어 교대

밀집 피드포워드 블록과 MoE 피드포워드 블록을 번갈아 배치한다. 전체 파라미터는 약 1조이지만 추론 과정에서 활성화되는 파라미터는 350억이어서, 모델 규모와 연산 효율을 함께 고려한 구조다. 256K 토큰 컨텍스트 윈도우는 긴 문서와 복잡한 다단계 추론 체인을 처리하도록 설계됐다.

어텐션은 로컬 5레이어와 글로벌 1레이어를 교대한다. 5:1 로컬·글로벌 패턴을 통해 인접 토큰의 정보를 주로 처리하면서 일정한 간격으로 전역 맥락을 통합한다. 장거리 의존성을 유지하되 연산 복잡도를 관리하려는 선택이다.

증류를 배제한 학습 파이프라인

MAI-Thinking-1의 학습 전략을 구분 짓는 원칙은 완전한 비증류(no-distillation) 정책이다.

⤢✕

학습 데이터는 30조 토큰의 인간 저작 텍스트로 구성됐다. 상업적 이용이 허가된 텍스트만 사용했으며, 웹 크롤링 데이터에서는 AI 생성 텍스트를 적극적으로 식별해 제거했다. AI 합성 데이터도 학습 데이터에 포함하지 않았다.

이 데이터 전략은 DeepSeek-R1 이후 주목받은 클린 데이터 접근과 맞닿아 있다. AI 생성 콘텐츠가 웹에 늘어난 환경에서 인간이 작성한 고품질 텍스트를 선별해 모델 품질과 신뢰성을 확보하려는 방식이다.

강화학습 단계에서는 능력과 안전성을 별도의 문제로 나누지 않는다. 안전 위반 컴플라이언스는 보상 구조의 결함으로 처리하고, 필요하지 않은 상황에서의 과도한 거부도 같은 방식으로 다룬다. 능력 훈련과 안전 훈련을 분리하지 않고 하나의 RL 프레임워크와 통합 보상 체계 안에서 최적화한다는 뜻이다.

전통적 RLHF에서는 안전성 파인튜닝을 별도 단계로 진행하는 경우가 많다. MAI-Thinking-1은 안전성을 처음부터 모델 능력의 일부로 보고 같은 보상 함수에 포함한다는 점에서 차이가 난다.

수학과 코딩 평가에서 확인된 위치

보고서가 제시한 결과에서 MAI-Thinking-1은 수학적 추론과 코딩 태스크 모두 경쟁력 있는 성능을 보였다.

벤치마크	성능	비고
AIME 2025	97.0%	최고 수준 수학 추론
AIME 2026	94.5%	최신 경시 수학
SWE-Bench Pro	52.8%	Claude Opus 4.6과 동급
MATH-500	o3-mini와 경쟁적	수학 문제 해결
인간 선호도 평가	Claude Sonnet 4.6 대비 우위	Surge 패널 사이드바이사이드

AIME 2025 성능은 97.0%다. 미국 수학 올림피아드 예선인 AIME가 요구하는 복잡한 다단계 수학 문제를 체계적으로 분해하고 해결할 수 있다는 점을 보여주는 결과다.

OpenAI o3와 비교하면 수학 추론에서는 경쟁적이지만, 가장 복잡한 추론 태스크에서는 o3가 앞선다. MAI-Thinking-1의 포지셔닝은 full o3보다 o3-mini와 동급에 가깝다. 대신 순수 파라미터 규모 이상의 능력을 낮은 토큰 비용으로 제공하는 비용 효율성과 Azure 네이티브 통합을 차별점으로 삼는다.

SWE-Bench Pro에서는 Claude Opus 4.6과 동급인 52.8%를 기록했고, Surge 패널의 사이드바이사이드 인간 선호도 평가에서는 Claude Sonnet 4.6보다 앞섰다. 다만 가장 어려운 추론 문제에서는 Claude의 확장 사고 모드가 여전히 우위를 보인다. 코딩 평가 결과는 Microsoft의 독자 RL 파이프라인이 OpenAI 생태계 없이도 높은 수준의 코딩 추론에 도달할 수 있음을 보여준다.

⤢✕

보고서가 공개한 것과 남겨 둔 것

Microsoft AI는 데이터 수집·정제 전략, 강화학습 보상 설계 원칙, 평가 프레임워크 구성, 학습 파이프라인 아키텍처 개요, 안전성 훈련 통합 방법론을 보고서에 공개했다.

반면 정확한 모델 가중치와 독점 인프라의 세부 사항, 상용 배포 최적화 기법은 공개하지 않았다. 학술 커뮤니티와 협력하고 표준화에 기여하면서도 핵심 경쟁 우위는 보호하려는 경계 설정이다. DeepMind와 OpenAI가 기술 보고서에서 공개하는 정보를 줄여 가는 추세와 비교하면, Microsoft AI의 상대적인 투명성은 차별화 전략으로 읽힌다.

모델 하나를 넘어선 산업적 신호

MAI-Thinking-1은 Microsoft AI가 OpenAI 모델 스택과 별개로 프런티어 모델 역량을 구축하고 있음을 보여준다. Microsoft는 OpenAI의 주요 투자자이자 파트너인 동시에 자체 모델 개발을 병행함으로써 장기적인 전략 선택지를 넓히고 있다.

기술적으로는 다른 모델의 출력을 증류하지 않고 순수 강화학습으로 프런티어 추론 성능에 도달할 수 있음을 실증했다. DeepSeek-R1이 제시한 가능성을 대형 상업 연구소가 자체 방식으로 재현하고 발전시킨 사례이며, RL 기반 추론 모델의 훈련 비용과 데이터 전략을 논의할 새로운 기준점이 된다.

클린 데이터 전략도 별도의 의미를 갖는다. AI 생성 텍스트의 웹 범람이 심화된 2026년 환경에서 인간 저작 고품질 데이터만으로 훈련하는 접근의 실효성을 보여줬고, 프런티어 모델 학습에서 데이터 품질 관리가 차지하는 비중을 다시 드러냈다.

이 모델을 이해할 때는 강화학습의 보상 함수 설계와 정책 최적화, RLHF와 순수 RL의 차이를 함께 봐야 한다. 희소 MoE의 활성화 및 라우팅 방식은 연산 효율과 연결되며, 사전학습 데이터의 규모와 품질은 모델 능력 형성의 또 다른 축이다. 학습·평가·배포 파이프라인의 공동 설계, 안전성을 포함한 통합 보상 함수, 재현 가능성과 투명성 사이의 선택도 보고서가 남긴 핵심 논점이다.

MAI-Thinking-1은 30조 토큰의 클린 데이터, 증류 없는 RL 파이프라인, 능력과 안전성을 함께 다루는 보상 설계를 통해 Microsoft AI의 독자적인 추론 모델 개발 역량을 드러냈다. 상세한 기술 보고서를 공개하면서도 모델 가중치와 인프라 세부 사항을 남겨 둔 방식은 협력과 경쟁 우위를 함께 관리하려는 전략을 보여준다. 향후 추론 모델 시장의 경쟁 구도와 엔터프라이즈 AI에서 Azure 네이티브 통합의 영향력에도 변화를 줄 것으로 예상된다.