Meta Muse Spark: 오픈소스를 접고 사고 압축을 택한 독점 모델의 등장

Meta Superintelligence Labs가 2026년 4월 8일 첫 번째 독자 독점 모델 Muse Spark를 공개했다. 기존 Llama 오픈소스 노선과 분리된 이 모델은 "사고 압축(Thought Compression)"이라는 추론 효율화 기법을 핵심으로 내세우며, Llama 4 Maverick 대비 10배 이상 적은 컴퓨팅으로 동급 성능을 달성한다고 주장한다. 오픈소스 AI의 대표 주자로 알려졌던 Meta가 닫힌 독점 모델 노선으로 전환한 배경과 그 기술적 설계 원리를 분석한다.

Llama를 오픈소스로 공개했던 그 회사가

Meta Superintelligence Labs(MSL)는 Scale AI 창업자 알렉산더 왕이 최고 AI 책임자로 합류한 이후 Meta 내부에 신설된 연구 부서다. MSL은 기존 Meta AI 조직과는 별개로 AI 인프라, 아키텍처, 데이터 파이프라인을 처음부터 다시 구축하는 방식을 택했다.

Muse Spark는 Muse 계열 모델의 첫 번째 작품이다. Meta가 설명하는 Muse 시리즈의 개발 철학은 "각 세대가 다음 세대를 검증하고 구축하는 과학적이고 체계적인 스케일링 접근법"이다. Muse Spark는 작고 빠르게 설계된 초기 모델이지만, 과학, 수학, 의료 분야의 복잡한 질문을 추론할 수 있을 만큼 충분한 성능을 갖추도록 설계되었다. 이 모델은 현재 Meta AI 어시스턴트를 구동하는 핵심 모델로 배포되어 있다.

⤢✕

핵심 전략 전환의 신호는 Muse Spark가 닫힌 소스 독점 모델이라는 사실이다. Meta는 사실상 오픈소스 AI의 대명사였다. Llama 시리즈를 공개하며 연구 생태계를 형성했고, 이것이 Meta AI에 대한 신뢰와 개발자 기반을 형성하는 핵심 전략이었다. Muse Spark의 출시는 이 기조를 명시적으로 뒤집는 선언이다.

적게 생각하고도 정답을 맞히는 법을 배우다

Muse Spark의 기술적 핵심은 "사고 압축(Thought Compression)"이다. 이는 모델이 복잡한 문제를 풀 때 생성하는 추론 토큰(reasoning tokens)의 수를 최소화하면서도 정답률을 유지하는 기법이다.

사고 압축의 구현 방식은 강화학습(Reinforcement Learning) 훈련 과정에서의 패널티 설계에 있다. RL 훈련 시 모델은 정답 정확도(correctness)를 최대화하는 것과, "사고 시간(thinking time)" 즉 추론 과정에서 생성하는 토큰 수에 대한 패널티를 최소화하는 것을 동시에 최적화한다. 이 두 목표의 균형 속에서 모델은 불필요한 추론 단계를 제거하고 더 효율적인 추론 경로를 학습한다.

⤢✕

Meta의 공식 블로그에 따르면, 이 훈련 과정에서 모델은 페이즈 전환(phase transition)을 겪는다. 즉, 어느 시점을 기점으로 모델이 갑자기 더 적은 토큰으로 동일한 문제를 풀 수 있는 방식으로 추론 전략을 재구성한다. 페이즈 전환은 물리학의 상전이 개념을 차용한 표현으로, 이 전환 이전에는 모델이 긴 추론 체인을 통해 정답에 도달하지만 전환 이후에는 훨씬 압축된 경로로 동일한 정답에 도달한다.

이 현상은 최근 LLM 추론 연구에서도 유사한 관찰이 보고되고 있다. CoLaR(Compressed Latent Reasoning) 같은 연구는 확률적 잠재 예측 헤드와 GRPO(Group Relative Policy Optimization) RL 알고리즘을 활용해 다양한 잠재 추론 경로를 탐색하고 더 짧은 경로를 활용하는 방식으로 유사한 압축 효과를 달성한다. Learning to Think(L2T) 프레임워크는 정보 이론적 관점에서 이를 정식화해, 추론 체인의 정보 이득(fitting information gain)과 압축 패널티(compression penalty)를 결합한 밀집 프로세스 보상(dense process reward)으로 필요한 정보만을 담는 최소한의 추론 체인을 학습하도록 유도한다.

기존의 LLM 추론 효율화 기법은 크게 세 범주로 나뉜다. 이미 학습된 모델에서 중복 토큰이나 불필요한 추론 단계를 런타임에 제거하는 훈련 불필요(Training-Free) 방법은 구현이 단순하지만 성능 손실이 발생할 수 있다. 짧은 추론 체인을 가진 데이터로 모델을 파인튜닝하는 지도 파인튜닝(SFT) 기반 방법은 훈련 데이터의 품질에 크게 의존한다. Meta Muse Spark가 채택한 강화학습(RL) 기반 방법은 보상 신호를 통해 모델이 스스로 더 효율적인 추론 경로를 발견하도록 유도하며, 일부 연구에서는 이 방식으로 기본 모델 대비 토큰 사용량을 80% 이상 줄이면서도 정확도를 유지하는 결과를 보고한다.

텍스트·이미지·오디오를 하나로 묶은 설계

Muse Spark는 텍스트, 이미지, 오디오, 도구 사용(tool use)을 단일 아키텍처에서 처리하는 네이티브 멀티모달 모델로 설계되었다. 이는 기존의 "언어 모델에 비전 모듈을 후붙임"하는 접근법과 근본적으로 다르다. 네이티브 멀티모달 설계는 텍스트와 비주얼 정보를 처음부터 공동으로 처리하는 사전 훈련 과정을 포함한다. 모달리티 간 정보 통합이 모델의 핵심 레이어에서 이루어지기 때문에, 시각적 추론 체인(visual chain of thought)이 텍스트 추론과 동일한 수준의 깊이와 일관성을 가질 수 있다.

⤢✕

Muse Spark의 또 다른 혁신은 Contemplating Mode다. 이는 단일 모델이 더 오래 사고하는 방식(serial thinking)이 아니라, 여러 에이전트를 병렬로 실행하여 답변을 생성하고 정제하며 집계하는 방식(parallel agents)이다. 여러 에이전트가 동일한 문제에 대해 병렬로 독립적인 답변을 생성하는 솔루션 생성(Solution Generation), 각 에이전트가 자신의 답변을 검토하고 개선하는 반복적 자기 정제(Iterative Self-Refinement), 여러 에이전트의 정제된 답변을 종합해 최종 답변을 생성하는 집계(Aggregation) 순으로 동작한다.

⤢✕

이 설계의 장점은 응답 지연(latency)을 줄이면서도 복잡한 추론 능력을 확보할 수 있다는 점이다. 단일 모델이 오래 사고할수록 응답 시간이 선형적으로 증가하는 반면, 병렬 에이전트 방식은 컴퓨팅 자원을 분산하여 더 낮은 지연으로 더 높은 품질의 답변을 도출할 수 있다.

Llama 4 Maverick은 Mixture-of-Experts(MoE) 아키텍처를 채택한다. 128개의 독립적인 신경망 전문가 모델이 입력에 따라 선택적으로 활성화되는 구조다. 각 전문가는 서로 다른 유형의 작업에 최적화되어 있으며, 모든 전문가를 동시에 활성화할 필요 없이 특정 입력에 적합한 전문가만 선택적으로 사용한다. Muse Spark의 정확한 내부 아키텍처는 공개되지 않았지만, 사고 압축과 네이티브 멀티모달 설계, Contemplating Mode의 조합은 추론 효율화를 아키텍처 수준에서 내재화했음을 시사한다. 두 접근법의 핵심 차이는 효율화 전략의 위치다. Llama 4의 MoE는 모델 내부의 파라미터 효율화(어떤 전문가를 활성화할지 라우팅)에 집중하는 반면, Muse Spark의 사고 압축은 추론 과정의 토큰 효율화(얼마나 많은 추론 단계를 거칠지 최적화)에 집중한다. Contemplating Mode는 여기에 테스트 타임 컴퓨팅(test-time compute)의 병렬화를 추가한다.

왜 오픈소스와 독점을 나눠 가져갔나

Meta의 전략 전환은 단순한 비즈니스 결정이 아니라 아키텍처 설계의 논리적 귀결이기도 하다. 사고 압축처럼 RL 훈련으로 획득한 추론 효율화 기법은 모델 가중치만으로는 재현하기 어려운 훈련 레시피와 데이터 파이프라인에 깊이 의존한다. 즉, 모델 가중치를 공개하더라도 경쟁사가 동일한 성능을 쉽게 복제할 수 없다는 계산이 성립한다. 반면 오픈소스 공개의 이점인 커뮤니티 생태계 형성과 연구 기여는 Llama 계열을 통해 지속적으로 유지한다.

Meta가 발표한 하이브리드 전략은 Meta AI 어시스턴트·엔터프라이즈 API 서비스에 쓰이는 독점 닫힌 모델인 Muse 계열, 커뮤니티·연구자·개발자용 오픈웨이트 모델인 Llama 계열, 추후 공개 예정이지만 독점 버전의 모든 기능을 포함하지 않는 오픈웨이트 Muse로 요약된다.

⤢✕

이 구조는 OpenAI의 전략과 유사하다. OpenAI 역시 최신 GPT 모델은 API 전용으로 운영하면서, 일부 모델은 오픈소스로 공개한다. Meta는 이제 단순히 오픈소스 진영이 아니라 오픈소스와 독점 모델을 병행하는 하이브리드 AI 기업으로 포지셔닝을 바꾼 셈이다.

출력 토큰 수로 보는 효율성 주장

Meta의 사고 압축 주장을 뒷받침하는 구체적인 수치가 있다. Intelligence Index 실행 시 Muse Spark는 5,800만 개의 출력 토큰을 사용했다. 이는 Claude Opus 4.6의 1억 5,700만 토큰, GPT-5.4의 1억 2,000만 토큰과 비교할 때 현저히 적은 수치다. 경쟁 모델 대비 절반 이하의 "사고 시간"으로 프론티어급 성능을 달성했다는 주장의 근거다.

벤치마크	Muse Spark	GPT-5.4 Pro	Gemini 3.1 Deep Think
Humanity's Last Exam (HLE)	50.2 (Contemplating)	—	—
FrontierScience Research	38.3 (Contemplating)	36.7	23.3
CharXiv (차트 이해)	1위	—	—
HealthBench Hard	1위	—	—

Contemplating Mode를 활성화한 상태에서 Humanity's Last Exam 50.2점은 현재까지 기록된 최고 점수다. 그러나 Contemplating Mode 없이 기본 추론 모드에서의 성능은 일부 경쟁 모델에 비해 낮다는 평가도 있다.

컴퓨팅 효율성 측면에서 Muse Spark는 Llama 4 Maverick 대비 10배 이상 적은 컴퓨팅으로 동급 성능을 낸다고 주장한다. 이것이 사실이라면, 동일한 컴퓨팅 예산으로 훨씬 더 많은 추론 요청을 처리할 수 있다는 의미이며, 서비스 운영 비용 측면에서 상당한 경쟁 우위가 된다.

정확도와 효율성 사이, 어디로 수렴하나

Muse Spark의 사고 압축은 LLM 추론 효율화라는 더 넓은 기술 지형 위에 위치한다. 이 분야의 핵심 과제는 두 가지 상충 관계(trade-off)를 다루는 것이다. 더 많이 생각할수록 더 정확한 답을 낼 수 있지만 추론 비용이 증가하는 정확도 vs. 효율성에서, 사고 압축은 이 균형점을 정확도 손실 없이 효율성 쪽으로 이동시키는 것을 목표로 한다. 단일 요청의 응답 속도와 시스템 전체의 처리 능력 사이의 균형인 지연(Latency) vs. 처리량(Throughput)에서는, Contemplating Mode의 병렬 에이전트 설계가 지연을 줄이면서도 품질을 높이는 방향으로 이 균형을 재설정한다.

⤢✕

이 분야의 연구 방향은 점점 RL 기반 방법으로 수렴하는 추세다. 훈련 없이 런타임에 토큰을 제거하는 방법은 성능 손실이 불가피하고, SFT 기반 방법은 훈련 데이터의 한계에 갇힌다. RL 기반 방법은 모델이 스스로 효율적인 추론 전략을 발견하도록 유도하기 때문에 일반화 가능성이 더 높다.

Meta Muse Spark는 단순한 신규 모델 출시 이상의 의미를 갖는다. 이는 Meta가 AI 경쟁에서 오픈소스 철학을 유지하면서도 최첨단 성능을 추구하는 방식을 근본적으로 재설계했음을 보여준다. 사고 압축 기법은 추론 효율화의 새로운 방향을 제시하며, 병렬 에이전트 기반의 Contemplating Mode는 테스트 타임 컴퓨팅 활용 방식에 새로운 패러다임을 제안한다. 물론 과제도 있다. 독점 모델로의 전환이 Meta의 오픈소스 생태계 리더십을 약화시킬 수 있으며, 사고 압축의 효율성 주장이 모든 작업 유형에 동일하게 적용되는지도 검증이 필요하다. 그러나 컴퓨팅 비용과 응답 속도가 LLM 서비스의 핵심 경쟁 요소가 된 현재 시점에서, 추론 효율화 기법의 발전은 모델 성능 경쟁 못지않게 중요한 기술 전선이 되었다. Muse Spark는 그 전선에서 Meta가 어떤 방향으로 싸울 것인지를 명확히 선언한 첫 번째 결과물이다.