DeepSeek V4: 1조 파라미터 MoE를 520만 달러로 훈련한 오픈소스 전략

DeepSeek이 1조 파라미터 규모의 Mixture-of-Experts 모델 V4를 Apache 2.0 라이선스로 공개하며 AI 개발의 패러다임을 다시 한번 뒤흔들고 있다. 약 520만 달러의 훈련비용으로 서방 프런티어 모델과 경쟁하는 성능을 달성했다는 점에서, 이 모델은 단순한 기술적 성취를 넘어 오픈소스 AI의 가능성과 한계를 재정의하는 이정표가 된다. 본 글에서는 DeepSeek V4의 MoE 아키텍처 설계 원리, 효율적 분산 훈련 전략, 그리고 오픈소스 생태계 구축 방법론을 심층 분석한다.

전체는 1조, 실제로 쓰는 건 37억

Mixture-of-Experts 아키텍처는 전체 파라미터를 매 추론마다 활성화하지 않고, 입력에 따라 선택된 소수의 "전문가" 네트워크만 활성화하는 방식으로 연산 효율을 극대화한다. DeepSeek V4는 약 1조 개의 전체 파라미터를 보유하면서도 토큰당 약 37억 개의 파라미터만 활성화한다. 이 구조 덕분에 추론 비용은 훨씬 작은 밀집형(dense) 모델 수준으로 유지된다.

⤢✕

DeepSeek의 MoE 설계에서 핵심은 두 가지 상호 보완적 전략이다. 첫째, 세분화된 전문가 분할(Fine-grained Expert Segmentation)이다. 기존 방식이 소수의 대형 전문가를 사용했다면, DeepSeek은 전문가를 더 잘게 분할해 수백 개 이상의 전문가 풀을 구성한다. V3에서 256개의 전문가를 운용한 데 이어 V4에서는 더욱 확장된 전문가 풀을 활용한다. 더 많은 전문가를 두면 Top-K 조합의 다양성이 높아져 모델이 입력의 미묘한 차이에 민감하게 반응할 수 있다. 둘째, 공유 전문가(Shared Experts) 전략이다. 모든 토큰이 반드시 거쳐야 하는 공유 전문가를 별도로 유지함으로써 언어 전반에 걸친 범용 지식을 안정적으로 인코딩한다. 라우팅 전문가들은 더 특화된 지식에 집중하고, 공유 전문가는 공통 표현을 담당하여 전문가 간 불필요한 지식 중복을 방지한다.

MoE의 고질적 문제 중 하나는 특정 전문가에 트래픽이 집중되는 전문가 붕괴(Expert Collapse) 현상이다. 일부 전문가만 지속적으로 선택되면 나머지 전문가는 학습이 제대로 이뤄지지 않아 사실상 무용지물이 된다. 기존 해결책은 로드 밸런싱을 강제하는 보조 손실(Auxiliary Loss)을 추가하는 방식이었으나, 이는 주 목표 함수를 왜곡해 성능 저하를 유발할 수 있다. DeepSeek V4는 보조 손실 없이 편향 항(bias term)을 게이팅 점수에 동적으로 추가하는 방식으로 부하 균형을 달성한다. 특정 전문가가 과부하 상태가 되면 해당 전문가의 선택 점수에 음의 편향을 부여하고, 저활용 전문가에는 양의 편향을 부여해 자연스러운 균형을 유도한다. 이 접근법은 메인 훈련 목표를 손상하지 않으면서도 안정적인 부하 분산을 실현한다.

GPU 수천 개를 하나처럼 쓰는 법

1조 파라미터 규모의 모델을 효율적으로 훈련하려면 단일 GPU는 물론 단일 노드의 메모리 한계를 훨씬 초과한다. DeepSeek은 데이터 병렬화, 텐서 병렬화, 파이프라인 병렬화를 조합한 3D 병렬화 전략으로 이 도전을 극복한다.

⤢✕

각 병렬화 전략은 서로 다른 차원을 분할한다. 데이터 병렬화(DP)는 동일한 모델 복제본을 여러 GPU에 배치하고 각기 다른 미니배치를 처리한 뒤 그래디언트를 집계한다. 수평적 확장이 용이하지만 모델 전체가 단일 GPU에 올라가야 한다는 전제가 있다. 텐서 병렬화(TP)는 개별 행렬 연산을 여러 GPU에 분산한다. 어텐션 헤드나 FFN(Feed-Forward Network) 가중치를 분할해 각 GPU가 부분 연산 후 결과를 합산하며, 노드 내부의 고대역폭 NVLink 연결에 최적화되어 있다. 파이프라인 병렬화(PP)는 모델의 레이어 블록을 여러 디바이스에 순서대로 배치한다. 마이크로배치를 파이프라인 방식으로 흘려 보내 GPU 유휴 시간(bubble)을 최소화하며, 노드 간 InfiniBand 연결에서 효과적이다.

DeepSeek V4는 MoE 구조의 특성상 전문가 병렬화(Expert Parallelism)도 추가한다. 서로 다른 전문가 그룹을 별도 디바이스에 배치하여, 라우팅된 토큰이 해당 전문가가 있는 디바이스로 전송되는 All-to-All 통신 패턴을 사용한다.

분산 훈련에서 가장 큰 비효율은 통신 대기 시간이다. 한 디바이스가 연산을 완료한 뒤 다른 디바이스로 데이터를 보내기까지 기다리는 동안 GPU는 놀게 된다. DeepSeek은 통신-연산 오버랩(Computation-Communication Overlap) 기법으로 이 문제를 해결한다. 현재 레이어의 역전파 그래디언트를 계산하는 동안 이전 레이어의 그래디언트 통신을 동시에 진행하고, MoE 전문가 간의 All-to-All 통신 역시 다른 연산 스트림과 겹치도록 스케줄링한다. DeepSeek의 보고에 따르면 이 최적화로 교차 노드 MoE 훈련의 통신 병목을 거의 완전히 제거해 훈련 효율을 크게 향상시켰다.

숫자 8비트로 절반을 줄이다

DeepSeek V4는 FP8(8비트 부동소수점) 혼합 정밀도 훈련 프레임워크를 도입했다. 기존의 BF16/FP16 훈련 대비 메모리 사용량과 연산량을 절반으로 줄이면서도 모델 품질을 유지하는 것이 핵심이다.

FP8 훈련의 도전은 표현 범위가 좁아 수치 불안정이 발생하기 쉽다는 점이다. DeepSeek은 민감한 연산(어텐션 스코어 계산, 로스 계산 등)은 BF16을 유지하고 FFN과 같은 대용량 행렬 연산에만 FP8을 적용하는 선택적 혼합 정밀도, 텐서별로 FP8 표현 범위를 최적화하는 동적 스케일링(Dynamic Scaling), 파라미터 업데이트가 안정적인 매니폴드 경로를 따르도록 제약해 대규모 훈련의 불안정 스파이크를 억제하는 mHC(manifold Hyperplane Constraint) 기법으로 이를 극복한다.

Huawei Ascend 950PR 칩의 FP8, MXFP8, HiF8 지원과의 하드웨어-소프트웨어 공동 설계는 이 최적화를 더욱 강력하게 만든다. CUDA 에코시스템에 의존하지 않고 국산 AI 하드웨어에서 최전선 성능을 달성하는 것은 중국의 AI 반도체 자립 전략에서도 중요한 의미를 갖는다.

520만 달러라는 숫자의 이면

DeepSeek V3 훈련에 약 560만 달러가 소요됐다는 사실은 당시 AI 업계에 충격을 주었다. GPT-4 수준의 모델 훈련에 수억 달러가 필요하다는 통념을 뒤집었기 때문이다. V4 역시 이 기조를 이어받아 약 520만 달러 내외의 훈련비용으로 1조 파라미터 모델을 완성한 것으로 알려져 있다.

⤢✕

Meta의 Llama 3 405B 훈련에는 약 3,080만 GPU 시간이 소요된 것으로 알려져 있다. 반면 DeepSeek V3는 2,048개의 GPU로 57일간 훈련했다. 단순 계산으로도 10배 이상의 효율 차이가 난다. 이 격차는 1조 파라미터 전체를 활성화하는 대신 37억 개만 사용해 연산량이 37B 밀집형 모델과 유사한 MoE의 활성 파라미터 절감, 메모리와 연산 비용을 절반으로 압축하는 FP8 훈련, 멀티노드 훈련에서의 오버헤드를 최소화하는 효율적 통신 설계, 외부 클라우드 의존성을 줄이는 중국의 낮은 GPU 임대 비용과 자체 인프라 보유에서 비롯된다.

훈련 데이터 측면에서도 DeepSeek은 비용 효율을 추구한다. 자체 추론 모델(R1 시리즈)이 생성한 고품질 합성 추론 데이터를 V4 훈련에 활용하는 자기 증류(Self-Distillation) 접근법을 사용한다. 검증 가능한 수학·코딩 문제에서 강화학습을 통해 확보한 고품질 데이터는 웹 크롤링 데이터보다 훨씬 적은 양으로도 모델 성능을 크게 향상시킬 수 있다.

가중치를 그대로 공개한다는 것

DeepSeek V4의 가중치가 Apache 2.0 라이선스로 공개된다는 사실은 오픈소스 AI 역사에서 이정표적 사건이다. Apache 2.0은 상업적 이용, 수정, 재배포를 폭넓게 허용하는 가장 허용적인 라이선스 중 하나다.

⤢✕

전체 크기의 V4 모델은 여전히 수십 대의 고성능 GPU를 필요로 한다. DeepSeek은 다양한 양자화 포맷으로 모델을 제공해 접근성을 높인다. FP8/INT8 양자화는 원본 모델 대비 메모리를 절반으로 줄이면서 추론 정확도는 99% 이상을 유지해 연구소 규모의 서버 클러스터에 적합하다. INT4 양자화는 메모리를 4분의 1로 줄여 더 적은 GPU로 서빙이 가능하고, 7B 이상 모델에서 97% 이상의 정확도를 보존하며 vLLM·llama.cpp 등 오픈소스 추론 엔진과 호환된다. GGUF 포맷은 llama.cpp 기반으로 소비자급 GPU에서도 실행 가능한 양자화 버전을 커뮤니티가 빠르게 생성한다.

DeepSeek의 공식 API는 MoE의 희소 활성화를 최대한 활용해 토큰당 비용을 기존 밀집형 모델 대비 극단적으로 낮게 유지한다. 보고된 API 가격은 입력 토큰당 $0.30/백만 토큰 수준으로, ChatGPT-4o 대비 70배 저렴하다고 알려져 있다.

DeepSeek의 오픈소스 전략에서 가장 영향력 있는 부분은 지식 증류(Knowledge Distillation) 생태계 구축이다. DeepSeek R1에서 이미 검증된 이 접근법은 대형 교사 모델의 추론 능력을 소형 학생 모델에 전수한다. DeepSeek R1의 경우, 800K개의 훈련 데이터로 Qwen과 Llama 시리즈를 파인튜닝한 결과, 7B~32B 규모의 소형 모델이 훨씬 큰 클로즈드소스 모델과 경쟁하는 추론 능력을 갖추게 됐다. V4를 교사 모델로 사용한 증류 모델들은 더욱 강력한 소형 오픈소스 모델 생태계를 형성할 것으로 기대된다.

성능과 포지셔닝

DeepSeek V4는 SWE-bench에서 81% 수준의 성능을 기록하며 코딩 능력에서 전작인 V3/R2 대비 상당한 도약을 보여준다. 컨텍스트 윈도우는 100만 토큰까지 확장됐으며, Needle-in-a-Haystack(NIAH) 테스트에서 97% 정확도를 달성해 장문 컨텍스트 검색 성능도 크게 개선됐다.

멀티모달 측면에서는 텍스트, 이미지, 비디오 생성을 사전 훈련 단계에서 통합하는 네이티브 멀티모달 구조를 채택했다. 이는 기존의 언어 모델에 비전 모듈을 사후적으로 결합하는 방식과 달리, 더욱 일관된 크로스모달 추론을 가능하게 한다.

⤢✕

Huawei Ascend 950PR 기반 훈련은 Nvidia GPU 의존성 없이 최전선 AI 모델을 개발할 수 있음을 실증한다. 이는 AI 인프라 자립이라는 중국의 국가적 목표와도 일치하며, 글로벌 AI 개발 생태계의 탈집중화를 가속화하는 요인이 된다.

DeepSeek V4는 단순한 파라미터 수의 경쟁이 아니라, 효율적 아키텍처 설계가 하드웨어 투자를 대체할 수 있음을 보여준다. MoE의 희소 활성화, FP8 혼합 정밀도, 3D 병렬화의 통신-연산 오버랩, 보조 손실 없는 로드 밸런싱이라는 핵심 혁신이 맞물려 1조 파라미터 모델을 520만 달러에 훈련하는 경제학이 성립된다. Apache 2.0 오픈소스 공개와 적극적인 양자화·증류 생태계 지원은 이 기술 혁신을 폭넓게 민주화한다. AI 개발의 진입 장벽이 낮아질수록, 진정한 경쟁력은 하드웨어 규모보다 알고리즘 효율과 데이터 품질에 달려 있다는 교훈을 DeepSeek V4는 다시 한번 각인시킨다.