Dnotitia DNA 3.0과 한국어 오픈 LLM 도메인 파인튜닝

Qwen 3.5/3.6 기반 DNA 3.0의 한국어 추론 강화, 응답 제약 완화, 페르소나 학습과 온프레미스 배포 구조를 분석한다.

2026-08-14 · 최초 발행 2026-06-10

DNA 3.0이 겨냥한 배포 범위

Dnotitia는 2026년 6월 Alibaba Cloud의 Qwen 3.5/3.6을 바탕으로 DNA 3.0을 공개했다. 한국어 능력을 강화하고 응답 제약을 완화한 오픈 LLM 패밀리로, 0.8B부터 122B-A10B까지 여러 규모를 제공한다. 엣지 디바이스부터 엔터프라이즈 AI 에이전트까지 배포 범위를 넓게 잡은 구성이다.

기업이 선택할 수 있는 것은 모델 크기만이 아니다. 특수 도메인 파인튜닝 파이프라인과 페르소나 학습을 연결해 자사 데이터, 정책, 워크플로우에 모델을 적응시키도록 설계했다.

Dnotitia는 장기 메모리 AI와 반도체 기반 AI 인프라 기술을 다루는 한국 스타트업이다. 2024년 12월 DNA 1.0을 공개한 뒤 한국어 추론과 에이전틱 AI를 중심으로 모델 패밀리를 확장했다. CB Insights는 글로벌 AI 에이전트 기술 스택을 구축하는 135개 유망 기업에 Dnotitia를 포함했다.

버전 출시 시기 주요 특징
DNA 1.0 2024년 12월 한국어 파운데이션 모델 최초 공개
DNA-R1 2025년 상반기 한국어 추론 특화 모델, GRPO 기반 RL 적용
DNA 2.0 2025년 하반기 한국어 에이전틱 AI 파운데이션 모델
DNA 3.0 2026년 6월 Qwen 3.5/3.6 기반, 엔터프라이즈 레디 멀티사이즈

DNA-R1은 Qwen3 14B를 기반으로 한국어 추론 능력을 강화한 모델이다. 연구 방법론은 Dnotitia가 arXiv에 발표한 논문 「Making Qwen3 Think in Korean with Reinforcement Learning」에 기술돼 있으며, 이 성과가 DNA 3.0의 기술 기반으로 이어졌다.

엣지부터 MoE 플래그십까지

DNA 3.0은 Qwen 3.5와 Qwen 3.6 아키텍처에 Dnotitia의 포스트 트레이닝을 적용한다. 모델별 목표 환경은 다음과 같이 나뉜다.

DNA 3.0 모델 패밀리
├── DNA 3.0-0.8B     : 엣지/모바일 환경 최적화
├── DNA 3.0-1.7B     : 경량 온디바이스 추론
├── DNA 3.0-4B       : 소형 서버 / 개발 환경
├── DNA 3.0-8B       : 범용 엔터프라이즈 기본형
├── DNA 3.0-14B      : 고성능 한국어 추론
├── DNA 3.0-32B      : 대규모 엔터프라이즈 배포
└── DNA 3.0-122B-A10B: MoE 기반 플래그십 모델

플래그십인 122B-A10B는 Mixture-of-Experts(MoE) 구조를 사용한다. 전체 122B 파라미터 가운데 추론 시 10B만 활성화해 연산 효율을 높이는 방식이다.

한국어 추론을 만드는 포스트 트레이닝

DNA-R1 개발 과정에서 확립한 파인튜닝 방식은 DNA 3.0 패밀리 전체에 적용됐다. 먼저 한국어 추론의 기반을 만들고, 이어 강화학습으로 추론 정렬과 문제 해결 성능을 조정한다.

통과실패Qwen 3.5/3.6 베이스 모델Phase 1: SFT한국어 추론 데이터셋한국어 논리적 추론 기반 구축수학·과학·코딩 30k 예제Phase 2: GRPO 기반 RL강화학습 정책 최적화오라클 판정 모델보상 신호 보정안정성 검증보상 해킹·정책 붕괴 방지DNA 3.0 모델 출력완전 한국어 CoT페르소나 학습기업 지식 반영엔터프라이즈 배포 최적화

Phase 1에서는 Supervised Fine-Tuning(SFT)을 수행한다. 수학·과학·코딩 영역에서 엄선한 3만 개의 한국어 추론 예제로 베이스 모델을 학습시켜 한국어 논리적 추론의 기초를 형성한다. 이 과정에서는 일부 범용 추론 능력의 향상도 관측된다.

Phase 2는 Group Relative Policy Optimization(GRPO)을 커스터마이즈한 강화학습 단계다. 한국어 추론 정렬과 문제 해결 성능을 함께 높이면서, 보상 해킹과 정책 붕괴를 막기 위해 오라클 판정 모델로 보상 신호를 보정한다. 학습이 끝난 모델은 체인 오브 소트(CoT) 전체를 자연스러운 한국어로 표현한다.

언어 혼합과 과도한 응답 거부를 다루는 방식

Qwen 계열 모델을 한국어 엔터프라이즈 환경에 적용하면 한국어 질의에 영어 또는 중국어가 섞이는 문제가 나타날 수 있다. DNA 3.0은 한국어 전용 강화학습 데이터와 보상 함수 설계로 이러한 언어 혼합을 억제하고 일관된 한국어 출력을 지향한다.

또 다른 대상은 연구와 특수 도메인에서 정당한 질의까지 지나치게 거부하는 과제약 문제다. DNA 3.0은 RLHF 없이 SFT와 GRPO를 조합해 유용성과 안전성의 균형을 다시 조정한다. 정보보안·의료·법률처럼 민감한 정보를 다루는 환경에서 실용적인 답변 생성을 겨냥한 접근이다.

기업 지식을 모델의 페르소나로 연결한다

페르소나 학습(Persona Training)은 기업 특화 지식을 DNA 3.0에 내재화하는 메커니즘이다. 기업 문서와 비구조화 데이터는 Dnotitia의 AI 데이터 플랫폼인 Seahorse Cloud에서 AI 레디 지식 자산으로 변환된다. 이 자산을 바탕으로 시맨틱 검색, 컨텍스트 인식 답변 생성, AI 에이전트 워크플로우를 하나의 파이프라인으로 연결한다.

기업 내부 데이터정책·제품·워크플로우지식 자산화Seahorse Cloud비구조화 데이터 AI 레디 지식시맨틱 검색Context-Aware RAG페르소나 학습 데이터셋 구성DNA 3.0 파인튜닝도메인 적응기업 맞춤 응답정책·서비스 정렬AI 에이전트 워크플로우자동화·의사결정 지원

이 구조는 내부 법률 문서 기반 Q&A와 계약서 분석, 진료 기록 요약과 의학 문헌 추론, 내부 리스크 정책 기반 분석과 보고서 자동 생성에 적용할 수 있다. 의료·헬스케어 시나리오는 온프레미스가 필수다.

정보시스템 감리·데이터 아키텍처 같은 정보관리기술사 시험 연계 Q&A와 전문 자격 학습 지원도 대상에 포함된다. 공공기관에서는 비식별화 데이터를 활용한 정책 분석과 민원 자동화에 연결할 수 있다.

온프레미스 환경에 맞춘 모델 실행

데이터 주권이 중요한 금융·의료·공공 환경에서는 내부 인프라에 모델을 배포할 수 있어야 한다. DNA 3.0은 오픈 가중치를 제공하며, 하드웨어와 추론 환경에 따라 여러 양자화 포맷을 선택할 수 있다.

양자화 방식 적합 환경 메모리 절감 특징
GGUF (Q4_K_M) llama.cpp, 로컬 추론 ~75% CPU 실행 가능
AWQ vLLM, GPU 서버 ~50% 고속 추론 최적화
GPTQ Transformers 호환 ~50% 범용 GPU 지원
FP8 A100/H100 클러스터 ~50% 대규모 배포 권장

vLLM으로 DNA 3.0-8B를 실행하는 예시는 다음과 같다.

# DNA 3.0 vLLM 서버 기동 예시
vllm serve dnotitia/DNA-3.0-8B \
  --dtype auto \
  --max-model-len 32768 \
  --tensor-parallel-size 2 \
  --gpu-memory-utilization 0.85

멀티 GPU 환경에서는 텐서 병렬화를 사용해 처리량을 높일 수 있다. DNA 3.0-32B 이상 모델에는 2~4장의 GPU 병렬 구성이 권장된다.

긴 컨텍스트를 다룰 때는 Flash Attention 2로 32K~128K 토큰 처리 효율을 높이고, KV 캐시를 INT8로 양자화해 메모리 사용량을 줄일 수 있다. Continuous Batching은 동시 요청 처리를 확대하며, 모델 샤딩은 단일 GPU 메모리 한계를 넘기 위한 선택지다.

국산 LLM 사이에서 잡은 위치

2026년 한국어 LLM 생태계에는 자체 사전학습 모델과 글로벌 오픈 모델을 한국어에 맞게 조정한 모델이 함께 존재한다. DNA 3.0은 후자에 속한다.

모델 개발사 베이스 최대 규모 오픈 여부 주요 강점
HyperCLOVA X Naver 자체 비공개 부분 (8B Omni) 한국어 데이터 6500x, 멀티모달
EXAONE 4.0 LG AI Research 자체 32B 오픈 MMLU-Pro 81.8%, 글로벌 11위
K-EXAONE LG AI Research 자체 236B-A23B 오픈 MoE 초대형, FuriosaAI 양자화
Solar Pro 2 Upstage 자체 비공개 제한적 MLCommons 인증, 글로벌 벤치마크
DNA 3.0 Dnotitia Qwen 3.5/3.6 122B-A10B 오픈 도메인 적응·페르소나·검열 완화

EXAONE과 HyperCLOVA X가 자체 사전학습 모델을 보유한 것과 달리 DNA 3.0은 Alibaba Qwen 3.5/3.6을 베이스로 쓴다. 사전학습 비용을 절감하면서 글로벌 모델의 기반 능력을 활용하고, 자원을 한국어 적응과 도메인 파인튜닝에 집중하는 전략이다.

EXAONE 4.0의 1.2B 모델이 온디바이스 추론에서 두각을 나타내는 것처럼 DNA 3.0도 0.8B~4B 구간에서 한국어 특화 성능을 높이는 방향으로 진화하고 있다. 대형 모델에서는 K-EXAONE 236B-A23B와 DNA 3.0 122B-A10B가 모두 MoE를 채택해 전체 파라미터 대비 활성 파라미터 비율을 낮추고 추론 비용을 줄인다.

Qwen·Llama·Mistral 같은 글로벌 오픈소스를 기반으로 한국어 적응을 수행하는 방식도 비용 효율적인 대안으로 자리 잡고 있다. 한국 IT 전문 자격 도메인에서는 특화 LLM 수요가 증가하고 있으며, DNA 3.0의 도메인 적응 파이프라인은 정보관리기술사와 데이터 아키텍처 전문가 등의 학습 지원 시스템에 맞는다.

Seahorse Cloud가 잇는 데이터와 에이전트

Seahorse Cloud는 기업 문서에서 지식 자산을 추출한 뒤 검색과 DNA 3.0 추론, 에이전트 오케스트레이션으로 이어지는 엔드투엔드 파이프라인을 구성한다.

기업 문서PDF·Word·DB·SlackSeahorse CloudAI 데이터 플랫폼문서 파싱청킹·임베딩벡터 DB시맨틱 인덱싱하이브리드 검색키워드 + 시맨틱DNA 3.0 추론 엔진컨텍스트 인식 답변출처 추적AI 에이전트 오케스트레이션멀티스텝 워크플로우업무 자동화보고서·분석·의사결정

단순한 RAG에 머무르지 않고 멀티스텝 추론과 업무 자동화까지 연결하는 것이 이 통합 구조의 범위다. 기업 문서는 파싱·청킹·임베딩을 거쳐 벡터 DB에 시맨틱 인덱스로 저장되고, 키워드와 시맨틱 검색을 결합한 결과가 DNA 3.0 추론 엔진에 전달된다. 이후 출처를 추적할 수 있는 답변과 AI 에이전트 워크플로우로 이어진다.

공개된 발전 방향

DNA 3.0은 텍스트 중심 모델에서 이미지와 문서를 이해하는 멀티모달 모델로 확장될 예정이다. LangChain·LlamaIndex·n8n과의 연동 강화, KMMLU·Ko-MTBENCH 등 한국어 특화 평가 지표 개선도 향후 방향에 포함된다.

경량 추론에서는 Speculative Decoding과 지식 증류를 이용해 소형 모델의 성능을 높이는 방향을 제시했다. Qwen 3.5/3.6의 기반 능력에 한국어 강화 파인튜닝, 응답 제약 완화, 페르소나 학습을 결합한 DNA 3.0은 연구기관과 특수 도메인 기업을 함께 겨냥한다. 0.8B부터 122B-A10B까지의 모델 구성과 온프레미스 배포 친화성은 금융·의료·공공처럼 데이터 주권이 중요한 환경에서 선택지를 넓힌다.

Sources

DnotitiaDNA 3.0한국어 LLM도메인 파인튜닝온프레미스 AIQwen