Z.AI GLM-5.2 Long-Horizon LLM 아키텍처와 자체 호스팅

대화보다 오래 이어지는 작업을 겨냥하다

Z.AI가 2026년 출시한 GLM-5.2는 짧은 대화의 응답 품질보다 계획과 실행, 검증이 수십·수백 단계에 걸쳐 반복되는 Long-Horizon Task에 초점을 둔다. 최대 1M 토큰의 컨텍스트 윈도우를 작업 이력으로 활용해 코드 수정, 계약서 검토, 연구 분석처럼 중간 결과가 계속 쌓이는 과제를 일관되게 처리하도록 설계됐다.

모델 가중치는 HuggingFace를 통해 무상으로 공개되며 상업적 파인튜닝도 허용한다. 기업은 외부 API에만 의존하지 않고 자체 인프라에서 도메인 특화 에이전트를 구성할 수 있다. ReAct와 Plan-and-Execute 패턴을 바탕으로 에이전트 루프의 안정성을 높였고, Sliding-Window와 Sparse Attention을 섞어 1M 스케일에서 발생하는 KV 캐시 증가를 억제한다.

⤢✕

1M 컨텍스트를 지탱하는 KV 캐시 설계

컨텍스트 한도를 늘리는 것만으로 1M 토큰을 실제 추론에 사용할 수 있는 것은 아니다. 입력이 길어질수록 커지는 GPU 메모리 요구량을 통제하려면 KV 캐시와 Attention 계산 방식을 함께 설계해야 한다.

GLM-5.2는 레이어 위치에 따라 서로 다른 Attention 전략을 배치한다.

레이어 구간	Attention 방식	역할
하위 레이어 (0–25%)	Full Attention	지역 문맥 정밀 포착
중간 레이어 (25–75%)	Sliding-Window Attention	메모리 효율·중거리 의존 처리
상위 레이어 (75–100%)	Sparse + Cross-Layer KV 공유	글로벌 장거리 의존 처리

하위 레이어에서는 가까운 문맥을 세밀하게 읽고, 중간 레이어에서는 Sliding-Window Attention으로 메모리 사용을 줄이면서 중거리 의존성을 처리한다. 상위 레이어는 Sparse Attention과 Cross-Layer KV 공유를 이용해 멀리 떨어진 정보의 관계를 추적한다. 이 계층형 구성은 1M 토큰 입력에서 단순 Full Attention보다 KV 캐시 메모리 사용량을 약 60–70% 줄인다.

컨텍스트를 에이전트의 작업공간으로 쓰는 방식

GLM-5.2의 긴 컨텍스트는 단순한 문서 저장소가 아니다. 계획 에이전트가 과제를 나누고 실행 에이전트가 결과를 기록하면, 검증 에이전트가 같은 기록을 읽어 통과 여부나 재시도를 판단한다.

⤢✕

이때 1M 컨텍스트 메모리는 모든 에이전트가 함께 사용하는 영속 작업공간(Persistent Workspace)이 된다. 중간 산출물과 수정 이력, 오류 로그를 누적해 수백 단계가 지난 뒤에도 최초 목표를 참조할 수 있게 한다.

Qwen 3.7·DeepSeek V4와 비교한 위치

2026년 오픈소스 Long-Horizon LLM 구도에서는 Z.AI, 알리바바, DeepSeek 모델의 설계 선택이 대비된다.

항목	GLM-5.2	Qwen 3.7	DeepSeek V4
컨텍스트 윈도우	1M 토큰	128K 토큰	256K 토큰
Long-Horizon 특화	★★★★★ (전용 설계)	★★★☆☆ (일반 추론)	★★★★☆ (MoE 추론)
오픈웨이트	완전 공개	완전 공개	완전 공개
아키텍처	Dense + Hybrid Attn	MoE (57B 활성)	MoE (37B 활성)
에이전트 루프 안정성	매우 높음	보통	높음
KV 캐시 최적화	Sliding+Sparse 혼합	GQA	MLA (Multi-head Latent)
추론 비용 (1M token)	중간	낮음	낮음
한국어 지원	기본 수준	양호	기본 수준
도구 사용(Tool Use)	강화	강화	강화
라이선스	Apache 2.0 (상업 허용)	Apache 2.0	MIT

GLM-5.2의 차별점은 1M 토큰 컨텍스트와 에이전트 루프 전용 설계다. Qwen 3.7과 DeepSeek V4보다 긴 작업 이력을 다루고 루프 안정성도 높지만, Dense 기반 구성이어서 MoE 모델보다 추론 비용이 높다.

자체 호스팅은 요청 길이부터 나눠야 한다

1M 컨텍스트를 모두 사용하는 추론은 메모리 요구량이 수백 GB에 이를 수 있다. 따라서 모든 요청을 동일한 배포 경로로 보내기보다 컨텍스트 길이와 업무 성격에 따라 실행 환경을 나누는 편이 적합하다.

⤢✕

4-bit 양자화(AWQ)를 적용하면 메모리를 75% 줄이면서 성능 손실을 3% 미만으로 제한할 수 있다. vLLM의 PagedAttention은 KV 캐시를 동적으로 할당해 배치 처리 효율을 2–3배 높인다.

라우터는 128K 이하 요청을 경량 모델로 보내고 초장문 요청에만 GLM-5.2의 전체 구성을 사용한다. 반복되는 시스템 프롬프트와 문서 헤더는 프리픽스 캐싱(Prefix Caching)으로 KV 캐시에 고정해 중복 계산을 피한다.

파인튜닝 데이터는 최종 답보다 과정을 담아야 한다

Long-Horizon 에이전트를 도메인에 맞추려면 일반적인 지시-응답 쌍만으로는 부족하다. 작업을 어떻게 분해했고 각 단계에서 어떤 행동과 결과가 이어졌는지를 과제 추적(Task Trajectory) 형식으로 기록해야 한다.

{
  "task": "6개월치 재무 보고서 분석 및 리스크 요인 도출",
  "trajectory": [
    {"step": 1, "thought": "문서 구조 파악", "action": "read_document", "result": "..."},
    {"step": 2, "thought": "KPI 지표 추출", "action": "extract_kpi", "result": "..."},
    {"step": 3, "thought": "전분기 비교", "action": "compare_quarters", "result": "..."},
    {"step": 4, "thought": "리스크 요인 종합", "action": "synthesize", "result": "최종 보고서"}
  ]
}

도메인 적응에는 전체 가중치를 갱신하는 대신 LoRA(Low-Rank Adaptation)를 사용할 수 있다. 타겟은 Q, K, V, O projection 레이어이며, Long-Horizon 과제에는 일반적인 설정보다 높은 Rank 64를 권장한다. 학습 데이터는 도메인 과제 궤적 1,000–10,000건을 사용하되 수량보다 품질을 우선한다.

LoRA 학습 뒤에는 도메인 전문가의 선호 데이터를 기반으로 DPO(Direct Preference Optimization)를 적용하는 RLHF-lite 단계로 최종 품질을 조정한다.

오픈웨이트가 만드는 생태계와 도입 위험

GLM-5.2와 Qwen 3.7, DeepSeek V4의 연이은 공개는 모델 파일 배포에 그치지 않는다. HuggingFace와 GitHub에서 개발자 커뮤니티를 확보하고, 커뮤니티 파인튜닝을 확산해 생태계의 사실상 표준을 선점하려는 전략이다.

자체 호스팅은 미국 클라우드인 AWS와 Azure에 대한 의존을 줄이는 경로이기도 하다. 오픈소스의 특성상 수출 통제 적용이 모호하다는 점은 글로벌 확산에 유리하게 작용한다.

반대편에는 검토해야 할 위험이 있다. 서구 연구자들은 안전성(Safety) 검증이 상대적으로 부족하다고 지적하며, 미국 정부는 군사·이중용도 활용 가능성을 두고 규제를 검토하고 있다. 한국 기업이 채택한다면 공급망 보안(Supply-Chain Security) 심사를 도입 절차에 포함해야 한다.

코드·계약·논문에서 달라지는 활용 방식

대형 코드베이스 리팩터링에서는 100만 줄의 레거시 코드를 입력으로 받아 Python 2에서 Python 3로 전환하고 테스트 커버리지 80%를 달성하는 과제를 맡길 수 있다. GLM-5.2는 의존성 그래프 분석, 파일별 수정 계획, 단계별 실행, 테스트 검증과 오류 재시도를 이어간다. 전체 코드베이스를 1M 컨텍스트에 로드하면 파일 사이의 의존성을 같은 작업공간에서 추적할 수 있다.

법률 분석에서는 500페이지 M&A 계약서와 관련 판례 300건을 함께 참조한다. 리스크 조항을 식별하고 협상 포인트를 뽑은 뒤 수정안 초안을 작성하는 동안 계약서 전문과 판례에 대한 법리 해석을 일관되게 유지하는 방식이다.

연구 논문 메타 분석의 입력은 특정 도메인 논문 1,000편이다. 수백 편의 초록과 핵심 섹션을 동시에 처리하면서 연구 동향과 방법론 차이를 비교하고 연구 갭을 찾는다.

운영 아키텍처에 연결되는 통제 지점

Long-Horizon 에이전트는 소프트웨어공학, 데이터베이스, 네트워크, 정보보호와 시스템 분석·설계가 만나는 지점에 놓인다.

영역	GLM-5.2와 연결되는 설계
소프트웨어공학	다단계 에이전트 아키텍처, Plan-Execute-Verify 패턴
데이터베이스	KV 캐시 관리, 벡터 인덱스를 통한 장문 검색
네트워크	분산 추론(Tensor Parallelism, Pipeline Parallelism)
정보보호	오픈소스 LLM 공급망 보안, 적대적 입력 방어
시스템분석설계	Long-Horizon 과제 분해(Task Decomposition) 설계

오픈소스 LLM을 내부 시스템에 배치할 때는 SHA-256 해시 비교로 모델 가중치의 무결성을 확인하고, 추론 서버를 Air-gap 또는 VPC 내부망으로 제한한다. 입출력 필터링 레이어는 Prompt Injection을 방어하며, 감사 로그(Audit Log)와 이상 탐지 시스템은 에이전트 행동을 추적한다.

장기 작업의 신뢰성은 단계별 중간 검증(Step-level Verification), 인간 감독(Human-in-the-Loop) 체크포인트, 실패 이전의 안정 상태로 돌아가는 롤백(Rollback), 에이전트 행동 범위를 한정하는 Tool Permission Scoping으로 보완한다.

Long-Horizon LLM 경쟁이 향하는 곳

컨텍스트 경쟁은 1M에서 10M 토큰으로 확대될 전망이지만, 길이 자체보다 실제로 얼마나 활용하는지를 보여주는 Effective Utilization이 핵심 평가 지표로 부상한다. 평가 체계도 SWE-bench와 GAIA를 넘어 Long-Horizon 전용인 LH-Bench와 AgentBench-Extended의 표준화가 진행 중이다.

오픈소스 모델이 GPT-4o와 Claude Opus 수준에 근접하면서 기업의 자체 호스팅 전환도 빨라질 전망이다. 처리 대상은 텍스트에서 이미지와 영상, 코드가 섞인 멀티모달 장기 과제로 넓어진다. 한국 시장에서는 오픈소스를 기반으로 B2B 에이전트를 제공하는 국내 AI 스타트업 사이의 경쟁 심화가 예상된다.

GLM-5.2의 의미는 긴 컨텍스트 하나에 머물지 않는다. 1M 토큰 KV 캐시 효율화와 Plan-Execute-Verify 루프, 오픈웨이트 파인튜닝을 묶어 기업이 자체 Long-Horizon 에이전트를 구축할 수 있는 경로를 제시한다. 다만 선택지는 모델 성능만으로 결정할 수 없다. 안전성 검증과 공급망 보안, 규제 환경 변화까지 배포 설계에 포함해야 한다.

Sources

Z.AI 공식 블로그 — GLM-5.2 기술 리포트 (2026)
HuggingFace Model Hub — THUDM/GLM-5.2 모델 카드
Qwen Team, "Qwen 3.7 Technical Report," Alibaba Cloud, 2026
DeepSeek-AI, "DeepSeek V4: Efficient Mixture-of-Experts Language Model," 2026
vLLM Project, "PagedAttention: Efficient Memory Management for LLM Serving," 2023
Hu et al., "LoRA: Low-Rank Adaptation of Large Language Models," ICLR 2022
Rafailov et al., "Direct Preference Optimization," NeurIPS 2023
AgentBench: Evaluating LLMs as Agents, Liu et al., 2023
GAIA: A Benchmark for General AI Assistants, Mialon et al., 2023
정보관리기술사 기출문제집 — AI 시스템 아키텍처 영역 (2025–2026)