LLM 벤치마크 포화와 장기 자율 작업 평가 설계
LLM 벤치마크 포화의 징후와 Time Horizon 기반 평가, 에이전틱 자율성 및 자체 평가셋 설계 원칙을 정리한다.
2026-08-14 · 최초 발행 2026-08-02
2026년 현재 GPT-5, Claude Fable, Gemini 2.5 Ultra는 MMLU 90%+, HumanEval 99%+ 수준에 이르렀다. 기존 점수표에서 순위를 가르는 차이가 실제 업무의 차이와 일치하지 않는 상황이다. METR(Model Evaluation & Threat Research)의 Task-Completion Time Horizons 보고서는 이 간극을 인간 감독 없이 연속 작업을 수행할 수 있는 시간으로 측정한다. 2024년 대비 약 4배 이상 확장된 자율 작업 지평선은 정답률 중심 평가만으로는 놓치는 영역이다.
점수표가 모델을 구분하지 못할 때
2026년 상반기 주요 벤치마크의 프론티어 모델 성능은 다음과 같다.
| 벤치마크 | GPT-5 | Claude Fable | Gemini 2.5 Ultra | 포화 임계값 |
|---|---|---|---|---|
| MMLU | 92.4% | 91.8% | 93.1% | 90% |
| HumanEval | 99.2% | 98.7% | 98.9% | 95% |
| GSM8K | 99.8% | 99.6% | 99.7% | 99% |
| MATH | 94.3% | 93.9% | 95.1% | 90% |
| BIG-Bench Hard | 89.7% | 88.4% | 90.2% | 85% |
포화 상태에서는 모델 간 변별력이 낮아지고, 리더보드 경쟁이 실질적인 성능 개선과 분리될 수 있다. 지표가 목표 그 자체가 되면 측정 품질이 떨어진다는 Goodhart's Law가 LLM 평가에도 적용되는 지점이다.
포화를 판단할 때는 점수 자체뿐 아니라 분포와 오염 가능성을 함께 확인해야 한다.
- 천장 효과는 Skewness 지수 > 2.0, IQR(사분위수 범위) < 2%p, Cohen's d < 0.2로 감지할 수 있다. 각각 상단 집중 분포, 모델 간 점수 분산 축소, 최고 모델과 차세대 모델 사이의 미미한 효과 크기를 가리킨다.
- 훈련 데이터 오염은 벤치마크 문항이 사전학습 코퍼스에 들어갔을 가능성을 분석하는 문제다. n-gram 겹침률 > 13%는 오염 의심 구간이며, Canary Token 삽입 방식은 미래 평가셋 보호에 활용할 수 있다.
- 측정 불변성은 아키텍처가 다른 모델에서도 같은 문항이 같은 방식으로 작동하는지 확인한다. DIF(Differential Item Functioning) 분석으로 동일 난이도 문항에서 모델 유형별 정답 패턴의 이질성을 측정한다.
시간 지평선으로 자율 작업을 측정한다
METR가 말하는 Time Horizon은 AI 에이전트가 외부 인간 감독 없이 연속적으로 작업할 수 있는 최대 시간 범위다. 단일 응답의 정답 여부가 아니라 자율성이 얼마나 지속되는지를 본다.
Time Horizon Score = f(Task Duration, Tool Complexity, Error Recovery, Autonomy Degree)
2024년 초 프론티어 모델의 중간값 Time Horizon은 약 2분(120초)이었다. 2026년 중반에는 약 8분~15분 수준으로 확장됐고, 코딩·리서치 특화 에이전트 일부는 30분 이상의 Time Horizon을 기록한다.
태스크는 복잡도에 따라 나눈 뒤, 각 구간에 맞는 평가를 적용할 수 있다.
통합 평가는 다음 축을 사용한다.
| 평가 축 | 세부 지표 | 측정 방식 | 가중치 |
|---|---|---|---|
| Time Horizon | 자율 작업 지속 시간(분) | 감독 없는 연속 실행 시간 | 30% |
| Agentic Autonomy | 인간 개입 없이 완료한 태스크 비율 | Pass@k (k=1,3,5) | 25% |
| Tool-Use Complexity | 사용 도구 종류·호출 깊이·오류 처리 | DAG 기반 복잡도 지수 | 20% |
| Error Recovery | 실패 후 자율 복구 성공률 | Retry Success Rate | 15% |
| Instruction Fidelity | 다단계 지시 전체 준수율 | Constraint Satisfaction Score | 10% |
실행 과정에서는 완료 여부 외에 도구 호출, 오류, 계획 변경의 흐름을 남겨야 한다.
평가 대상에 따라 다른 벤치마크를 쓴다
MMLU와 HumanEval은 지식·코드 정확도를 빠르게 확인하는 데 적합하다. 반면 METR Time Horizons는 오픈엔드 장기 태스크의 연속 자율 실행을, SWE-Bench Pro는 실제 GitHub 이슈 해결과 멀티파일 수정 능력을 겨냥한다.
| 항목 | MMLU/HumanEval | METR Time Horizons | SWE-Bench Pro |
|---|---|---|---|
| 측정 대상 | 지식·코드 정확도 | 자율 작업 지속 시간 | 실제 GitHub 이슈 해결 |
| 태스크 유형 | 단답형·함수 완성 | 오픈엔드 장기 태스크 | 멀티파일 코드 수정 |
| 평가 단위 | 문항 단위 정답률 | 연속 자율 실행 시간 | 풀 리퀘스트 통과 여부 |
| 포화 상태 | 완전 포화 (2025) | 미포화 (진행 중) | 부분 포화 (50-65%) |
| 오염 위험 | 매우 높음 | 낮음 (동적 생성) | 중간 |
| 인간 기준 대비 | 모델 ≥ 인간 | 모델 < 인간 (8배 차) | 모델 ≈ 인간 (일부) |
| 도입 난이도 | 낮음 | 높음 (인프라 필요) | 중간 |
| 2026 권장 여부 | 단독 사용 지양 | 핵심 평가 지표 | 코딩 특화 평가 |
벤치마크의 중심도 NLU, 지식 범위, 추론·코딩을 거쳐 실세계 에이전틱 작업과 장기 자율성으로 이동해 왔다.
| 세대 | 기간 | 대표 벤치마크 | 패러다임 |
|---|---|---|---|
| 1세대 | 2018-2021 | GLUE, SuperGLUE | NLU 능력 측정 |
| 2세대 | 2021-2023 | MMLU, BIG-Bench | 지식 범위 확장 |
| 3세대 | 2023-2025 | HumanEval, MATH, GSM8K | 추론·코딩 능력 |
| 4세대 | 2025-현재 | SWE-Bench, GAIA, METR | 실세계 에이전틱 작업 |
| 5세대 | 2026+ | Time Horizons, AgentBench Pro | 장기 자율성·시간 지평선 |
조직의 평가 체계를 바꿔야 하는 신호
다음 조건 가운데 3개 이상에 해당하면, 기존 벤치마크 단독 평가에서 장기 자율 작업 평가로 옮기는 것을 권장한다.
- 도입 중인 모델의 MMLU 점수가 88% 이상이다.
- 실제 업무 자동화 태스크의 모델 간 성능 차이가 벤치마크 순위와 맞지 않는다.
- 단순 Q&A를 넘어선 멀티스텝 에이전틱 작업을 운영한다.
- 평가 비용 대비 의사결정 품질 개선이 정체됐다.
- 리더보드 1-5위 모델의 실무 투입 결과 차이가 통계적으로 유의미하지 않다.
업무 태스크도 난이도와 실행 범위로 구분해 측정할 수 있다.
Level 1 (Simple): 단일 스텝, 1-2개 도구, < 1분
Level 2 (Moderate): 3-7 스텝, 3-5개 도구, 1-10분
Level 3 (Complex): 8-20 스텝, 6-10개 도구, 10-60분
Level 4 (Expert): 20+ 스텝, 10+ 도구, 1시간+
각 레벨에서는 Pass@1, Pass@3, Human-Parity 달성률을 기록하고, 레벨별 Time Horizon 중간값을 KPI로 관리한다.
자체 평가셋은 공개 리더보드의 포화와 오염 위험을 줄이는 수단이다. 템플릿 기반으로 평가마다 신규 문항을 생성하고, 내부 문서·프로세스에 기반한 비공개 평가셋을 구성한다. Canary Token은 외부 유출 탐지에 쓸 수 있다.
실제 업무 프로세스는 코드 리뷰, 보고서 작성, 데이터 분석 같은 태스크로 바꿀 수 있다. 단일 정답이 없는 오픈엔드 태스크 비중은 40% 이상으로 유지하고, 인간 전문가 결과물을 골드 스탠다드로 활용한다. 평가는 분기 1회 이상 전체의 30% 이상 문항을 교체하며, 신규 모델 출시 후 14일 내 평가셋 오염 검사를 실시한다. 내부 평가 결과는 공개 벤치마크와 교차 검증한다.
AI 품질 관리와 평가 거버넌스의 연결
AI 시스템 성능 평가는 정확도 하나로 끝나지 않는다. ISO/IEC 25010과 AI 품질 모델은 정확도·신뢰성·효율성을, 머신러닝 지표는 Precision·Recall·F1·AUC-ROC처럼 태스크에 맞는 지표 선택을 요구한다. 벤치마크 설계에서는 타당도·신뢰도·변별도와 교육측정학 IRT 모델이 연결되고, METR·GAIA·SWE-Bench는 에이전틱 AI 평가의 기준점이 된다. XAI, SHAP, LIME은 평가 근거의 투명성과 맞닿아 있다.
ISO/IEC 42001(AI 관리 시스템 표준)은 2026년 현재 평가 운영에도 다음 항목을 연결한다.
- 6.1 리스크 평가: 벤치마크 포화로 인한 모델 선택 오류 리스크 관리
- 9.1 모니터링 및 측정: 정량적 성능 지표 정기 측정 의무화
- 10.2 부적합 및 시정 조치: 벤치마크 오염 발견 시 평가 무효화 절차
시간 지평선, 자율성, 도구 활용 복잡도를 함께 보려면 평가 인프라와 태스크 설계가 필요하다. 그 비용은 동적 생성과 표준화의 어려움을 수반하지만, 포화된 정답률 점수만으로 모델을 선택할 때 생기는 오류를 줄이는 기준이 된다.
Sources
- https://metr.org/blog/2024-08-06-update-on-evaluations/
- https://arxiv.org/abs/2311.12983 (GAIA Benchmark)
- https://www.swebench.com/
- https://arxiv.org/abs/2206.04615 (BIG-Bench)
- https://iso.org/standard/81230.html (ISO/IEC 42001)
- https://arxiv.org/abs/2107.03374 (Measuring Massive Multitask Language Understanding)
- https://openai.com/research/humaneval