Ouroboros: 스스로 비판하고 고치는 루프가 Claude Plan Mode를 이긴 자리

LLM 기반 에이전트가 계획을 세우고 실행하는 방식은 도구마다 크게 다르다. 2026년 모델링·시뮬레이션 분야에서 Ouroboros 오픈소스 프로젝트가 Claude Plan Mode를 포함한 상용 솔루션을 제치고 벤치마크 1위를 기록하며 주목받았다. 뱀이 자신의 꼬리를 무는 신화 속 이미지에서 이름을 딴 이 프로젝트는, LLM이 스스로 출력을 비판하고 개선하는 재귀적 루프(Recursive Loop)를 계획 생성 메커니즘의 핵심으로 삼는다. 한국 개발자가 주도해 개발된 이 프로젝트는 오픈소스 LLM 커뮤니티에서 "작은 모델로 큰 결과를 만드는" 접근의 대표 사례로 자리잡고 있다.

완성된 계획을 요구하지 않는다

Ouroboros의 핵심은 단일 LLM 호출로 완성된 계획을 요구하지 않는다는 점이다. 대신 초안 계획(Draft Plan)을 생성하고, 별도의 비평 패스(Critique Pass)가 약점을 식별하며, 개선 패스(Refinement Pass)가 약점을 수정하는 3단계 사이클을 반복한다. 이 사이클이 수렴 기준(Convergence Criterion)을 만족할 때까지 반복된다.

이 접근은 인간 전문가가 계획을 세우는 방식과 유사하다. 초안 작성 → 자기 비평 → 수정 → 재비평의 반복이 최종 품질을 결정한다. 단일 LLM 호출에서는 모델이 자신의 출력을 충분히 비판적으로 검토하기 어렵지만, 별도의 비평 패스로 분리하면 같은 모델도 훨씬 날카로운 피드백을 생성한다.

⤢✕

수렴 기준은 여러 방식으로 정의할 수 있다. 비평 패스가 더 이상 유의미한 약점을 발견하지 못하거나, 연속 n회 개선 점수가 임계값 이하이거나, 최대 반복 횟수에 도달하는 경우다. Ouroboros는 이 기준을 태스크 유형별로 다르게 설정할 수 있어 복잡한 시뮬레이션에는 더 많은 반복을, 단순 계획에는 빠른 수렴을 허용한다.

Claude Plan Mode와는 다른 길

Claude Plan Mode는 구조화된 계획 단계(Planning Phase)를 실행 단계(Execution Phase)와 명확히 분리한다. 계획 단계에서 Claude는 작업을 분해하고 단계별 의존성을 파악하며 실행 순서를 결정한다. 실행 단계에서는 계획을 따르되, 예상치 못한 상황에서 계획을 동적으로 수정한다.

Claude Plan Mode의 강점은 체계적 의존성 분석과 병렬 실행 최적화다. 독립 태스크를 병렬로 배치해 전체 실행 시간을 단축하고, 각 단계 완료 후 다음 단계 진입 조건을 명시적으로 검증한다.

비교 항목	Ouroboros	Claude Plan Mode
계획 생성 방식	재귀적 자기비평 루프	구조적 분해 + 의존성 분석
초기 계획 품질	낮은 초안에서 시작	첫 계획부터 구조적 완성도 추구
반복 개선	핵심 설계 원칙	실행 중 동적 수정
도메인 특화	시뮬레이션·모델링 최적화	범용 코딩 태스크
오픈소스 여부	완전 오픈소스	상용 서비스
소형 모델 지원	최적화됨	대형 모델 의존적

Ouroboros가 모델링·시뮬레이션 벤치마크에서 우위를 보이는 이유는 도메인 특화에 있다. 시뮬레이션은 초기 계획보다 반복 실행과 결과 기반 수정이 중요하다. 시뮬레이션 모델은 비선형적이고, 작은 파라미터 변화가 큰 출력 변화를 만들기 때문에 "계획-실행-결과 평가-재계획" 사이클을 얼마나 효율적으로 반복하느냐가 성과를 결정한다.

계획에서 수렴까지 이어지는 단계들

Ouroboros의 모델링·시뮬레이션 파이프라인은 계획 생성, 실행, 검증, 자기개선, 수렴 판정 순서로 구성된다.

계획 생성 단계는 시뮬레이션 목표와 제약 조건을 입력받아 파라미터 탐색 전략과 실행 순서를 계획한다. 재귀 비평 루프로 계획의 완성도를 높인다.

실행 단계는 계획된 파라미터 조합으로 시뮬레이션을 실행한다. 독립 시뮬레이션은 병렬로 실행해 전체 처리 시간을 단축한다.

검증 단계는 실행 결과가 목표 기준(수렴 조건, 물리적 제약, 성능 임계값)을 만족하는지 자동 평가한다.

자기개선 단계는 검증 결과를 계획 수정 입력으로 활용해 다음 반복의 계획 품질을 높인다.

수렴 판정 단계는 목표 달성 또는 최대 반복 횟수 도달 시 최적 결과를 반환한다.

Ouroboros의 재귀 루프는 소형 모델의 한계를 보완하는 방법이기도 하다. 13B 파라미터 모델이 단일 패스에서 대형 모델 수준의 계획을 생성하기는 어렵지만, 반복 비평과 개선을 통해 최종 계획 품질을 대형 모델에 근접시킬 수 있다. 이는 추론 시간 컴퓨팅(Inference Time Compute)을 활용해 파라미터 크기의 제약을 극복하는 접근이다.

도메인 특화 벤치마크가 갖춰야 할 것

Ouroboros의 성공은 도메인 특화 벤치마크 설계와도 밀접하게 연결된다. 범용 벤치마크(HumanEval, MMLU)는 모델의 일반 능력을 측정하지만, 특정 도메인에서의 실용적 성과를 반영하지 못한다.

좋은 도메인 특화 벤치마크는 다음 요소를 포함해야 한다. 반복 개선 측정은 단일 시도 성공률 대신 n회 시도 내 목표 달성률을 측정해, 자기개선 루프의 실질적 효과를 측정한다. 인간 평가와의 상관관계는 자동 지표와 도메인 전문가 평가 사이의 상관관계를 검증하는 것으로, Pearson 상관계수 0.85 이상이면 자동 지표를 신뢰성 있게 사용할 수 있다. 평가 지표 설계는 정확도뿐 아니라 효율성(토큰 사용량, 반복 횟수), 강건성(노이즈 입력 대응), 일반화(분포 외 케이스 처리)를 함께 측정하는 것을 뜻한다.

작은 모델이 상용 도구를 앞지르는 조건

Ouroboros의 사례는 오픈소스 AI 에이전트가 상용 솔루션과 경쟁할 수 있는 조건을 보여준다. 범용 경쟁이 아닌 도메인 특화, 재귀적 자기개선으로 소형 모델 활용, 투명한 코드로 커뮤니티 기여 유도가 핵심이다. 특히 도메인 전문 지식을 가진 개발자가 오픈소스 LLM과 결합할 때, 상용 범용 도구를 능가하는 특화 도구를 만들 수 있음을 입증했다.

계획은 완성품이 아니라 수렴 과정이다

Ouroboros가 Claude Plan Mode를 제치고 모델링·시뮬레이션 벤치마크 1위를 달성한 것은 단순한 성능 경쟁의 결과가 아니다. 재귀적 자기비평 루프라는 설계 선택이 시뮬레이션 도메인의 특성과 완벽하게 맞아떨어진 결과다. AI 에이전트 계획 생성 메커니즘의 미래는 단일 완성 계획이 아니라, 반복 개선과 실행 피드백을 통해 수렴하는 동적 계획에 있다. Ouroboros는 그 방향을 오픈소스로 구현한 선구적 사례다.