Agents-A1과 호라이즌 스케일링 기반 에이전트 학습

파라미터 확대 대신 실행 호라이즌을 늘린 모델

InternScience가 공개한 Agents-A1은 35B 규모의 MoE(Mixture-of-Experts) 에이전틱 모델이며, 1T급 모델의 에이전트 성능에 도달했다고 주장한다. 논문이 내세운 방향은 파라미터를 계속 키우는 방식이 아니라 학습에 투입되는 태스크 트라젝토리의 길이와 전문 능력의 폭을 확장하는 것이다.

이 모델이 말하는 에이전트 호라이즌 스케일링은 두 축으로 구성된다. 하나는 장기 호라이즌 트라젝토리의 길이이고, 다른 하나는 서로 다른 에이전트 능력의 폭이다. 외부 지식, 행동, 관측, 검증기(verifier) 결과를 연결하는 인프라에서 평균 45K 토큰 길이의 에이전틱 트라젝토리를 만든다.

대상은 장기 호라이즌 검색, 엔지니어링, 과학 연구, 지시 준수, 툴 호출이다. 공개된 결과에서는 Kimi-K2.6·DeepSeek-V4-pro 등 1T급 모델과 비교해 SEAL-0(56.4), IFBench(80.6), HiPhO(46.4), FrontierScience-Olympiad(79.0), MolBench-Bind(56.8)에서 선두를 기록했고, SciCode(44.3), HLE(47.6), BrowseComp(75.5)에서도 경쟁력을 유지했다고 제시한다. GitHub 저장소와 Hugging Face 모델 카드도 공개됐다.

장기 트라젝토리를 학습 신호로 만드는 방식

MoE 구조에서는 전체 파라미터가 35B 규모여도 요청마다 일부 전문가만 활성화한다. 조밀(dense) 모델과 비교하면 추론 연산량을 줄일 수 있으며, 도메인별 전문 능력을 전문가 집합에 나누어 배치하는 구조가 이질적 에이전트 능력의 확장과 연결된다.

학습 단위는 단발 질의응답이 아니라 다단계 도구 사용 이력 전체다. 외부 지식 소스에서 정보를 가져오고, 행동(action)을 실행하며, 관측(observation)을 수집하고, 검증기 결과를 회수하는 순환이 트라젝토리를 구성한다. 여기에 성공·실패를 구분하는 검증기 결과가 함께 남기 때문에 학습 신호로 활용할 수 있다.

학습은 전 도메인 지도 미세조정(full-domain SFT), 도메인별 교사 모델(domain-level teacher) 학습, 다중 교사 도메인 라우팅 온폴리시 증류(multi-teacher domain-routed on-policy distillation)와 주요 어휘 정렬(salient vocabulary alignment)의 흐름으로 이어진다. 학생 모델이 직접 생성한 궤적 위에서 교사 신호를 받으므로, 오프폴리시 데이터 사용에서 생기는 분포 불일치(distribution shift)를 완화하려는 접근이다. 도메인 라우팅은 샘플별로 어떤 교사의 신호를 적용할지 결정하는 게이트 역할을 맡는다.

⤢✕

자체 학습을 검토할 때 남는 과제

에이전트 특화 모델을 직접 학습할지, API를 활용할지는 보유한 트라젝토리와 운영 여건에 따라 갈린다. 도메인 트라젝토리를 자체 확보할 수 있고 데이터 주권 요건이 강하며 호출량이 커서 서빙 단가가 지배적이라면 자체 학습의 조건이 갖춰진다. 반대로 도메인 범위가 넓고 요구가 자주 변하거나 학습 인프라 운영 인력이 부족하다면 API 활용이 맞는다.

핵심 자산은 모델보다 검증기가 붙은 다단계 실행 이력이다. 사내 도구 호출 로그, CI 결과, 티켓 처리 이력을 트라젝토리로 정제하는 파이프라인이 먼저 필요하다. 이때 개인정보와 기밀이 포함됐는지를 궤적 단위로 판정하고 마스킹하는 절차도 필수다.

비용은 롤아웃(궤적 생성) GPU 시간, 교사 모델 학습, 증류 학습, 저장소로 구성된다. 평균 45K 토큰 궤적은 저장과 전송 비용도 무시할 수 없는 규모다. 롤아웃 비용이 전체를 지배하므로, 궤적 재사용률과 실패 궤적 활용도가 비용 효율을 좌우한다.

평가에서는 공개 에이전트 벤치마크인 SEAL-0·IFBench·BrowseComp 등으로 기준선을 잡고, 사내 도메인 태스크로 최종 판단해야 한다. 장기 호라이즌 태스크는 단계별 부분 성공을 측정해야 하므로 단일 정답률만으로는 충분하지 않다.

공개 모델을 사용할 때는 가중치 라이선스, 상업적 이용 조건, 파생 모델 배포 조건을 사전에 검토해야 한다. 궤적에 외부 서비스 응답이 담긴다면 해당 서비스 약관의 학습 이용 제한 조항도 확인 대상이다. 학습 데이터의 출처·버전·마스킹 이력은 모델 카드로 관리해 감사 대응성을 확보할 수 있다.

비용과 병목이 이동하는 지점

구분	호라이즌 스케일링(Agents-A1)	파라미터 스케일링(1T급)
확대 대상	궤적 길이·능력 폭	모델 파라미터 수
모델 규모	35B MoE	1T 수준
추론 비용	낮음(부분 전문가 활성화)	높음
주요 투자처	롤아웃 인프라·검증기	학습 클러스터·가중치 서빙
병목	궤적 확보와 검증 품질	연산·메모리 자원
에이전트 성능	다수 벤치마크에서 선두	범용 능력에서 우위

파라미터 스케일링은 범용 능력을 넓히지만 서빙 비용이 선형 이상으로 증가한다. 반면 호라이즌 스케일링은 에이전트 태스크에 집중된 개선을 겨냥하면서 서빙 비용을 억제한다. 병목도 달라진다. 전자는 연산 자원으로 풀어야 하는 문제라면, 후자는 궤적 확보와 검증 품질이라는 데이터 문제로 옮겨간다.

35B MoE와 1T급 조밀 모델의 차이는 자체 호스팅에서 특히 드러난다. MoE는 요청당 활성 파라미터가 제한되므로 동일 처리량에서 GPU 메모리와 연산 요구가 크게 낮다.

다중 교사 증류는 단일 교사 학습보다 복잡하다. 단일 교사는 파이프라인이 단순하지만 교사의 약점도 그대로 전이된다. 다중 교사 도메인 라우팅은 도메인별 강점을 선택적으로 흡수해 일반화에 유리할 수 있는 대신, 교사 신호 충돌을 조정할 라우팅 설계와 어휘 정렬이 필요하다.

조직의 로그와 검증 자산이 학습 자산이 될 때

이 접근은 경쟁 우위가 모델 규모보다 다단계 궤적과 검증 라벨로 구성된 학습 데이터의 구조로 이동한다는 신호다. 조직의 도구 호출 로그와 검증 자산은 곧 학습 자산이 된다. 롤아웃 인프라는 데이터 파이프라인이면서 시뮬레이션 환경이기도 하므로, 개발 조직의 CI·테스트 자산과 통합해 설계할 실익이 크다.

35B 규모는 자체 인프라에서 파인튜닝과 서빙을 검토할 수 있는 구간이다. 데이터 반출 없이 도메인 특화 에이전트를 확보하려는 조직에는 실질적인 선택지가 된다. 다만 공개 모델을 쓰더라도 가중치 라이선스, 학습 데이터 출처, 파생물 배포 조건은 조달 심사 항목으로 명시해야 한다. 궤적 데이터의 국외 이전 여부도 개인정보 보호 관점에서 별도 검토 대상이다.

에이전트 성능 경쟁의 초점은 파라미터 발표에서 궤적 데이터 규모와 검증기 품질 공개로 이동할 전망이다. 롤아웃·검증 인프라는 독립 오픈소스 스택으로 분화되고, 모델보다 인프라 채택이 먼저 이뤄지는 패턴이 확산될 수 있다. 30B 내외 MoE 에이전트 모델군은 자체 호스팅 시장의 주력 구간으로 자리 잡고 프런티어 API와의 역할 분담도 명확해질 전망이다. 장기 호라이즌 태스크의 부분 성공과 단계별 점수는 벤치마크 설계에서 주요 쟁점으로 부상한다.