후지쯔 EVE-Agent로 보는 자기진화 멀티 AI 에이전트 아키텍처

실행 결과가 다음 학습 재료가 되는 구조

후지쯔는 2026년 5월 25일, 여러 AI 에이전트가 비즈니스 업무의 실행 결과를 바탕으로 스스로 개선하는 자기진화 멀티 AI 에이전트 기술을 공개했다. 학습 재료는 성공과 실패 기록에 한정되지 않는다. 인간의 피드백, 정책 개정, 사양 변경도 다음 개선 사이클을 시작하는 신호로 사용한다.

핵심은 EVE-Agent(Evidence-Verifiable Self-Evolving Agents) 프레임워크다. 에이전트가 개선안을 바로 받아들이는 대신 성공과 실패의 원인을 분석하고, 제안의 효과를 검증한 뒤 입증된 항목만 선택적으로 반영한다. 경험을 쌓는 것보다 그 경험에서 도출한 변경이 실제로 유효한지 확인하는 과정에 무게를 둔 설계다.

기존 LLM 미세조정과 에이전트 운영에서는 데이터 선택, 학습 조건 조정, 평가, 개선 주기를 AI 전문가가 수작업으로 관리해야 했다. 후지쯔가 제시한 방향은 이 과정을 멀티 AI 에이전트가 자율적으로 실행하고 최적화해 전문가 의존도를 대폭 줄이는 것이다.

첫 적용 대상은 후지쯔가 개발한 일본어 LLM Takane이다. 자기진화 기술을 적용한 결과 전문화 전보다 평균 정확도가 28포인트 향상됐다. 후지쯔는 카네기멜론대학교 Graham Neubig 부교수, Tim Dettmers 조교수와 메모리·전력 소비를 최소화하는 기술도 공동 연구하고 있다. Anthropic과는 전략적 제휴를 체결해 Claude 기반 에이전트 오케스트레이션을 강화했다.

실행과 검증을 분리한 에이전트 팀

EVE-Agent에서 각 에이전트는 서로 다른 책임을 맡는다. 실행 에이전트(Execution Agent)는 지정된 비즈니스 태스크를 처리하고 결과 로그를 남긴다. 분석 에이전트(Analysis Agent)는 이 기록에서 성공과 실패의 원인을 찾고 개선 후보를 만든다.

검증 에이전트(Verification Agent)는 후보를 시뮬레이션이나 소규모 실험에 적용해 효과를 확인한다. 반영 에이전트(Reflection Agent)는 검증을 통과한 항목만 프롬프트, 검색 전략, 평가 기준에 적용한다. 이후 모니터링 에이전트(Monitoring Agent)가 성능 지표를 추적하며 개선 효과가 안정화됐는지 판단한다.

인간 감독을 없애는 구조는 아니다. 업무 담당자의 교정과 피드백을 학습 신호로 구조화하면서, 실제 변경은 별도의 증거 기반 검증을 통과하도록 만든다.

⤢✕

로그에서 개선 후보를 만드는 과정

분석 단계에서는 태스크 출력값과 처리 시간, 오류 유형, 인간 수정 이력을 함께 수집한다. 과거 검색 결과와 실패 사례, 인간이 교정한 데이터도 맥락으로 활용한다. 에이전트는 성공 패턴과 실패 패턴을 구분하고 원인 가설(causal hypothesis)을 세운다.

이 가설은 프롬프트 수정안이나 검색 범위 확장 전략, 평가 기준 조정안으로 구체화된다. 하나의 에이전트가 후보를 독점하지 않고 여러 에이전트가 서로 다른 제안을 동시에 생성한다. 제안이 충돌하면 에이전트 간 토의 메커니즘으로 우선순위를 정한다.

후보는 소규모 데이터셋 또는 샌드박스 환경에서 시험한다. 정확도, 응답 일관성, 안전성 필터 통과율처럼 사전에 정의한 품질 기준으로 효과를 측정하며, 임계값에 못 미치는 제안은 폐기한다. 임계값을 넘은 제안만 다음 단계로 이동한다.

검증된 변경은 프로덕션 에이전트의 프롬프트, 파라미터, 검색 인덱스에 점진적으로 반영된다. 적용 후 성능이 떨어지면 사전에 설정한 롤백 트리거가 이전 상태로 복구한다. 어떤 제안이 어떤 근거로 반영됐는지는 감사 로그에 남겨 추적 가능성(traceability)을 확보한다.

모니터링 단계에서는 반영 후 N회 실행 결과를 연속으로 관찰해 개선 효과가 유지되는지 확인한다. 지표가 목표 범위 안에서 안정화되면 수렴 상태로 판단한다. 이후 정책 개정이나 사양 변경 같은 환경 변화가 감지되면 새로운 사이클을 시작한다.

데이터와 학습 조건도 에이전트가 다룬다

자기진화 범위는 프롬프트 수정에 머물지 않는다. 에이전트는 학습 데이터에서 유효한 항목과 노이즈를 분류하고, 도메인 적합성·최신성·다양성을 함께 고려해 데이터를 선별한다. 과거 성공 사례를 자동 레이블로 사용하는 약지도 학습(weak supervision)을 적용하므로 인간이 모든 데이터를 직접 레이블링할 필요도 줄어든다.

배치 크기, 학습률, 에포크 수 같은 하이퍼파라미터는 실험 결과를 바탕으로 조정한다. 과적합과 과소적합 신호에 따라 정규화 강도를 바꾸고, 메모리와 전력 제약을 고려한 학습 스케줄도 생성한다.

한 에이전트가 발견한 유효 전략은 공유 메모리(shared memory pool)에 등록된다. 다른 에이전트는 여기에서 검증된 전략을 찾아 자신의 태스크에 선택적으로 적용한다. 공유 범위와 빈도는 태스크 의존성 그래프에 따라 제어된다.

서로 상충하는 개선안이 제출되면 투표, 가중치, 실험을 이용해 중재한다. 그 근거는 인간이 검토할 수 있는 형태로 로그에 보존한다. 같은 영역에서 충돌이 반복되면 해당 태스크를 담당할 전담 에이전트를 생성하는 트리거가 작동한다.

이 과정은 단발성 학습이 아니라 지속적 개선 루프(continuous improvement loop)로 이어진다. 업무 환경의 변화는 이벤트 스트림으로 수신하며, 장기 성능 추세를 분석해 단기 노이즈와 실질적인 변화를 구별한다.

Takane과 문서 검색에 적용된 자기진화

Takane의 자율 전문화는 제조, 의료, 금융, 공공행정 등 여러 도메인을 대상으로 했다. 멀티 에이전트가 데이터 선택부터 학습 파라미터 조정, 평가, 개선까지 전 과정을 관리했고, 전문화 전보다 평균 정확도가 28포인트 향상됐다.

문서 검색 영역에서는 전자의무기록 시스템 HOPE LifeMark-HX와 지자체 주민 기록 솔루션 MICJET에 적용됐다. 대규모 문서와 설계 사양서에서 과거 검색 결과, 실패 사례, 인간 교정 이력을 학습 신호로 활용한다. 에이전트는 이를 토대로 검색 범위 확장 전략과 관련 문서 추출 기준을 개선한다.

반복적인 문서 처리와 데이터 추출, 규정 준수 검토처럼 처리량이 많은 업무도 적용 대상이다. 초기 설정 이후 정책 개정이나 사양 변경을 감지하면 학습 사이클을 다시 가동해 업무 변화에 적응한다.

자동화해도 전문가의 책임은 남는다

EVE-Agent가 자동화하는 범위에는 데이터 선택과 큐레이션, 하이퍼파라미터 탐색, 학습 조건 조정이 포함된다. 성능 평가와 품질 검증은 사전에 정한 기준 안에서 자율화하며, 개선안의 생성·검증·반영도 하나의 루프로 연결한다.

그러나 최초 태스크와 품질 임계값은 인간 전문가가 정해야 한다. 도메인별 안전 정책에는 규제·윤리 전문가의 판단이 필요하고, 자동화 범위를 벗어난 예외적 엣지 케이스를 처리할 인간 에스컬레이션 경로도 유지해야 한다. 장기 전략의 방향을 결정하는 역할 역시 경영진과 도메인 전문가에게 남는다.

따라서 이 기술이 줄이는 것은 반복적인 운영 개입이다. 시스템의 목표와 허용 범위, 책임 구조까지 에이전트에 넘기는 것은 아니다.

자기 개선 루프가 품은 안전 문제

자율 개선은 목표 표류(Goal Drift)를 일으킬 수 있다. 설정된 지표를 최적화하는 과정에서 시스템이 원래 의도와 다른 방향으로 움직일 가능성이다. 학습 데이터 분포를 벗어난 상황에서는 분포 외 일반화에 실패해 성능이 급격히 떨어질 수도 있다.

멀티 에이전트 구조에는 에이전트 간 공모(Collusion) 위험도 있다. 여러 에이전트가 검증 기준을 우회하는 방향으로 협력할 가능성을 배제할 수 없다. 작은 오판이 연속적인 학습 사이클을 거치며 커지는 누적 오류 증폭도 경계해야 한다.

후지쯔는 증거 기반 검증을 모든 개선안이 거쳐야 하는 관문으로 두었다. 성능 저하 시 이전 버전으로 복구하는 롤백, 반영 결정 전반을 기록하는 감사 로그, 프로덕션과 분리된 샌드박스 검증 환경도 안전 설계에 포함했다.

배포 속도와 거버넌스 사이의 간격

2026년 자율 학습 에이전트 분야에서는 보안·거버넌스·컴플라이언스 체계가 배포 속도를 따라가지 못하는 격차가 남아 있다. 의료, 금융, 공공행정처럼 규제가 강한 영역에서는 자율 AI의 의사결정에 대한 책임 귀속 문제도 해결되지 않았다. 에이전트의 자율 학습 결과를 규제 기관이 어떤 방식으로 감사(audit)할 것인지에 관한 방법론 역시 부재한 상태다.

기술 흐름은 단순 태스크 실행 에이전트에서 스스로 개선하는 에이전트로 이동하고 있다. 2026년에는 후지쯔 EVE-Agent뿐 아니라 여러 기업이 유사한 자율 학습 루프 아키텍처를 경쟁적으로 발표했고, 자기진화 능력은 AI 에이전트의 차별화 요소로 부상했다.

배포 환경도 확장되는 방향이다. 후지쯔와 카네기멜론대학교의 공동 연구는 메모리와 전력 소비를 줄여 클라우드뿐 아니라 온프레미스와 엣지에서도 자기진화 에이전트를 운용할 가능성을 넓힌다. 데이터 주권 요구가 강한 의료·공공 영역에서는 엣지 배포 수요가 증가하고 있다.

후지쯔는 Anthropic과의 전략적 파트너십을 통해 Claude 기반 멀티 에이전트 오케스트레이션을 강화하고, 자기진화 기술을 자사 AI 플랫폼의 핵심 기술로 통합해 기업 고객에게 제공할 예정이다. 멀티 에이전트 협업을 표준화하려는 논의도 업계 차원에서 본격화되고 있다.

EVE-Agent가 제시하는 운영 모델의 요지는 개선을 자동화하되 변경을 무조건 신뢰하지 않는 데 있다. 실행 결과에서 후보를 만들고, 검증을 통과한 변경만 반영하며, 문제가 생기면 되돌릴 수 있어야 한다. 목표 표류와 누적 오류, 고규제 업무의 책임 문제가 남아 있는 만큼 인간 감독과 에이전트 자율성의 경계를 어떻게 정하느냐가 실제 도입의 핵심 조건이 된다.