Google Agentic RAG의 멀티홉 검색과 충분성 검증 구조

한 번의 검색으로 끝나지 않는 질문

프로젝트 문서에는 서버 ID만 있고 실제 사양은 별도 데이터베이스에 있을 수 있다. 이때 첫 검색 결과만 언어 모델에 전달하는 RAG(Retrieval-Augmented Generation)는 답변에 필요한 정보가 빠졌는지 판단하거나, 발견한 서버 ID로 다음 검색을 이어가기 어렵다.

전통적인 파이프라인은 사용자 질의를 벡터 검색에 전달하고, 반환된 컨텍스트로 응답을 생성하는 선형 구조다. 단순한 질문에는 빠르게 대응하지만 정보가 여러 소스에 흩어져 있거나 앞선 결과가 다음 검색어를 결정하는 멀티홉 질의에서는 약점이 드러난다.

첫 결과가 불완전해도 그대로 수락하고, 잘못된 검색을 인지한 뒤 복구할 경로가 없다. 원래 질의도 고정되어 있어 검색 과정에서 드러난 정보에 맞춰 쿼리를 바꾸기 어렵다. Google Research의 실험에서는 이런 단일 검색 방식이 복잡한 멀티홉 질문에서 표준 RAG 대비 최대 34%까지 정확도가 떨어졌다.

Google Research가 2026년 6월 Gemini Enterprise Agent Platform에 공개한 Agentic RAG는 이 문제를 검색 에이전트 간의 협력과 반복 검증으로 다룬다.

검색을 계획하고 부족한 근거를 다시 찾는 구조

이 아키텍처의 중심에는 수집된 컨텍스트만으로 질문에 답할 수 있는지 판정하는 Sufficient Context Agent가 있다. 검색 완료 여부가 아니라 정보의 충분성을 검사하고, 부족하다면 구체적인 갭을 쿼리 재작성 단계로 돌려보낸다.

⤢✕

루트 오케스트레이터는 사용자 요청의 복잡도를 평가하고 작업을 배분한다. 단순 질의는 직접 처리하며, 여러 검색 단계를 요구하는 질문에는 전체 에이전트 파이프라인을 가동한다.

플래너 에이전트는 답변에 필요한 정보와 데이터 소스의 탐색 순서를 정보 경로로 구성한다. 쿼리 재작성 에이전트는 원래 질문을 여러 관점의 정제된 검색어로 바꾸고, 이후 충분성 검사에서 확인된 빈틈을 채우는 타겟 쿼리도 만든다.

검색 팬아웃 에이전트는 만들어진 쿼리를 벡터 데이터베이스, 키워드 인덱스, 외부 API 같은 여러 백엔드에 병렬로 전달한다. 서로 분리된 소스에서 결과를 모으는 역할이다.

충분성 판단 에이전트는 반환된 스니펫의 실제 관련성을 평가하고 중간 드래프트를 검토한다. 약물과 식단 정보는 확보했지만 알레르기 정보가 없다는 식으로 누락 내용을 식별한 뒤, 충분한 경우 합성 단계로 넘기고 부족하면 재검색을 요청한다.

합성 에이전트는 검증을 통과한 컨텍스트를 하나의 응답으로 통합한다. 이때 수집된 소스와 검색 경로를 추적할 수 있는 형태로 유지해 감사 가능성과 추적 가능성을 확보한다.

이전 결과가 다음 쿼리를 만드는 검색 루프

Agentic RAG의 재검색은 동일한 요청을 되풀이하는 재시도가 아니다. 앞선 결과를 분석해 답변을 완성하는 데 필요한 정보가 무엇인지 찾고, 그 빈틈을 겨냥한 쿼리로 다음 검색을 실행한다.

⤢✕

예를 들어 “프로젝트 X의 권장 서버 사양은 무엇인가?”라는 질문을 받았다고 하자. 1차 검색에서는 프로젝트 문서에서 서버 ID인 SRV-2024-001을 발견한다. 충분성 판단 에이전트는 서버 ID만으로 실제 사양을 답할 수 없다고 판정한다.

다음 검색은 서버 사양 데이터베이스에서 SRV-2024-001의 상세 스펙을 찾도록 바뀐다. 사양 정보까지 확인되면 프로젝트 문서와 서버 데이터베이스의 결과를 합쳐 최종 응답을 만든다.

FramesQA에서 확인한 교차 검색 성능

Google Research가 검증에 사용한 FramesQA는 824개의 복잡한 멀티홉 질문과 2,676개의 PDF 문서로 구성된 벤치마크다. 각 질문에 답하려면 2~15개의 위키피디아 문서를 교차 참조해야 하며 역사, 스포츠, 과학, 건강 등 여러 도메인을 포함한다.

예시 질문은 “2024년 6월 기준 가장 많이 시청된 TV 시리즈 피날레 상위 2개 중, 어떤 피날레가 더 길었으며 차이는 얼마인가?”이다. 답을 얻으려면 가장 많이 시청된 피날레가 M*A*S*H와 Cheers라는 사실을 찾고, 각각의 방영 시간을 검색한 다음 두 시간의 차이를 계산해야 한다.

Agentic RAG는 4개 코퍼스를 교차 검색하는 설정에서 90.1% 정확도를 달성했다. 표준 RAG와 비교한 정확도 향상은 최대 34%였으며, 교차 코퍼스 설정의 레이턴시는 단일 코퍼스 대비 3% 이내의 차이를 보였다.

GraphRAG와는 검색 문제를 나누어 맡는다

Agentic RAG와 GraphRAG는 같은 검색 문제를 서로 다른 층에서 해결한다.

구분	Google Agentic RAG	GraphRAG (Microsoft)
핵심 접근	어떻게 검색할지를 에이전트가 결정	무엇을 검색할지 지식 그래프가 구조화
데이터 표현	벡터 임베딩 + 동적 라우팅	엔티티-관계 지식 그래프
강점	복잡한 추론, 동적 쿼리 재작성	명확한 관계 추론, 그래프 순회
적합 케이스	질의가 어려울 때, 소스가 다양할 때	코퍼스에 명확한 엔티티/관계가 있을 때
LLM 호출 수	3~10배 (단순 RAG 대비)	전처리 비용 높음, 검색 시 효율적
할루시네이션 감소	충분성 검증으로 약 34% 향상	관계 기반 검색으로 약 62% 감소

2026년에는 두 접근법을 결합한 하이브리드 구성이 부상하고 있다. 에이전트가 질문을 분석해 관계 중심 질의는 지식 그래프로 보내고, 복잡한 멀티홉 질의는 Agentic RAG 검색 루프로 라우팅하는 방식이다.

HyDE를 쿼리 재작성에 연결하는 방법

HyDE(Hypothetical Document Embeddings)는 빈약하거나 모호한 질의가 들어왔을 때 LLM으로 가상의 답변을 먼저 만들고, 이를 검색 벡터로 사용하는 기법이다. 도메인 밖의 쿼리나 의미가 모호한 질문의 검색 품질을 높이는 데 강점이 있다.

Agentic RAG와 HyDE는 배타적인 선택지가 아니다. 충분성 판단 에이전트가 정보의 빈틈을 발견했을 때, 쿼리 재작성 단계에서 HyDE를 사용해 더 정확한 보조 쿼리를 생성할 수 있다.

질의 복잡도에 맞춰 경로를 바꾸는 Adaptive RAG

모든 질문에 멀티에이전트 검색 루프가 필요한 것은 아니다. Adaptive RAG는 질의의 복잡도와 관계 중심 여부를 분류한 뒤 적합한 검색 방식으로 전달해 비용과 정확도의 균형을 맞춘다.

⤢✕

단순한 질문까지 Agentic RAG로 처리하면 불필요한 LLM 호출이 늘어난다. 반대로 복잡한 질문을 Naive RAG에 맡기면 필요한 검색 단계가 생략되어 정확도가 낮아질 수 있다.

정보 검색 모델에서의 위치

Agentic RAG는 기존 정보 검색 모델이 쌓아 온 검색과 피드백 구조 위에 에이전트의 판단을 추가한 형태로 볼 수 있다. 불리언 검색은 키워드의 정확한 일치를 다루고, 벡터 공간 모델은 TF-IDF 기반 유사도를 사용한다. 신경망 검색은 임베딩을 통한 의미 검색으로 확장됐으며, RAG는 검색 결과와 생성을 결합했다. Agentic RAG는 여기에 검색 루프, 에이전트 협력, 충분성 판단을 더한다.

Sufficient Context Agent의 역할은 정보 검색 이론의 관련성 피드백(Relevance Feedback)을 자동화한 것으로 해석할 수 있다. Rocchio 알고리즘이 초기 검색 결과를 토대로 쿼리를 개선하듯, 이 에이전트는 LLM으로 의미론적 갭을 분석해 다음 검색에 필요한 피드백을 만든다.

엔터프라이즈 정보 관리에서는 EDM, ERP, CRM처럼 분산된 데이터 소스를 가로질러 검색할 수 있다는 의미가 있다. 검색 단계가 기록되므로 정보 감사 경로도 강화된다. 충분성 판단은 응답 생성 전에 정보 품질을 검사해 할루시네이션을 줄이는 장치로 작동한다.

운영 환경에서 확인할 신뢰도와 비용

모든 검색 단계와 쿼리 재작성 과정, 충분성 판단 결과를 기록하면 최종 응답이 어떤 근거에서 만들어졌는지 추적할 수 있다. 이런 감사 가능성과 추적 가능성은 의료, 금융, 법률 분야에서 AI를 도입할 때 필요한 요소다.

교차 코퍼스 검색은 서로 분리된 데이터베이스를 함께 조회해야 하는 업무에 적합하다. 의료에서는 환자 기록, 약물 데이터베이스, 임상 가이드라인을 교차 참조할 수 있다. 엔지니어링에서는 프로젝트 문서와 사양 데이터베이스, 규정 문서를 통합 검색하고, 금융에서는 거래 데이터와 리스크 모델, 규제 요건을 함께 분석한다. 4개의 분리된 데이터베이스를 사용한 교차 검색에서 기록한 정확도는 90.1%였다.

교차 코퍼스 설정에서도 단일 코퍼스 대비 레이턴시 차이는 3% 이내였다. 이 결과는 병렬 팬아웃 검색과 스마트 캐싱을 통해 달성됐다.

반면 검색 루프는 LLM 호출을 늘린다. 단순 RAG 대비 호출 횟수가 3~10배에 이를 수 있어 비용 상승을 고려해야 한다. 무한 루프를 막기 위한 최대 반복 횟수 제한과 검색 소스의 신뢰도를 평가할 기준도 필요하다.

자기 수정과 멀티모달 검색으로 넓어지는 범위

2026년의 Agentic RAG는 에이전트가 검색 전략을 스스로 학습하고 개선하는 자기 수정형 RAG, 텍스트·이미지·오디오를 함께 다루는 멀티모달 검색 루프, 검색과 응답 생성을 동시에 처리하는 실시간 스트리밍 RAG로 발전하고 있다.

배포와 생태계 연결도 함께 진행된다. Gemini Enterprise Agent Platform은 클라우드 네이티브 배포 경로를 제공하고, LangGraph와 LlamaIndex 같은 오픈소스 프레임워크가 통합 대상으로 거론된다. n8n과 Zapier 같은 워크플로우 자동화 도구와의 연계도 포함된다.

Agentic RAG의 핵심은 검색량을 늘리는 데 있지 않다. 현재 근거로 질문에 답할 수 있는지를 판정하고, 부족한 부분만 다시 찾는 데 있다. GraphRAG, HyDE, Adaptive RAG와 조합하면 질의의 관계 구조와 복잡도에 맞춰 검색 경로를 선택할 수 있다.