내부 RAG와 실시간 검색을 분리하는 소스 라우팅 설계

검색은 색인 품질을 넘어 소스 배분의 문제가 됐다

사내 문서 RAG와 실시간 그라운디드 서치를 함께 쓰는 구성이 컨텍스트 엔지니어링의 검색 축으로 자리 잡고 있다. 벡터 검색 하나에만 의존하면 내부 문서가 낡은 상황과 웹 근거의 신뢰도가 흔들리는 상황을 구별하기 어렵다.

에이전틱 RAG는 질의마다 조회 도구를 선택한다. 개방형 개념 질의에는 시맨틱 벡터 검색을, 제품 코드나 고유명사에는 키워드 검색을, 정형 데이터에는 SQL을, 실시간 정보에는 웹 검색을 붙이는 식이다. 이때 에이전틱 서치는 자체 색인을 두지 않는다. 에이전트가 질의를 구성해 검색 API를 호출하고, 반환된 URL에서 최신 내용을 읽는다.

검색은 더 이상 응답 전 단계의 단순 전처리가 아니다. 첫 검색 결과가 다음 질의의 전제가 되면서 추론 중간에 이어지는 그라운디드 루프가 된다. 문제는 내부 문서는 출처가 분명한 대신 낡을 수 있고, 웹은 최신이지만 모든 근거의 신뢰도가 같지 않다는 데 있다. 둘이 다른 답을 제시할 때 이를 그대로 섞으면 사용자는 어떤 문장이 어느 근거에 기반하는지 알 수 없다.

따라서 라우팅 체계에는 의도 분류, 신선도 정책, 내부 우선 조회, 외부 검색 조건, 출처 표기, 상충 판정, 중복 제거, 응답 보류가 함께 들어가야 한다.

질의마다 조회 경로를 결정하는 흐름

질의 의도 분류기는 사실 조회, 절차 안내, 최신 동향, 정형 집계처럼 질의를 나누고 각각의 기본 소스를 연결한다. 분류 신뢰도가 낮을 때는 단일 경로로 좁히기보다 병렬 조회로 넘긴다. 이 경우 오분류 비용이 병렬 조회 비용보다 크다.

조직 고유 사실은 내부에서만 확인 가능한 경우가 많으므로 내부 색인을 먼저 조회한다. 이때 결과의 충족 여부를 유사도 점수로 판단해서는 안 된다. 점수가 높아도 질의 항목에 답하지 않는 문서일 수 있으므로, 실제 질의 항목이 채워졌는지를 기준으로 판정한다.

외부 검색은 내부 근거를 확보하지 못했거나 신선도 기간을 넘겼을 때, 또는 질의 자체가 외부 사건을 가리킬 때만 호출한다. 조건을 열어두면 모든 질의가 웹으로 나가며 지연과 비용이 늘고 내부 자산 활용도도 떨어진다.

응답에는 각 주장이 어떤 소스의 어떤 문서에 기대는지 표시하고 소스 등급도 함께 제공한다. 표기가 없는 문장은 모델의 사전 지식이라는 점을 명시해야 한다. 그래야 근거가 있는 문장과 그렇지 않은 문장이 같은 무게로 읽히는 일을 막을 수 있다.

⤢✕

신선도와 상충을 운영 정책으로 다루기

소스별로 유효 기간을 정의하고, 기간을 넘긴 문서는 근거 등급을 낮춘다. 사내 문서의 핵심 위험은 출처 불명이 아니라 정보가 낡는 데 있다. 문서 갱신 시각이 색인의 필수 필드가 아니면 신선도 정책은 작동할 수 없다.

같은 원문이 여러 소스로 유입되는 경우도 많다. 문서 지문으로 중복을 제거한 뒤에 컨텍스트 상한을 적용해야 한다. 반대로 상한을 먼저 적용하면 같은 내용이 예산을 차지해 정보 밀도가 낮아진다.

소스 간 사실이 충돌하면 신선도, 출처 등급, 구체성 순으로 판정하고, 선택된 근거와 탈락한 근거를 함께 남긴다. 판정할 수 없다면 양쪽을 병기하고 결론을 내리지 않는다. 임의의 선택은 불확실한 정보를 근거 있는 사실처럼 보이게 만든다.

필요한 근거 항목을 채우지 못했을 때는 추정 답변 대신 확인되지 않은 항목을 알린다. 보류 발생률은 운영 지표다. 보류가 늘면 색인 결손을 의심할 수 있고, 보류가 없는데 오답이 나온다면 판정 기준의 결손을 점검해야 한다.

규칙을 만들고 회귀를 감시하는 도입 방식

실제 로그에서 질의를 수집해 유형별 분포를 만들고, 각 유형에서 정답 근거가 내부와 외부 중 어디에 있는지 사람이 표시한다. 이 결과가 라우팅 규칙의 정답 세트가 된다. 분포를 모르면 규칙이 어느 범위에서 효과를 내는지 판단할 수 없다.

같은 질의를 내부와 외부에 각각 요청한 뒤 유형별 정확도를 집계한다. 평균만 보면 특정 질의 유형에서 발생하는 소스 오선택이 감춰진다.

유형별 기본 소스와 외부 검색 트리거 조건은 표로 고정한다. 규칙이 코드 곳곳에 흩어지면 변경의 영향을 추적하기 어렵다. 규칙이 적용되지 않는 경로는 기본 병렬 조회로 두어 새 유형이 들어와도 응답이 끊기지 않도록 한다.

상충 판정이 발생한 응답은 주기적으로 사람이 검토한다. 상충은 색인 갱신 누락의 신호일 수 있으며, 검토 결과는 신선도 정책과 출처 등급 조정으로 되돌려야 한다. 근거 인용 정확도, 상충 발생률, 보류율, 외부 트리거 비율은 상시 감시 대상이다. 색인을 재구축하거나 모델을 교체하면 이 지표의 기준선도 다시 잡는다.

외부 검색 도메인 허용 목록과 소스 등급 부여는 승인 대상으로 관리한다. 또한 외부로 나가는 질의에 사내 정보가 포함되지 않도록 질의 마스킹 규칙을 필수 항목으로 둔다.

라우팅과 병렬 조회가 만드는 선택지

구분	소스 라우팅	전체 소스 병렬 조회
응답 지연	짧음	김
조회 비용	낮음	높음
근거 일관성	높음	상충 빈발
오분류 위험	있음	없음
구현 복잡도	높음	낮음
누락 위험	있음	낮음

소스 라우팅은 질의당 조회 수를 줄여 지연과 비용을 낮춘다. 유입되는 근거의 출처도 제한되므로 상충이 적고, 검색이 컨텍스트 예산에서 차지하는 몫을 예측하기 쉽다. 대신 의도 분류기가 틀리면 정답이 있는 소스 자체를 조회하지 못해 근거 미확보로 끝날 수 있으며, 분류기 역시 별도 관리 대상이 된다.

전체 소스 병렬 조회는 정답이 있는 소스를 놓치지 않고, 분류기 없이도 새 질의 유형에 대응할 수 있다. 그러나 모든 질의가 모든 소스를 호출하므로 지연과 비용이 소스 수에 비례해 늘어난다. 서로 다른 답이 동시에 들어오기 때문에 상충 판정 부담도 지속된다. 분류 신뢰도가 낮은 질의만 병렬 경로로 보내는 혼합 구성이 실용적인 절충안이 된다.

내부 색인 우선은 조직 고유 사실과 비공개 절차를 정확히 반영하고, 출처가 분명해 감사 대응이 쉽다. 질의가 외부로 나가지 않아 정보 유출 위험도 낮다. 반면 문서 갱신이 늦으면 낡은 사실을 확신 있게 답할 수 있고, 색인 결손 영역에서는 근거 미확보가 반복된다.

외부 검색 우선은 최신 사건과 공개 기술 정보에 유리하며 색인 구축 없이 넓은 범위를 다룬다. 다만 출처 신뢰도가 균일하지 않고 조직 내부 사실은 찾을 수 없으며, 질의가 외부로 나가는 노출도 발생한다. 조직 고유성이 있는 질의는 내부 우선으로, 외부 사건을 가리키는 질의는 외부 우선으로 두고 신선도 기간을 전환 조건으로 사용하는 구성이 현실적이다.

근거가 부족할 때 보류하는 경로는 오정보를 만들지 않고, 사용자에게 무엇이 확인되지 않았는지 알려 다음 행동을 정할 수 있게 한다. 보류율은 색인 결손을 드러내는 진단 지표로도 쓸 수 있다. 하지만 사용자는 답을 받지 못했다고 느낄 수 있고 보류가 잦으면 시스템 신뢰가 떨어질 수 있다.

추정 답변은 대부분의 질의에 응답을 제공해 사용자가 다음 단계로 넘어가게 하지만, 근거 없는 문장과 근거 있는 문장이 같은 무게로 읽혀 오정보가 조직 안으로 유통될 위험이 있다. 되돌리기 어려운 판단에 쓰이는 경로는 보류하고, 탐색적 질의에는 근거 없음 표기를 붙인 추정 답변을 제공하는 분리가 두 요구를 함께 다룬다.

검색·지식·데이터 품질 관점에서 보는 구조

질의 의도에 따라 시맨틱, 키워드, 정형 조회를 선택하는 방식은 검색 모델 선택 문제의 응용이다. 문서 지문 기반 중복 제거는 검색 결과의 정밀도를 높이는 후처리 기법에 해당한다.

내부 색인을 우선 조회하는 정책은 조직 지식 자산을 1차 근거로 활용하는 방식이다. 보류율을 색인 결손 지표로 사용하는 접근은 지식 공백을 식별하는 절차와 연결된다.

신선도 정책은 데이터 품질의 적시성을 정량 규칙으로 옮긴 것이며, 상충 근거 판정은 데이터 일관성 검증과 예외 처리의 구조를 따른다.

색인과 검색을 함께 운용하는 방향

색인 없는 에이전틱 서치와 색인 기반 RAG를 함께 두는 이중 구성은 실무 기본형으로 굳어지는 방향이다. 근거 출처와 소스 등급 표기는 응답 인터페이스의 필수 요소로 요구되는 흐름에 있고, 신선도 필드를 갖지 않은 문서를 색인 대상에서 제외하는 정책도 색인 구축 요건에 포함되는 방향이다.

응답 보류 역시 실패가 아니라 정상 응답 유형으로 다루는 평가 체계가 확산되는 흐름이다. 내부 문서의 신뢰성과 웹 검색의 최신성은 어느 한쪽만으로 해결되지 않는다. 어떤 질의에 어떤 소스를 연결할지, 언제 외부 검색으로 전환할지, 상충을 어떻게 기록할지를 명시해야 근거 결합 응답이 안정적으로 작동한다.