국내 AI 검색에서 제미나이가 앞선 배경: 멀티모달과 배치 추론

2026년 7월 조사에서 국내 AI 검색 만족도는 제미나이 77.3%, 챗GPT 70.6%로 집계됐다. 단순히 선호 서비스가 바뀐 사건이라기보다, 텍스트·이미지·음성을 함께 처리하는 검색 경로와 비실시간 추론 비용을 낮추는 서빙 방식이 사용자 경험에 반영된 결과로 볼 수 있다.

오픈서베이(OpenSurvey)의 ‘AI 검색 트렌드 리포트 2026 하반기’에 따르면 검색 이용자 1,000명 가운데 최근 3개월 내 제미나이 검색을 이용한 경험이 있는 비율은 52.2%였다. 2025년 12월의 28.9%보다 23.3%p 늘어난 수치다. 두 서비스의 전체 이용 경험 격차도 같은 기간 25.6%p에서 5.9%p로 줄었다.

만족도·신뢰도·유료 이용 의향의 세 축에서 제미나이가 챗GPT를 추월하기 시작했지만, 포털의 위치가 사라진 것은 아니다. 네이버(Naver)는 주 이용 검색 서비스 1순위로 38.8%를 유지했고, 뉴스·이슈·생활정보의 진입점 역할을 맡고 있다. AI 검색은 종합하거나 추론해야 하는 질의에서 다른 경험을 제공하는 쪽에 가깝다.

글로벌 흐름도 비슷한 변화를 보인다. Similarweb 기준 챗GPT의 AI 챗봇 웹 트래픽 점유율은 2025년 5월 79.0%에서 2026년 5월 53.9%로 낮아졌고, 제미나이와 클로드(Claude)는 각각 27.9%, 9.2%로 상승했다. Google I/O 2026에서는 제미나이 앱 월간 활성 사용자(MAU)가 9억 명을 넘었다고 발표됐으며, 전년 수치는 4억 명이었다.

검색 요청을 모달리티와 긴급도로 나누는 구조

멀티모달 검색의 핵심은 서로 다른 입력을 따로 다루지 않는 데 있다. Gemini Embedding 2는 텍스트·이미지·비디오·오디오를 하나의 의미 공간(semantic space)에 매핑한다. 따라서 단일 벡터 공간에서 텍스트와 이미지를 함께 질의하고, 이종 모달리티를 가로지르는 교차 검색(cross-modal retrieval)을 구성할 수 있다.

검색 결과 생성에는 리트리벌 증강(RAG, Retrieval-Augmented Generation)이 이어진다. 2026년 3월 Gemini API File Search 업그레이드는 멀티모달 RAG와 페이지 단위 인용(page-level citation)을 지원한다. Google Search·Maps 내장 도구와 커스텀 함수를 하나의 요청에 연결하고, 도구 간 데이터를 자동으로 전달하는 “멀티 툴체인(multi-toolchain)”과 “컨텍스트 루프(context loop)”도 이 경로에 포함된다.

랭킹 단계에서는 FAISS 인덱스 기반 벡터 유사도와 시맨틱 캐시(semantic cache)를 함께 활용한다. 반복되는 재질의는 캐시를 통해 비용을 줄이고, 메모리는 LRU 축출 정책으로 관리한다.

비용 구조를 바꾸는 지점은 배치 추론이다. Batch API는 24시간 내에 처리하는 비실시간 워크로드에서 전 유료 모델을 50% 할인한다. 캐시 미스가 발생한 경우에도 유사 태스크를 적응형 배치로 최대 8건 또는 50ms 윈도우 안에서 묶어 단일 프롬프트로 호출하면 처리량(throughput)을 높일 수 있다.

실시간 요청과 배치 요청은 같은 경로로 취급할 일이 아니다. 배치용·실시간용 클라이언트를 이중화하고, 사용자가 응답을 기다리는지에 따라 애플리케이션 로직이 경로를 정한다. 하이브리드 라우팅에서 배치 비중을 60~~70%까지 가져가면 사용자 체감 지연 열화 없이 실질 API 비용을 30~~35% 절감할 수 있다. Standard·Flexible·Priority·Batch·Cached 티어는 지연과 비용 요구가 다른 요청을 분리하는 기준이 된다.

⤢✕

도입 대상에 따라 실시간 경로와 배치 경로를 분리한다

사내 지식검색, 고객지원, 문서 요약처럼 목적이 다른 유스케이스를 먼저 우선순위화해야 한다. 야간 대량 정제, 벌크 분류, 오프라인 생성처럼 즉시 응답이 필요하지 않은 작업은 Batch 티어로 옮길 수 있다.

이미지·PDF·음성 같은 비정형 데이터는 통합 임베딩으로 색인한다. 페이지 단위 인용을 사용하면 근거 추적성(traceability)을 확보할 수 있고, 환각(hallucination) 리스크를 완화하는 데 도움이 된다.

모델 선택도 요청 성격에 맞춰 나눈다. Flash-Lite는 고빈도·저비용 대량 작업에, Pro는 고품질 추론이 필요한 영역에 배치한다. Standard·Flexible·Priority 티어별 SLA는 예산 상한과 함께 매핑해야 한다.

실시간 60%와 배치 40%를 섞는 방식은 비용을 30% 이상 줄일 수 있지만, 배치 작업은 최대 24시간의 지연을 감수해야 한다. 반복 질의가 많은 영역은 시맨틱 캐시로 추가 비용 절감 여지를 만든다.

데이터 주권(Data Sovereignty)도 설계 초기에 다뤄야 한다. 국내 개인정보보호법과 데이터 리전(region) 요건을 검토한 뒤 Vertex AI 리전 배치 여부를 정하고, 민감정보 마스킹·프롬프트 로깅 정책·모델 응답 감사 로그를 운영 범위에 넣는다.

제미나이와 챗GPT의 검색 특성을 비교하면

제미나이는 멀티모달 통합도와 비용 구조에서, 챗GPT는 생태계 성숙도와 플러그인에서 강점을 보인다. 배치 처리는 단건 추론과 비교할 때 처리량과 단가에서 분명한 이점이 있지만, 즉시 응답이 필요한 요청에는 맞지 않는다.

구분	제미나이(Gemini)	챗GPT(ChatGPT)
국내 AI 검색 만족도(2026.7)	77.3%	70.6%
3개월 내 이용 경험	52.2% (+23.3%p)	58.1% (+3.6%p)
글로벌 웹 트래픽 점유율(2026.5)	27.9%	53.9%
멀티모달 임베딩	텍스트·이미지·비디오·오디오 단일 공간	텍스트·이미지 중심
배치 추론 할인	Batch API 50% 할인	배치 지원(할인폭 상이)
검색 도구 통합	Google Search·Maps 네이티브	웹 검색·플러그인 생태계

대량 배치는 유사 질의를 묶어 GPU 활용률을 높이고 단가를 낮춘다. 반대로 단발 추론은 즉시성은 높지만 단가도 높다. 포털은 생활정보와 진입점에, AI 검색은 종합·추론형 질의에 강점을 보이며 두 경험은 상호 보완적으로 공존한다.

품질과 비용을 거버넌스 항목으로 다루기

AI 서비스의 SLA는 정확도·지연·비용 세 축을 서비스 등급별로 명문화하는 방식이 필요하다. 모델 라우팅은 개별 기능의 예외 처리로 남기지 않고 아키텍처 레벨에서 선언적으로 관리해야 벤더 종속(lock-in)을 최소화할 수 있다.

검색 품질은 인용 근거와 출처 추적성을 KPI로 관리한다. 근거 제시율, 오답률, 재현율을 지표로 삼고, 정기적인 오프라인 평가셋(golden set) 기반의 품질 회귀 테스트를 운영한다.

보안과 데이터 정책에서는 데이터 주권·리전 요건, 개인정보 최소 수집, 로그 보존 주기를 정책화한다. 프롬프트 인젝션과 데이터 유출에 대비한 입출력 필터링 파이프라인도 필요하다. FinOps 관점에서는 배치·캐시 활용률을 비용 대시보드에서 상시 모니터링하고, 티어별 예산 상한과 알림 임계치로 지출을 관리한다.

포털과 AI 검색이 함께 남는 시장

국내 AI 검색은 당분간 포털이 진입점을 맡고 AI가 종합·추론을 담당하는 이원 구조로 병존할 가능성이 있다. 멀티모달 처리와 배치 효율의 격차가 이어진다면 제미나이의 국내 점유율은 추가로 상승할 수 있다.

온디바이스와 저지연 서빙이 고도화되면서 실시간 멀티모달 검색 UX 경쟁도 심해질 전망이다. 데이터 주권과 AI 거버넌스 규제가 강화되면 리전 배치와 감사 로그는 기업 도입의 필수 요건이 된다. 하이브리드 라우팅과 시맨틱 캐시는 표준 아키텍처 패턴으로 자리 잡고, 비용 최적화는 경쟁력의 핵심 축이 될 수 있다.