Gemini Enterprise Agent Platform DevOps: 에이전트 빌드부터 CI/CD 롤링 배포까지

Google Cloud Next '26에서 발표된 Gemini Enterprise Agent Platform의 빌드·스케일·거버넌스·최적화 4대 레이어와 에이전트 DevOps 파이프라인, Azure AI Foundry·AWS Bedrock AgentCore 대비 포지셔닝을 정리한다

2026-08-14 · 최초 발행 2026-05-11

Google Cloud Next '26에서 구글은 Gemini Enterprise Agent Platform을 공식 발표하며 에이전트 시대를 향한 본격적인 엔터프라이즈 전략을 공개하였다. 기존 Vertex AI를 기반으로 에이전트 빌딩·통합·DevOps·오케스트레이션·보안 기능을 하나의 통합 플랫폼으로 결집한 이 발표는, 기업이 고립된 AI 과제(task)가 아닌 복합 비즈니스 결과물을 AI 에이전트에게 위임하는 "에이전틱 기업" 패러다임으로의 전환을 가속하는 신호탄으로 평가받는다. Vertex AI의 모든 서비스와 로드맵이 앞으로 Gemini Enterprise Agent Platform을 통해서만 제공된다는 선언은 구글 클라우드의 AI 전략 전면 재편을 의미한다.

Vertex AI 진화가 아니라 라이프사이클 전체의 재편

Gemini Enterprise Agent Platform은 에이전트를 빌드(Build)하고, 스케일(Scale)하며, 거버넌스(Govern)하고, 최적화(Optimize)하는 네 가지 핵심 역량을 하나의 통합 환경에서 제공하는 플랫폼이다. 2026년 4월 22일 라스베이거스에서 열린 Google Cloud Next '26에서 발표된 이 플랫폼은, 에이전트 빌딩과 모델 선택, 통합, 오케스트레이션, 보안이라는 에이전트 생애 주기(lifecycle) 전체를 아우른다.

구글은 Gemini Enterprise Agent Platform을 "Vertex AI의 진화"로 정의하면서도, 단순한 리브랜딩이 아님을 강조하였다. 기존 Vertex AI가 제공하던 모델 선택, 모델 빌딩, 에이전트 빌딩 역량에 더해 에이전트 통합, DevOps, 오케스트레이션, 보안을 위한 완전히 새로운 기능들이 추가되었다. Model Garden을 통해 Gemini 3.1 Pro, Gemini 3.1 Flash Image, Lyria 3 및 Gemma 4를 포함한 200여 개 이상의 세계 최고 수준 모델에 대한 퍼스트클래스 접근이 가능하다. 플랫폼이 새로 선보인 구성요소는 Agent Studio, 업그레이드된 Agent Development Kit(ADK), Agent Runtime, Agent-to-Agent Orchestration, Agent Gateway, Agent Identity, Agent Registry, Agent Observability, Agent Simulation, Agent Evaluation이다. 이들 각각은 에이전트의 개발·배포·운영·모니터링이라는 DevOps 라이프사이클과 긴밀히 연계된다.

Gemini Enterprise AgentPlatform빌드(Build)스케일(Scale)거버넌스(Govern)최적화(Optimize)Agent Studio (로우코드비주얼 인터페이스)Agent Development Kit(ADK, 코드 퍼스트)Model Garden (200+ 모델접근)Agent Runtime (실행 인프라)Agent-to-AgentOrchestration (에이전트위임)Agent Registry (중앙화된에이전트 관리)Agent Gateway (보안·통합게이트웨이)Agent Identity (암호화 ID기반 인증)IAM·IAP 정책 연동Agent Observability(OpenTelemetry 기반 추적)Agent Simulation(프리프로덕션 시뮬레이션)Agent Evaluation(성능·안전성 평가)

Agent Studio는 비주얼 인터페이스를 통해 비개발자도 에이전트 플로우를 구성할 수 있는 로우코드 환경을 제공한다. 에이전트 디자이너(Agent Designer), 에이전트 활동 관리를 위한 Inbox, 장기 실행 에이전트(Long-running Agents), Skills, Projects 등의 기능이 포함된다. Agent Development Kit(ADK)는 오픈소스 에이전트 개발 프레임워크로, 기업 규모에서 신뢰할 수 있는 AI 에이전트를 빌드·디버깅·배포할 수 있도록 설계되었다. 개인 AI 어시스턴트부터 미션 크리티컬 비즈니스 워크플로우까지 모든 수준의 에이전트를 코드 퍼스트(code-first) 방식으로 개발할 수 있다. ADK로 배포된 에이전트는 기본적으로 Cloud Observability 스위트와 연동되어 OpenTelemetry 프로토콜로 실행 경로(trace), 이벤트 및 오류(log), 지연시간·토큰 사용량(metric)을 수집한다.

스케일과 거버넌스: 에이전트 위임부터 원시 자격증명 차단까지

Agent Runtime은 에이전트를 엔터프라이즈 규모로 실행하는 인프라 레이어다. 복잡한 멀티스텝 작업을 처리하기 위한 장기 실행 에이전트를 지원하며, 기업 애플리케이션·데이터 소스·내부 프로세스에 걸친 작업 위임을 가능하게 한다. Agent-to-Agent Orchestration은 에이전트들이 서로에게 작업을 원활하게 위임할 수 있도록 설계된 오케스트레이션 패턴이다. 복잡한(complex), 생성적(generative), 결정론적(deterministic) 오케스트레이션 패턴을 모두 지원한다. 결정론적 패턴은 특히 컴플라이언스와 같은 중요 흐름에서 에이전트가 사전 정의된 경로를 정확히 따르도록 보장한다. Agent Registry는 실시간으로 모든 에이전트와 MCP 서버 간의 관계 및 트래픽 흐름을 시각화하며 에이전트 접근을 중앙 집중식으로 관리한다.

Agent Gateway는 에이전트 생태계의 "항공 교통 관제탑" 역할을 수행한다. 어떤 환경에서도 에이전트와 툴 사이의 안전하고 통합된 연결을 제공하며, 일관된 보안 정책과 Model Armor 보호를 적용하여 프롬프트 인젝션 및 데이터 유출로부터 에이전트를 보호한다. IAP(Identity-Aware Proxy)가 IAM 정책을 기반으로 에이전트와 툴을 인증한다. Agent Identity는 모든 에이전트에게 고유한 암호화 ID를 부여하여 보안 상태를 강화한다. 모든 에이전트 행동에 대해 정의된 권한 정책에 매핑된 명확하고 감사 가능한 추적(audit trail)을 생성한다. Agent Identity를 Agent Gateway 및 Gemini Enterprise와 함께 사용하면, 엔드유저 자격증명이 auth manager에 의해 암호화되고 게이트웨이에서 복호화되어 에이전트가 원시 자격증명(raw credential)에 직접 접근하지 못하도록 한다.

Agent Observability는 턴키 대시보드를 통해 복잡한 에이전트 추론 경로를 시각적으로 추적하고 문제 발생 시 실시간 디버깅을 가능하게 한다. OpenTelemetry 기반으로 실행 경로(trace), 이벤트·오류(log), 지연시간·토큰 사용량(metric)의 세 차원에서 에이전트 동작을 관측한다. Cloud Observability 스위트와 자연스럽게 통합되며, Cloud Trace 및 Cloud Logging과도 연동된다. Agent Simulation은 에이전트를 프리프로덕션 환경에서 시뮬레이션하여 실제 배포 전에 동작을 검증한다. Agent Evaluation은 에이전트의 성능과 안전성을 규모에 맞게 측정하는 평가 도구를 제공한다.

에이전트를 소프트웨어처럼 배포하는 DevOps 파이프라인

ADK / Agent StudioAgent SimulationAgent EvaluationCloud Build CI/CDA/B 테스트Agent Observability이슈 감지개발(Dev)빌드·테스트시뮬레이션 검증성능·안전성 평가스테이징 배포롤링 배포(Prod)실시간 모니터링롤백 또는 수정

Gemini Enterprise Agent Platform은 기존 CI/CD 파이프라인에 에이전트 개발을 원활하게 통합하도록 설계되었다. 강력한 SDK, API, 평가 도구를 통해 에이전트 성능과 안전성을 규모에 맞게 측정할 수 있다. CI/CD 파이프라인은 Cloud Build를 활용한 자동화 배포 워크플로우를 기반으로 하며, 에이전트 버전을 체계적으로 관리하고 스테이징에서 프로덕션으로의 롤링 배포를 지원한다. 에이전트의 버전 관리는 일반 소프트웨어와 달리 모델 가중치, 프롬프트, 툴 설정, 오케스트레이션 로직이 함께 버전화되어야 한다는 특수성이 있다. Agent Registry는 이러한 복합 아티팩트를 중앙에서 관리하며, 배포된 각 에이전트 버전에 대한 메타데이터와 트래픽 흐름을 실시간으로 추적한다.

에이전트의 A/B 테스트는 전통적인 소프트웨어 A/B 테스트보다 복잡하다. 동일한 입력에 대해 에이전트가 비결정론적으로 동작할 수 있기 때문에, 통계적으로 유의미한 성능 비교를 위한 평가 기준(evaluation rubric)이 필요하다. Agent Evaluation 컴포넌트는 이를 위해 품질, 안전성, 비용, 지연시간을 종합적으로 측정하는 평가 프레임워크를 제공한다. 성능 모니터링 측면에서 Agent Observability는 OpenTelemetry 기반으로 토큰 사용량, 지연시간, 오류율을 실시간 집계한다. 이 데이터는 Cloud Trace와 Cloud Logging을 통해 관리되며, 이상 감지(anomaly detection)와 알림 설정을 통해 프로덕션 에이전트의 품질을 지속적으로 보장한다.

Agent Simulation은 에이전트 DevOps에서 핵심적인 "프리프로덕션 안전망"으로 기능한다. 시뮬레이션 환경에서 다양한 엣지 케이스와 적대적 입력(adversarial input)을 테스트하여 프로덕션 배포 전에 에이전트의 동작 경계를 파악할 수 있다. 특히 컴플라이언스가 중요한 금융·의료·법률 분야 에이전트에서 결정론적 오케스트레이션 패턴과 결합하여 예측 가능한 동작을 보장하는 데 핵심적인 역할을 한다. 에이전트 품질 보증 측면에서 Model Armor는 Agent Gateway와 통합되어 프롬프트 인젝션, 데이터 유출, 유해 콘텐츠 생성을 자동으로 차단한다. 에이전트 행동의 모든 감사 추적은 Agent Identity를 통해 암호화 서명된 형태로 저장되어 규정 준수 요구사항을 충족한다.

Azure AI Foundry·AWS Bedrock AgentCore와 어떻게 다른가

엔터프라이즈 AI 에이전트플랫폼 비교Gemini Enterprise AgentPlatformAzure AI FoundryAWS Bedrock AgentCore강점: 통합 에이전트라이프사이클 관리모델: Gemini 3.1 Pro,Gemma 4 200+오케스트레이션:Agent-to-Agent,결정론적·생성적 패턴거버넌스: Agent Identity +Agent Gateway강점: Microsoft 365·Copilot생태계 통합모델: 1800+ (Phi-4, GPT-4o등)오케스트레이션: PromptFlow, Azure-native 버전관리거버넌스: Azure AD, Entra ID강점: AWS 인프라 자동화 특화모델: 30+ 큐레이션 모델(Claude, Titan 등)오케스트레이션: BedrockAgents, 간단한 설정거버넌스: IAM, VPC 통합

Azure AI Foundry는 Microsoft 365, Copilot, 엔터프라이즈 생태계와의 통합 측면에서 2026년 현재 가장 긴밀한 결합을 제공한다. Prompt Flow를 통한 오케스트레이션은 Azure 네이티브 버전 관리를 지원하며, 복잡한 조건 분기 로직에 높은 제어력을 제공한다. 1,800개 이상의 모델을 Model Catalog에서 접근할 수 있으며, Phi-4 기준으로 토큰당 비용이 $0.07/M 수준으로 경량 작업에 최적화되어 있다. 반면 Gemini Enterprise Agent Platform은 에이전트 라이프사이클 전체(빌드·스케일·거버넌스·최적화)를 단일 플랫폼에서 관리한다는 점에서 차별화된다. Agent Identity의 암호화 ID 기반 인증과 Agent Gateway의 일관된 보안 정책 적용은 멀티에이전트 환경에서 Azure AI Foundry보다 더 세밀한 거버넌스 제어를 제공한다. Google Workspace와의 네이티브 통합도 강점이다.

AWS Bedrock AgentCore는 AWS 인프라 자동화에 특화되어 있으며, "CPU 사용률이 80%를 초과하면 스테이징 서버를 재시작하라"와 같은 인프라 중심 자동화 시나리오에서 강점을 보인다. 큐레이션된 30여 개의 모델은 모두 프로덕션 테스트를 거쳤으며 지역별 가용성이 보장된다. Claude 3.5 Haiku 기준 입력 토큰당 $0.80/M으로 추론 비용 대비 품질이 우수하다. 그러나 Gemini Enterprise Agent Platform은 에이전트 간 오케스트레이션의 복잡성과 유연성 면에서 우위를 점한다. 결정론적·생성적·복합적 오케스트레이션 패턴을 모두 지원하며, Agent Registry를 통한 실시간 에이전트 토폴로지 시각화는 Bedrock Agents가 아직 제공하지 못하는 기능이다. 또한 Agent Simulation과 Agent Evaluation의 결합은 에이전트 품질 보증 측면에서 AWS보다 체계적인 접근을 가능하게 한다.

세 플랫폼 중 선택은 기존 클라우드 및 협업 도구 생태계에 따라 결정되는 경우가 많다. Microsoft 중심 조직이라면 Azure AI Foundry, AWS 중심 조직이라면 Bedrock AgentCore가 적합하다. Google Workspace를 주요 협업 플랫폼으로 사용하거나, 복잡한 멀티에이전트 워크플로우와 엔터프라이즈급 거버넌스가 필요한 조직이라면 Gemini Enterprise Agent Platform이 가장 적합한 선택이 될 수 있다.

도입 전에 챙겨야 할 것들

Gemini Enterprise Agent Platform 도입을 검토하는 엔터프라이즈는 몇 가지 핵심 사항을 사전에 고려해야 한다. 구글은 모든 Vertex AI 서비스와 로드맵이 Gemini Enterprise Agent Platform을 통해서만 제공될 것임을 선언하였으므로, 기존 Vertex AI 기반 워크로드는 기존 자산의 마이그레이션 경로부터 단계적 계획을 세워야 한다. Agent Identity와 Agent Gateway를 활용한 보안 아키텍처 설계도 선행되어야 한다. 특히 멀티에이전트 환경에서 에이전트 간 자격증명 공유를 방지하고 감사 추적을 구현하는 것은 컴플라이언스 요구사항 충족의 핵심이다. ADK와 Agent Studio 중 개발 환경 선택도 팀 역량과 사용 사례에 맞게 이루어져야 한다. 코드 퍼스트 접근이 가능한 개발 팀에는 ADK가, 비개발자와의 협업이 중요한 조직에는 Agent Studio가 적합하다. 두 환경을 혼합하여 사용하는 것도 지원된다. 마지막으로 Agent Observability의 OpenTelemetry 기반 관측 데이터를 기존 모니터링 스택(예: Datadog, Grafana)과 통합하는 방안도 설계해야 한다. 에이전트 특유의 토큰 사용량, 멀티스텝 추론 지연시간 등의 메트릭은 기존 소프트웨어 모니터링과 다른 대시보드 설계를 요구한다.

Google Cloud Next '26에서 발표된 Gemini Enterprise Agent Platform은 에이전트 빌딩·오케스트레이션·DevOps·보안을 단일 플랫폼으로 통합하며 엔터프라이즈 AI 에이전트 시장의 판도를 바꿀 잠재력을 보여주었다. Vertex AI의 기존 자산 위에 Agent Studio, ADK, Agent Gateway, Agent Identity, Agent Observability 등 새로운 구성요소를 결합하여 에이전트 라이프사이클 전체를 포괄하는 것이 핵심 차별화 요소다. Azure AI Foundry, AWS Bedrock AgentCore와의 비교에서 특히 멀티에이전트 거버넌스와 결정론적·생성적 오케스트레이션 유연성 면에서 강점이 두드러진다. 에이전트 DevOps 관점에서는 CI/CD 파이프라인 통합, A/B 테스트, 시뮬레이션 기반 품질 보증을 통해 에이전트를 소프트웨어와 동일한 수준의 엄격함으로 운영할 수 있는 토대를 마련하였다.

Sources

Gemini Enterprise Agent Platform에이전트DevOpsA2A오케스트레이션Agent Gateway플랫폼비교