Salesforce Agentforce로 보는 엔터프라이즈 AI 거버넌스와 데이터 컨텍스트

규모가 커지자 운영 문제가 전면에 나왔다

Salesforce Agentforce는 18,500개 기업 고객, 월 30억 건의 워크플로우 자동화, ARR $540M을 기록했다. 기업 AI가 실험용 도구를 넘어 핵심 운영 인프라로 이동하고 있음을 보여주는 지표다. 동시에 거버넌스와 데이터 컨텍스트 관리, 운영 비용이 확장의 제약 조건으로 부상했다.

Salesforce FY2026 Q3 실적 발표에서는 Agentforce가 18,500개 use case를 기록했고, 이 가운데 9,500건이 유료 계약으로 집계됐다. ARR은 $540M에서 Q4 기준 $800M으로 169% 성장했으며 생산 배포 고객 수도 분기 대비 70% 증가했다. 플랫폼 전체에서 처리한 토큰은 3조 개를 넘어섰다.

Reddit을 포함한 대형 고객 사례에서는 케이스 해결 시간이 84% 단축됐고 연간 운영 절감액은 $1억 달러를 초과했다. 자동화가 개별 기능에 머무르지 않고 비즈니스 성과와 연결되는 단계에 들어선 셈이다.

⤢✕

데이터에서 실행까지 이어지는 자동화 스택

Agentforce의 기본 구조는 데이터, 애플리케이션, AI 모델, 에이전트로 이어지는 4계층이다. Data Cloud가 검색 증강 생성(RAG)을 통해 저지연 실시간 고객 데이터를 공급하고, Atlas와 Einstein 모델 레이어가 자연어 이해와 의사 결정을 맡는다.

에이전트는 Subagents, Actions, Instructions로 구성된다. Subagent는 특정 도메인에 특화된 하위 에이전트이며, 복잡한 태스크를 나눠 병렬로 처리한다. Agent Script는 결정론적 워크플로우와 LLM 추론을 결합한다. 규칙을 따라야 하는 컴플라이언스 태스크와 유연한 대화가 필요한 고객 응대를 같은 파이프라인에서 다루기 위한 하이브리드 방식이다.

이 구조에서 중요한 것은 에이전트마다 권한 범위(scope of authority)를 분명하게 설정하는 일이다. 예를 들어 고객 서비스 에이전트에 환불 권한을 주더라도 $500 이상은 인간 승인을 받도록 조건을 둘 수 있다. 분기 로직은 코드가 아니라 자연어 Instructions로 표현되므로 비개발자도 에이전트의 행동을 조정할 수 있다.

예외가 발생하면 에이전트가 먼저 자체 해결을 시도한다. 해결할 수 없으면 상위 에이전트나 인간에게 에스컬레이션하고, 그 경로와 SLA 기준 이탈 여부를 실시간으로 남긴다. 예외 처리는 이 세 단계로 구성된다. Salesforce가 2026년에 발표한 Agentforce Operations는 이 흐름을 백오피스까지 넓혀 워크플로우 병목을 줄이는 데 초점을 맞춘다.

고객 컨텍스트는 많이 넣는 것보다 골라 넣는 것이 어렵다

Agentforce의 경쟁력은 Data Cloud를 통해 구성하는 실시간 고객 360 뷰에 있다. 고객 문의가 들어오면 에이전트는 CRM 이력과 구매 데이터, 최근 상호작용, 외부 데이터 소스를 하나의 컨텍스트로 통합해 사용한다. RAG 파이프라인은 단순한 키워드 일치가 아니라 의미론적 유사도를 기준으로 관련 데이터를 추려 LLM 컨텍스트 창에 전달한다.

컨텍스트 창에는 비용과 정확도 사이의 트레이드오프가 따른다. 필요 이상의 데이터를 주입하면 토큰 비용이 늘고 추론 속도는 떨어진다. Salesforce는 계층적 컨텍스트 로딩으로 이 문제를 다룬다. 대화 초반에는 핵심 고객 프로파일만 불러오고, 대화가 진행되면서 필요한 세부 데이터를 동적으로 추가한다.

데이터를 가져올 수 있다는 사실과 가져와도 된다는 판단은 별개다. Agentforce는 Salesforce의 기존 역할 기반 접근 제어(RBAC)에 에이전트별 권한 레이어를 더한다. 고객 서비스 에이전트가 계약 조건은 조회하되 재무 데이터에는 접근하지 못하도록 세밀하게 범위를 나누는 방식이다.

GDPR·CCPA 같은 규제 요건에 맞춰 에이전트가 다루는 데이터에는 마스킹과 익명화, 목적 제한이 자동 적용돼야 한다. 에이전트의 응답에 포함된 개인식별정보(PII)가 로그에 평문으로 남지 않도록 출력 단계에서 필터링하는 것도 빠질 수 없는 설계 항목이다.

사후 재구성이 가능한 로그를 남겨야 한다

에이전틱 거버넌스에서 감사 로그는 실행 결과만 저장해서는 부족하다. 에이전트 간 통신과 도구 호출, 의사 결정 근거까지 기록해야 고객 계약에 영향을 준 판단을 나중에 재구성할 수 있다. 비즈니스 의사 결정이 어떤 입력과 추론을 거쳐 나왔는지 사람이 이해할 수 있는 형태로 설명할 수 있어야 한다.

⤢✕

월 30억 건의 워크플로우를 처리하는 환경에서는 SLA 관리도 에이전트 단위로 내려가야 한다. 각 태스크에 응답 시간과 처리 정확도, 에스컬레이션 비율의 목표값을 설정하고 실시간으로 감시한다. 목표값을 벗어나면 알림을 보내고 해당 태스크를 인간 처리 대기열로 전환하는 폴백 메커니즘이 작동한다.

LLM 기반 에이전트를 오래 운영할수록 모델 드리프트도 까다로운 문제가 된다. 같은 입력의 출력 품질이 시간이 지나며 달라지는 현상은 모델 업데이트와 데이터 분포 변화, 프롬프트 의존성 변화가 복합적으로 작용해 발생한다. Salesforce는 황금 테스트셋(golden test set)을 정기적으로 실행하고 출력 품질을 기준값과 비교하는 자동화 회귀 테스트 파이프라인으로 대응한다.

토큰 소비량을 운영 비용으로 다루는 방법

3조 개 토큰 처리 실적은 Salesforce가 엔터프라이즈 AI 컴퓨팅의 최대 소비자 중 하나가 됐다는 의미이기도 하다. 에이전트가 늘어날수록 토큰 사용량은 숨은 운영 비용이 된다.

비용 최적화 전략은 세 가지다. 단순 FAQ는 소형 모델에 보내고 복잡한 계약 분석은 대형 모델에 맡기는 계층적 모델 라우팅으로 비용 대비 성능을 조절한다. 같은 고객 데이터를 반복해서 읽는 비용은 세션 내 컨텍스트 캐싱으로 줄인다. 즉시 응답할 필요가 없는 태스크는 오프피크 시간에 배치로 실행해 컴퓨팅 비용을 낮춘다.

플랫폼 경계를 넘는 에이전트 협업

Salesforce가 Google Cloud와 2026년 4월 발표한 크로스 플랫폼 에이전트 협업은 다음 운영 과제를 드러낸다. 자동화 범위가 단일 플랫폼을 벗어나면 서로 다른 시스템의 에이전트가 공유된 컨텍스트와 일관된 거버넌스 아래에서 협력해야 한다. 이를 위해서는 표준화된 에이전트 간 통신 프로토콜과 크로스 플랫폼 감사 추적, 분산 권한 관리가 필요하다.

멀티 에이전트 도입은 2027년까지 67% 증가할 것으로 전망된다. 이 성장을 지속할 수 있는지는 에이전트가 처리할 수 있는 업무의 양보다 실행을 얼마나 신뢰하고 추적할 수 있는지에 달려 있다. Agentforce의 18,500 기업 고객과 월 30억 건 자동화, ARR $540M에서 $800M으로의 성장은 시장 확대를 보여주지만, 역할 정의와 데이터 컨텍스트 관리, 감사 추적, 비용 최적화가 함께 갖춰져야 그 규모를 운영할 수 있다.