SAP Business AI와 자율형 엔터프라이즈 에이전트 아키텍처

ERP를 직접 움직이는 Joule

2026년 5월 SAP Sapphire 컨퍼런스에서 SAP는 자율 엔터프라이즈(Autonomous Enterprise) 비전과 SAP Business AI Platform을 공개했다. Anthropic(Claude), Amazon Web Services, Google Cloud, Microsoft, NVIDIA, Palantir와 맺은 대규모 파트너십을 토대로 HR·조달·공급망을 비롯한 핵심 업무 영역에 자율 AI 에이전트를 배치하는 구상이다.

발표의 범위는 통합 SAP Business AI Platform, SAP Autonomous Suite, 재설계된 사용자 경험인 Joule Work, 고객 도입을 앞당기기 위한 1억 유로(€100M) 펀드까지 이어진다. SAP가 제시한 자율 엔터프라이즈는 인간과 AI가 주요 비즈니스 워크플로우를 함께 수행하는 운영 모델이다.

여기서 Joule은 질문에 답하는 챗봇에 머물지 않는다. HR 온보딩, 조달 승인 흐름, 공급망 예외 처리처럼 실제 비즈니스 트랜잭션을 사람의 개입 없이 수행하는 에이전트로 확장됐다.

도메인은 나누고 프로세스는 연결한다

SAP Business AI Platform은 업무 영역을 수직으로 분리하면서, 여러 영역에 걸친 프로세스는 수평으로 조율하는 계층형 구조를 취한다.

HR, 조달, 공급망, 재무, 영업에는 각각 전용 도메인 에이전트가 놓인다. 이들은 담당 영역의 SAP 데이터 모델과 비즈니스 규칙, 컴플라이언스 요구사항을 이해하도록 파인튜닝됐다. HR 에이전트는 SAP SuccessFactors의 데이터 스키마와 노동법 규정을 내재화하고, 조달 에이전트는 SAP Ariba의 구매 승인 정책을 이해한다.

채용에서 온보딩, IT 자산 발급, 급여 설정으로 이어지는 복합 업무는 한 도메인 안에서 끝나지 않는다. 이런 흐름에서는 오케스트레이션 레이어가 에이전트 사이의 컨텍스트 전달과 상태 추적, 오류 복구를 맡는다.

⤢✕

Business Data Cloud에서 트랜잭션까지

SAP Business Data Cloud는 에이전트와 ERP 데이터를 연결하는 중심 허브다. 에이전트가 기존 ERP 시스템의 데이터를 실시간으로 읽고 쓸 수 있게 하면서 데이터 거버넌스와 보안 정책은 중앙에서 관리한다.

기존 RPA가 화면을 읽고 조작하는 방식이었다면, Joule 에이전트는 SAP의 네이티브 API와 비즈니스 로직 레이어를 통해 트랜잭션을 실행한다. 발주서 승인, 인보이스 매칭, 재고 보충 주문 같은 작업을 코드 변경 없이 자연어 지시로 처리할 수 있는 배경이다.

이 구조는 단일 LLM에 고정되지 않는다. 멀티 LLM 라우팅 계층이 도메인 복잡도, 레이턴시 요구, 언어, 비용 민감도를 평가해 요청에 맞는 모델을 동적으로 고른다. 단순한 데이터 조회는 빠른 소형 모델로 보내고, 복잡한 공급망 시나리오 분석이나 계약서 검토는 Claude 같은 고성능 모델로 라우팅한다. 비용과 속도, 정확도를 함께 판단하는 정책 엔진이 이 결정을 담당한다.

Claude는 규제 산업의 복합 업무를 맡는다

SAP와 Anthropic의 협력은 API 사용을 넘어 산업별 특화 에이전트 공동 개발까지 확장됐다. Claude는 Joule 에이전트가 사용할 수 있는 파운데이션 모델 가운데 하나이며, 의료·공공부문·유틸리티·생명과학처럼 규제 환경이 복잡한 산업별 에이전트에 적용된다.

방대한 ERP 매뉴얼과 계약서, 규정 문서를 컨텍스트로 제공하면서 다단계 비즈니스 프로세스를 실행하려면 긴 컨텍스트 처리 능력과 지시 따르기(instruction following) 정확도가 필요하다. SAP는 이 영역에서 Claude의 강점을 활용하며, Anthropic의 Constitutional AI 접근법에 기반한 안전성도 엔터프라이즈 도입 판단에 긍정적으로 작용했다.

AWS 데이터는 복사하지 않고 조회한다

AWS와의 기술적 접점은 SAP Business Data Cloud와 Amazon Athena 사이의 제로카피(zero-copy) 데이터 통합이다. 데이터를 다른 위치로 복사하거나 이동하지 않고 원본에서 직접 쿼리해 데이터 중복 비용과 동기화 지연을 없애는 방식이다.

이 연결을 이용하면 AWS에 저장된 기업 데이터와 SAP ERP 데이터를 하나의 뷰에서 분석할 수 있다. AI 에이전트도 두 데이터 소스를 결합해 의사결정에 활용한다. AWS Bedrock의 Claude 모델과 SAP Joule를 함께 사용하는 시나리오도 지원된다.

Joule 밖의 에이전트와 업무를 주고받는다

Google Cloud와 Microsoft의 역할은 에이전트 상호운용성(agent-to-agent interoperability)에 맞춰져 있다. Joule 에이전트는 Google의 에이전트 프레임워크 및 Microsoft의 Copilot 에이전트와 양방향으로 통신한다.

Microsoft 365에서 근무하는 직원이 Copilot에 SAP ERP 작업을 요청하면, 그 요청을 Joule이 넘겨받아 실제 ERP 트랜잭션으로 이어갈 수 있다. Google Workspace에서도 Gemini 에이전트가 SAP 데이터에 접근하거나 Joule에 작업을 위임하는 흐름이 가능하다.

OpenShell이 데이터와 실행 권한을 통제한다

NVIDIA OpenShell은 AI 에이전트가 접근할 수 있는 데이터와 작업 실행 환경을 설정한다. 민감한 기업 정보의 외부 유출이나 권한 범위를 벗어난 실행을 막기 위한 런타임이다.

각 Joule 에이전트에는 접근 가능한 데이터 범위가 정책으로 부여된다. 여기에는 row-level과 column-level 권한이 포함된다. 실행할 수 있는 트랜잭션 유형과 외부 시스템 통신 범위도 같은 방식으로 정의되며, OpenShell은 이를 런타임에서 강제한다. 규제 산업이 AI 에이전트를 도입할 때 요구되는 컴플라이언스를 뒷받침하는 구성 요소다.

모델 공급자를 바꿀 수 있는 추상화 계층

SAP Business AI Platform은 특정 AI 공급자에 종속되지 않는 AI provider independence를 설계 원칙으로 삼는다. LLM 게이트웨이가 Claude·Gemini·GPT-4o·NVIDIA NIM을 공통 인터페이스 뒤에 배치한다.

이 구조에서는 모델 버전을 올리거나 공급자를 교체할 때 에이전트 코드를 바꾸지 않고 게이트웨이 설정을 수정할 수 있다. 프로덕션 환경에서 A/B 테스트와 모델 벤치마킹을 투명하게 수행할 수 있으며, 지역별 데이터 주권 요구에 따라 해당 지역의 모델 엔드포인트를 선택하는 것도 가능하다.

기업이 자체 업무 에이전트를 개발하는 접점은 Joule Studio다. 로우코드·노코드 방식과 공통 에이전트 SDK를 제공해 SAP 파트너와 고객이 표준화된 형태로 에이전트를 만들고 SAP 마켓플레이스에 배포할 수 있게 한다.

데이터 프라이버시 측면에서 SAP는 고객 데이터가 LLM 학습에 사용되지 않는다는 점을 계약으로 보장한다. 추론 과정의 데이터 처리는 NVIDIA OpenShell의 격리 환경에서 이뤄지고, GDPR·HIPAA 준수를 위한 감사 로그가 자동 생성된다.

ERP·CRM·ITSM 플랫폼의 경쟁 구도

비교 항목	SAP Business AI Platform	Salesforce Agentforce	ServiceNow AI Platform
핵심 도메인	ERP(HR·조달·공급망·재무)	CRM(영업·서비스·마케팅)	IT서비스·운영 자동화
AI 파트너	Claude, NVIDIA, Google, AWS	Einstein·xGen	Now Assist·OpenAI
에이전트 빌더	Joule Studio(로우코드)	Agent Builder(로우코드)	Now Assist Studio
데이터 연결	SAP BDC·AWS Athena 제로카피	Data Cloud 통합	CMDB·ITSM 통합
에이전트 상호운용	Google·Microsoft 양방향	Slack·MuleSoft	MS Teams·Slack
엔터프라이즈 보안	NVIDIA OpenShell	Einstein Trust Layer	Now Platform 보안
채택 인센티브	€100M 고객 지원 펀드	Agentforce 1:1 보장	-
주요 강점	ERP 네이티브 통합 깊이	CRM 생태계 완성도	ITSM 프로세스 자동화

세 플랫폼이 다투는 지점은 기업 IT에서 어느 시스템이 AI 에이전트의 중심 허브가 되느냐다. SAP는 ERP가 비즈니스 데이터의 원천(system of record)이라는 점을 앞세운다. Salesforce는 고객 데이터와 수익 창출 프로세스를, ServiceNow는 IT 운영과 직원 경험 자동화를 강점으로 내세운다.

대부분의 대기업이 SAP, Salesforce, ServiceNow를 함께 사용하는 현실에서는 에이전트 상호운용성과 크로스 플랫폼 워크플로우가 경쟁력을 좌우한다. SAP의 Google·Microsoft 양방향 연동 전략이 시장 포지셔닝에서 중요한 이유다.

⤢✕

자율 엔터프라이즈가 요구하는 운영 관점

SAP Business AI Platform이 제시하는 변화는 ERP에 AI 기능을 덧붙이는 데 그치지 않는다. Claude의 복합 지시 처리, AWS의 제로카피 데이터 연결, NVIDIA OpenShell의 권한 통제, Google·Microsoft와의 에이전트 상호운용성을 묶어 AI가 ERP 업무를 실행하는 환경을 만든다.

Salesforce Agentforce와 ServiceNow AI를 포함한 3강 경쟁에서도 핵심은 개별 모델의 성능보다 기업 데이터와 실행 권한, 플랫폼 간 업무 흐름을 얼마나 깊게 연결하느냐다. SAP를 사용하는 기업이라면 Joule 에이전트의 도입 로드맵과 파트너 생태계를 활용하는 방안을 함께 검토할 필요가 있다.