OpenAI Presence로 보는 기업 에이전트 통제와 휴먼 핸드오프 설계

Presence가 제품화한 것은 모델 호출이 아니라 운영 통제다

OpenAI는 2026년 7월 22일, 기업이 프로덕션급 AI 에이전트를 구축하고 통제·개선하도록 지원하는 완전 관리형 플랫폼 Presence를 발표했다. 실시간 음성 에이전트와 챗봇을 제공하며, 회사 정책과 가드레일을 준수한 상태로 사내 시스템에 연결하고 승인된 작업만 실행하도록 설계했다. 복잡하거나 위험한 상황은 사람에게 넘긴다.

구성의 중심에는 정책 및 표준운영절차(SOP), 가드레일, 승인된 작업, 시뮬레이션, 평가 도구, Codex 기반 개선 프로세스가 있다. 상호작용이 조직이 정한 경계를 벗어나면 가드레일이 개입한다.

OpenAI는 자체 영어 전화 지원 회선을 Presence가 운영하며 인바운드 통화의 75%를 사람 개입 없이 처리한다고 밝혔다. Codex 기반 자기 개선 루프를 통해 10일 만에 사람 인계율을 15%p 낮췄다는 성과도 제시했다. 초기 제공은 선별된 엔터프라이즈 고객을 대상으로 제한되며, 어카운트 팀과 포워드 디플로이드 엔지니어(FDE)가 도입을 지원한다. 초기 테스트 영역은 고객 지원, 은행, 통신, 보험이다.

음성·채팅을 같은 정책 경계 안에 둔다

음성 채널은 실시간 스트리밍 전사·응답·합성 파이프라인으로 움직인다. 여기서는 지연 예산이 대화 품질에 직접 영향을 준다. 채팅은 텍스트 세션과 문맥을 관리한다. 채널이 달라도 같은 정책과 같은 도구를 공유해야 응대 결과가 일관된다.

정책과 SOP는 에이전트가 참조할 수 있는 구조로 정리돼야 한다. 이 구조에서는 자유 생성보다 절차 준수형 실행이 우선한다. 정책을 단순 프롬프트가 아닌 별도 관리 자산으로 다뤄야 변경 이력과 승인 절차를 남길 수 있다.

가드레일은 입력, 출력, 행동의 세 지점에서 작동한다. 금지 주제를 차단하고 민감정보 노출을 막으며, 승인되지 않은 조작을 차단한다. 경계 이탈 시 어떤 경우에 차단·재질의·핸드오프를 할지 미리 정해야 동작을 예측할 수 있다.

사내 CRM, 티켓, 결제, 인증 시스템을 연결할 때도 조회와 변경은 분리해야 한다. 변경 권한은 승인된 작업 목록으로 한정하고, 권한 스코프는 에이전트 전체가 아니라 작업별로 부여한다. 그래야 최소권한 원칙이 실제 통제가 된다.

휴먼 핸드오프는 정책을 적용할 수 없는 상황, 신뢰도 저하, 고객의 명시적 요청, 고위험 거래, 반복 실패를 처리하는 경로다. 인계할 때 대화 요약, 수행한 조치, 미해결 항목을 함께 넘기지 않으면 고객 경험은 오히려 나빠질 수 있다.

배포 전에는 시뮬레이션으로 시나리오별 행동을 검증하고, 평가 도구로 성공률과 정책 준수율을 측정한다. Codex 기반 개선 프로세스는 실패 사례를 분석해 정책·프롬프트·도구를 수정한다. 이 과정의 대화, 도구 호출, 가드레일 개입, 핸드오프 이력은 시점 순으로 보존돼야 사후 조사가 가능하다.

⤢✕

자동화 범위는 되돌릴 수 있는 업무에서 넓힌다

초기 대상은 문의량이 많고 절차가 정형화됐으며 오류를 복구할 수 있는 업무가 적합하다. 조회, 상태 확인, 예약 변경이 여기에 해당한다. 금액 확정, 계약 해지, 민감 정보 정정처럼 되돌리기 어려운 조작은 후순위로 둬야 한다.

승인 작업은 화이트리스트 방식으로 관리한다. 명시적으로 승인하지 않은 조작은 수행할 수 없도록 두고, 각 작업에는 한도·조건·필요 인증 수준을 함께 정의한다. 변경은 승인 절차를 거쳐서만 허용한다.

핸드오프 기준에는 신뢰도 임계나 반복 실패 횟수 같은 정량 기준과 고객 불만 표현, 규제 관련 질의 같은 정성 기준이 함께 필요하다. 핸드오프율을 무조건 낮추는 것이 목적은 아니다. 인계를 지나치게 줄이면 미해결 응대가 감춰질 수 있다.

상담 품질은 1차 해결률, 평균 응대 시간, 정책 위반 건수, 핸드오프 후 재문의율, 고객 만족도로 본다. 음성 채널은 첫 응답과 응답 간격의 지연을 별도 SLA로 관리해야 한다.

통화 녹취, 전사 데이터, 채팅 로그는 개인정보이며 음성은 더 높은 민감도를 가진다. 수집 목적, 보존 기간, 접근 권한을 사전에 고지하고 문서화해야 한다. 커넥터가 조회할 때는 필요한 최소 항목만 반환하도록 필드 수준 마스킹을 적용한다.

가드레일 개입 이력과 승인 작업 실행 이력은 감사 증적으로 보존한다. 금융·통신·보험처럼 규제 요구가 큰 산업에서는 자동 응대의 설명 의무와 기록 보존 요건을 미리 확인해야 한다. 정책·프롬프트·도구의 변경은 변경관리 대상으로 다루고, 자기 개선 루프가 만든 변경도 같은 승인 경로를 통과하게 해야 한다.

제한된 실행이 자유 실행과 갈리는 지점

구분	정책·가드레일 기반 제한 실행	자유 실행
예측 가능성	높음(경계 명시)	낮음
위험 노출	승인 작업 범위로 한정	도구 권한 전체
개발 공수	정책·SOP 구조화 필요	초기 구축 빠름
감사 대응	개입·실행 이력 확보	사후 재구성 곤란
확장 방식	화이트리스트 확대	통제 없이 확대

자유 실행은 초기에 빠르게 만들 수 있지만, 규제 산업에서는 사실상 채택하기 어렵다. 제한 실행은 정책과 SOP를 구조화하는 비용이 드는 대신 위험 노출을 승인 범위에 묶고 감사 증적을 남긴다.

엔터프라이즈 제품을 도입하면 정책 엔진, 가드레일, 평가 도구를 즉시 확보하고 FDE 지원을 받을 수 있다. 반면 벤더 종속과 데이터 경로의 제약이 따른다. 자체 구축은 통제력과 이식성이 높지만 가드레일, 시뮬레이션, 감사 기능을 직접 만들어야 하며, 그 공수는 통상 과소평가된다.

완결 처리 비율이 높으면 인건비는 줄어든다. 그러나 인계 기준을 느슨하게 두면 미해결 응대와 재문의가 증가해 총비용이 커질 수 있다. 자기 개선 루프로 인계율을 낮췄다는 주장도 재문의율과 만족도를 함께 봐야 실질적인 품질 개선인지 판단할 수 있다.

SOP와 작업 단위 권한이 운영 품질을 결정한다

에이전트 도입의 성패는 모델 성능보다 SOP를 얼마나 구조화했는지에 달려 있다. 문서 속 절차를 기계가 판독할 수 있는 형태로 옮기는 작업이 먼저다. 휴먼 핸드오프 역시 실패가 아니라 의도적으로 설계한 예외 처리 경로다. 인계 조건과 컨텍스트 전달 규격은 업무 절차서에 명시해야 한다.

승인 작업 화이트리스트는 최소권한 원칙을 구현하는 방법이다. 권한을 에이전트 단위가 아닌 작업 단위로 나누는 설계가 통제의 실효성을 좌우한다. 커넥터가 접근하는 시스템마다 조회와 변경 권한을 나누고, 변경에는 별도의 승인·기록 경로를 둬야 한다.

음성 데이터는 식별 가능성이 높은 개인정보다. 녹취와 전사를 저장할 때 고지, 동의, 보존 기간을 관리해야 한다. 자기 개선 루프가 실패 사례를 학습 자료로 쓰는 경우에는 데이터 이용 범위가 최초 수집 목적을 벗어나지 않는지도 검토 대상이다.

관리형 플랫폼 경쟁이 바꾸는 요구사항

엔터프라이즈 에이전트 시장은 모델 API 판매에서 정책, 가드레일, 평가를 포함한 관리형 플랫폼 경쟁으로 재편될 전망이다. 가드레일, 감사 로그, 시뮬레이션은 조달 요구사항으로 표준화되고, 이를 갖추지 못한 제품은 규제 산업에 진입하기 어려워질 수 있다.

자동 변경의 승인과 롤백을 어떻게 다룰지 역시 AI 거버넌스의 새로운 쟁점으로 부상한다. 음성 채널 자동화가 고객 지원의 1차 접점으로 확산될수록, 사람에게 넘기는 순간의 품질은 고객 경험을 좌우하는 지표가 된다.