길리랩blog

샌드박스, 격리 수준을 어떻게 설계할 것인가

VM·컨테이너·애플리케이션·언어 수준 샌드박스의 격리 방식과 탈출 위험, 실무 적용 사례를 정리한다.

2026-08-12 · 최초 발행 2025-06-02

샌드박스는 외부 프로그램이나 의심스러운 코드를 시스템 전체와 분리된 영역에서 실행하는 격리 환경이다. 악성코드가 실행되더라도 그 영향이 격리 경계 밖으로 번지지 않도록 막는 것이 목적이며, 보안뿐 아니라 개발·테스트·클라우드 운영 전반에서 방어 계층 하나로 자리 잡았다.

격리를 만드는 메커니즘

샌드박스가 작동하는 방식은 몇 가지 요소의 조합으로 설명된다. 실행 중인 프로그램을 다른 프로세스나 시스템 자원으로부터 떼어놓는 프로세스 격리가 기본이고, 그 위에 파일 시스템·네트워크·시스템 자원에 대한 접근을 제한하는 접근 제어가 얹힌다. 물리적 하드웨어와 분리된 환경을 제공하는 가상화, 샌드박스 내부 프로그램의 동작을 감시·기록하는 모니터링, CPU·메모리·디스크 사용량을 묶어두는 리소스 제한이 나머지 축이다. 이 다섯 가지가 얼마나 강하게 적용되느냐에 따라 샌드박스의 격리 수준과 성능이 함께 갈린다.

구현 방식: VM에서 언어 수준까지

가장 강한 격리는 가상 머신(VM) 기반 샌드박스다. 물리적 하드웨어와 완전히 분리된 환경을 제공하는 만큼 격리 수준은 높지만, 자원 소모가 크고 성능 오버헤드가 따른다. VMware·VirtualBox·Hyper-V가 대표적이다.

⤢✕물리적 하드웨어호스트 운영체제하이퍼바이저가상 머신 1 - 샌드박스가상 머신 2 - 샌드박스게스트 OS 1게스트 OS 2애플리케이션 1애플리케이션 2

컨테이너 기반 샌드박스는 운영체제 수준의 가상화로 더 가벼운 격리를 만든다. 호스트 OS 커널을 공유하면서도 프로세스 수준의 격리는 유지하기 때문에 시작 시간이 빠르고 리소스 소모도 낮다. Docker·LXC·Kubernetes Pod가 여기 속한다.

⤢✕물리적 하드웨어호스트 운영체제컨테이너 런타임컨테이너 1 - 샌드박스컨테이너 2 - 샌드박스애플리케이션 1애플리케이션 2

VM·컨테이너보다 더 좁은 범위를 격리하는 방식도 있다. 애플리케이션 레벨 샌드박스는 특정 애플리케이션 안에서 실행되는 코드만 격리하는 방식으로, Chrome 브라우저 샌드박스나 Java 보안 매니저가 OS 권한 관리와 애플리케이션 내부 구현을 조합해 이를 구현한다. 언어 기반 샌드박스는 프로그래밍 언어나 실행 환경 자체가 제공하는 보안 기능을 활용하는 방식으로, 브라우저의 JavaScript 실행 제한이나 Python의 restricted execution이 여기 해당한다.

어디에 쓰이는가

사이버 보안 영역에서는 의심스러운 파일을 안전하게 실행해 행동을 분석하는 악성코드 분석, 알려지지 않은 위협을 식별하는 제로데이 공격 탐지, 이메일 첨부 파일을 미리 실행해보는 이메일 보안, 브라우저 내 페이지 실행을 격리하는 웹 브라우징 보안에 쓰인다.

소프트웨어 개발에서는 새 코드를 안전하게 검증하는 테스트 환경, CI/CD 파이프라인의 자동화된 테스트, 서드파티 개발자에게 제공하는 API 샌드박스로 활용된다.

클라우드 컴퓨팅에서는 서로 다른 고객의 워크로드를 격리하는 멀티테넌트 환경, AWS Lambda 같은 서버리스 컴퓨팅의 함수 실행 격리, 마이크로서비스 간 독립성 보장에 쓰인다. 모바일 플랫폼에서는 앱이 접근할 수 있는 시스템 리소스와 사용자 데이터를 제한하는 앱 권한 관리, 앱스토어 심사 과정의 악성 행위 탐지, BYOD 환경에서 회사 데이터와 개인 데이터를 분리하는 용도로 쓰인다.

도입할 때 부딪히는 문제

격리 수준을 높일수록 더 많은 리소스가 필요하고 성능이 떨어질 가능성도 커진다. 그래서 사용 사례에 맞는 적절한 보안 수준과 성능 사이의 균형점을 찾는 것이 실무의 첫 번째 과제다.

두 번째는 탈출(Escape) 위험이다. 악성코드가 격리 환경을 벗어나 호스트 시스템에 접근하는 샌드박스 탈출은 지속적인 보안 업데이트와 패치, 그리고 다중 방어 계층(Defense in Depth) 전략 없이는 막기 어렵다. 세 번째는 모니터링과 로깅이다. 샌드박스 내부 활동을 계속 지켜보고 이상 행위를 탐지하는 로깅 체계, 실시간 알림 연동이 뒷받침되지 않으면 탈출이나 이상 행동을 놓친다.

실제로 쓰는 조직들

씨티은행은 내부 개발 환경에 샌드박스를 도입해 새로운 애플리케이션과 API를 안전하게 테스트·통합하고, 규제 준수와 고객 데이터 보호를 강화하면서 개발자 생산성과 출시 시간까지 개선한 사례로 꼽힌다. 보안 기업 파이어아이(FireEye)는 고급 위협 탐지 시스템에 샌드박스를 활용해 이메일·웹·파일 첨부물 등 여러 벡터의 위협을 분석하고, 제로데이 공격 탐지율을 높이며 위협 인텔리전스를 자동으로 생성·공유한다. AWS는 Lambda 서비스에 샌드박스 기술을 적용해 서로 다른 고객의 함수 실행을 격리하고 리소스 사용량을 제한·모니터링함으로써 멀티테넌트 환경의 보안을 보장한다.

앞으로의 방향

기계학습을 활용해 이상 행위 탐지 능력을 강화하고 위협을 자동으로 분류·대응하는 AI 통합 샌드박스, 서버리스 환경에 최적화된 경량 샌드박스와 컨테이너 기술의 더 깊은 통합을 지향하는 클라우드 네이티브 샌드박스, 제한된 리소스의 IoT 디바이스에 맞춘 엣지·펌웨어 레벨 격리 기술이 다음 단계로 거론된다. 다만 어떤 방향으로 발전하더라도 완벽한 격리는 존재하지 않는다는 전제는 바뀌지 않는다. 샌드박스는 여러 보안 계층 중 하나로 조합될 때 제 역할을 한다.

Docker로 최소 권한 샌드박스 만들기

기본 이미지를 만들고, 제한된 권한으로 컨테이너를 실행하는 흐름은 다음과 같다.

# 격리된 환경에서 실행할 기본 이미지 생성
cat > Dockerfile << EOF
FROM ubuntu:20.04
RUN apt-get update && apt-get install -y python3
WORKDIR /sandbox
# 최소한의 권한만 가진 사용자 생성
RUN useradd -ms /bin/bash sandboxuser
USER sandboxuser
CMD ["bash"]
EOF

# 이미지 빌드
docker build -t sandbox-env .

# 제한된 권한으로 컨테이너 실행
docker run --rm -it \
  --cap-drop=ALL \
  --security-opt no-new-privileges \
  --network none \
  --memory=512m \
  --cpus=0.5 \
  -v $(pwd)/input:/sandbox/input:ro \
  -v $(pwd)/output:/sandbox/output:rw \
  sandbox-env

이 구성이 실제로 제공하는 보안 기능은 다음과 같다.

  • 모든 Linux capabilities 제거
  • 권한 상승 방지
  • 네트워크 접근 차단
  • 메모리 및 CPU 사용량 제한
  • 파일 시스템 접근 제한(읽기 전용 입력, 쓰기 가능 출력)
샌드박스격리컨테이너가상화위협 탐지