VMM 하이퍼바이저의 구조와 가상화 운영 방식
VMM과 하이퍼바이저의 역할, Type 1·Type 2 구조, CPU·메모리·I/O 가상화와 주요 운영 기능을 정리합니다.
2026-08-14 · 최초 발행 2026-01-12
물리 자원을 가상 머신에 나누는 계층
VMM(Virtual Machine Monitor)은 하이퍼바이저라고도 하며, 물리 하드웨어 위에서 여러 가상 머신을 만들고 관리한다. CPU, 메모리, I/O 장치 같은 자원을 가상화해 각 VM에 독립적인 실행 환경을 제공하는 소프트웨어 계층이다.
이 계층은 물리 장치를 가상 하드웨어 형태로 제공하고, VM별 CPU 시간과 메모리, 스토리지, I/O 사용을 중재한다. VM 사이의 장애와 보안을 분리하는 경계 역할도 맡는다.
설치 위치가 다른 하이퍼바이저
하드웨어에 직접 올라가는 Type 1
Type 1 베어메탈 하이퍼바이저는 하드웨어 위에 직접 설치되므로 호스트 OS가 필요 없다. 오버헤드를 줄이고 직접 하드웨어에 접근할 수 있어 높은 성능과 보안성이 요구되는 엔터프라이즈 및 프로덕션 환경에 맞는다.
대표 제품으로 VMware ESXi, Microsoft Hyper-V(서버), Citrix XenServer, KVM(리눅스 커널 모듈)이 있다. 전용 서버가 필요하고 설치·관리 과정이 복잡할 수 있으며, 하드웨어 호환성도 확인해야 한다.
기존 OS에서 실행하는 Type 2
Type 2 호스트형 하이퍼바이저는 기존 운영체제 위에 애플리케이션처럼 설치한다. 설치와 사용이 비교적 쉽고 기존 OS 환경을 유지할 수 있어 개발·테스트에 적합하다. VMware Workstation, Oracle VirtualBox, Parallels Desktop, QEMU가 이 방식의 대표 제품이다.
대신 호스트 OS를 거치며 오버헤드가 추가되고 성능과 격리 수준은 Type 1보다 낮을 수 있다.
| 항목 | Type 1 | Type 2 |
|---|---|---|
| 설치 위치 | 하드웨어 위 직접 | 호스트 OS 위 |
| 성능 | 높음 | 중간 |
| 오버헤드 | 낮음 | 높음 |
| 보안 | 높음 | 중간 |
| 관리 복잡도 | 높음 | 낮음 |
| 사용 환경 | 프로덕션 | 개발/테스트 |
| 대표 제품 | ESXi, Hyper-V | VirtualBox, VMware Workstation |
CPU·메모리·I/O를 가상화하는 방식
CPU 가상화에서는 전가상화, 반가상화, 하드웨어 지원 가상화를 선택할 수 있다. 전가상화는 Binary Translation을 사용하며 Guest OS 수정 없이 하드웨어 지원 없이도 구현할 수 있지만 성능 오버헤드가 존재한다. 반가상화는 Guest OS 수정과 Hypercall 인터페이스를 요구하는 대신 높은 성능을 제공하며 Xen에서 주로 사용된다.
Intel VT-x와 AMD-V를 활용하는 하드웨어 지원 가상화는 CPU 수준의 가상화 지원을 이용한다. Ring -1(VMX root mode)을 통해 성능과 호환성을 함께 확보한다.
메모리 가상화에서는 VMM이 Guest와 Host 페이지 테이블을 동기화하는 Shadow Page Table을 사용할 수 있다. 이 방식에는 높은 오버헤드가 따른다. Intel EPT와 AMD NPT를 사용하는 Extended Page Table은 하드웨어 지원과 2단계 주소 변환으로 성능을 높인다.
메모리 오버커밋은 물리 메모리보다 많은 가상 메모리를 할당하는 방식이다. Memory Ballooning, Page Sharing(KSM), Swap to Host가 함께 사용된다.
I/O는 전체 장치를 소프트웨어로 에뮬레이션하거나, virtio 드라이버를 통한 반가상화 I/O, SR-IOV(Single Root I/O Virtualization)를 통한 직접 할당으로 처리할 수 있다. 에뮬레이션은 호환성이 높지만 성능은 낮다. 반가상화 I/O는 최적화된 인터페이스를 제공하며, 직접 할당은 네이티브 성능을 제공하는 대신 격리에 제한이 있다.
가상 머신 운영에서 쓰이는 기능
스냅샷은 특정 시점의 VM 상태를 저장하는 기능이다. 메모리, 디스크, 설정을 포함할 수 있어 테스트 전 백업, 변경 작업 전 보험, 개발 환경 관리에 활용한다.
라이브 마이그레이션은 실행 중인 VM을 다른 호스트로 옮기는 기능이며 다운타임을 밀리초 단위로 최소화한다. 메모리 페이지 복사를 시작한 뒤 변경된 페이지를 반복 복사하고, VM을 일시 중지해 최종 상태를 전송한 다음 대상 호스트에서 재개한다. 하드웨어 유지보수, 부하 분산, 재해 복구에 사용된다.
고가용성은 클러스터에서 호스트 장애를 감지하고 VM을 자동 재시작하는 기능이다. 분산 리소스 스케줄러(DRS)는 클러스터 안의 부하를 분산하고 VM 배치와 리소스 사용을 최적화한다.
VMware, Hyper-V, KVM, Xen의 위치
VMware vSphere/ESXi는 엔터프라이즈 기능이 풍부하며 vCenter를 통한 중앙 관리와 vMotion, DRS, HA를 지원한다. Microsoft Hyper-V는 Windows Server와 통합되고 Azure와 연계되며, Windows 라이선스에 포함될 수 있다.
KVM은 리눅스 커널 모듈 기반의 오픈소스 VMM으로 클라우드 환경에서 널리 사용된다. OpenStack과 oVirt의 기반이기도 하다. Xen은 오픈소스 Type 1 하이퍼바이저로 AWS EC2 초기 기반이었고, 반가상화의 선구자이며 Citrix XenServer의 기반이다.
| 항목 | VMware ESXi | Hyper-V | KVM | Xen |
|---|---|---|---|---|
| 유형 | Type 1 | Type 1 | Type 1 | Type 1 |
| 라이선스 | 상용 | Windows 포함 | 오픈소스 | 오픈소스 |
| 생태계 | 매우 풍부 | MS 통합 | 클라우드 | 제한적 |
| 관리 도구 | vCenter | SCVMM | oVirt, OpenStack | XenCenter |
| 시장 점유율 | 높음 | 중간 | 증가 중 | 감소 중 |
컨테이너와 격리 계층을 나누어 보기
VMM 기반 가상화는 하드웨어 수준의 격리를 제공하고 Guest OS가 필요하다. 컨테이너는 OS 수준에서 격리되며 Guest OS가 필요 없다. VM의 부팅 시간은 분 단위이고 컨테이너는 초 단위이며, 이미지 크기는 각각 GB와 MB 수준이다.
| 항목 | VMM (가상화) | 컨테이너 |
|---|---|---|
| 격리 수준 | 하드웨어 수준 | OS 수준 |
| Guest OS | 필요 | 불필요 |
| 부팅 시간 | 분 단위 | 초 단위 |
| 리소스 오버헤드 | 높음 | 낮음 |
| 이미지 크기 | GB | MB |
| 밀도 | 낮음 | 높음 |
| 보안 격리 | 강함 | 중간 |
| 이식성 | 중간 | 높음 |
VM 위에 컨테이너를 배치하면 강한 격리와 높은 밀도를 함께 활용할 수 있어 멀티테넌트 환경과 보안 강화에 적합하다. 레거시 애플리케이션이나 강한 격리가 필요한 경우에는 VM을, 마이크로서비스와 빠른 배포에는 컨테이너를 선택한다.
하드웨어 가속과 클라우드 통합의 흐름
VMM은 더 많은 CPU 가상화 기능과 GPU 가상화(vGPU), FPGA 가상화, NVMe 가상화를 활용하는 방향으로 발전하고 있다. 보안 측면에서는 AMD SEV(Secure Encrypted Virtualization), Intel TDX(Trust Domain Extensions), Confidential Computing이 강화 요소로 다뤄진다.
운영 범위도 하이브리드 클라우드 관리, 멀티클라우드 오케스트레이션, Edge 컴퓨팅 지원으로 확장되고 있다.