모놀리식 커널 구조와 운영상 특성

하나의 커널 공간에서 처리되는 운영체제 서비스

모놀리식 커널은 운영체제의 핵심 기능을 하나의 큰 실행 파일로 묶고, 서비스 루틴을 단일 커널 공간에서 실행하는 아키텍처다. 컴파일 시점에 모듈을 하나로 링크하며, 커널 모드는 시스템 자원에 직접 접근한다.

이 구조 안에는 프로세스 생성·종료·스케줄링, 스레드와 IPC, 신호 처리가 들어간다. 가상 메모리, 페이징과 스왑, 메모리 할당·해제, 캐시와 보호 메커니즘도 커널의 책임이다. 파일 시스템은 VFS 계층과 ext4·XFS·Btrfs 같은 구현, 버퍼 캐시, 저널링을 포함한다.

네트워크 측면에서는 TCP/IP 스택, 소켓 인터페이스, 네트워크 드라이버, 방화벽과 패킷 필터링, 라우팅 테이블을 다룬다. 디스크·SSD 등의 블록 장치, 키보드·마우스 등의 문자 장치, NIC·그래픽·USB·PCI 장치 드라이버도 같은 공간에서 동작한다. 인증·권한 검증, ACL, SELinux·AppArmor 같은 보안 모듈과 암호화 서비스 역시 여기에 포함된다.

⤢✕

시스템 콜 경로가 만드는 성능 특성

사용자 프로세스는 시스템 콜 인터페이스를 거쳐 커널 함수를 호출한다. 이후 커널 내부 서비스는 직접 함수를 호출할 수 있으므로, 프로세스 간 메시지 전달에 따른 오버헤드가 없다. 사용자 모드에서 커널 모드로 들어갔다가 다시 돌아오는 경로가 기본이며, 프로세스 간 컨텍스트 스위칭을 피하고 단일 주소 공간의 코드·데이터를 활용할 수 있다.

⤢✕

커널 내부는 시스템 콜 인터페이스, 파일 시스템·네트워크·프로세스 관리 서비스, 구체 구현, 장치 드라이버, 하드웨어 추상화 계층, 하드웨어 직접 제어로 이어지는 계층을 가진다. 다만 CPU 아키텍처별 최적화 코드, 인라인 어셈블리, 부팅·인터럽트 처리, MMU 차이는 플랫폼 의존성을 만든다. 새 플랫폼을 지원하려면 코드 수정과 크로스 컴파일, 테스트 환경, 드라이버 호환성 검토가 필요하다.

⤢✕

통합 인터페이스가 주는 이점과 운영 부담

일관된 시스템 콜 인터페이스는 사용자 프로그램이 내부 구현을 알지 않아도 되게 한다. POSIX 표준을 따르는 애플리케이션 개발, 표준 C 라이브러리 인터페이스, 축적된 애플리케이션 생태계와 바이너리 호환성은 이 구조의 실용적인 강점이다. 직접 함수 호출과 단일 주소 공간은 낮은 레이턴시, 효율적인 메모리 접근, 캐시 히트율 향상, 인라인 함수와 컴파일러·아키텍처 특화 최적화의 기반이 된다.

반대편에는 커널 공간을 함께 쓰는 데서 비롯되는 부담이 있다. 사용하지 않는 기능도 메모리에 상주할 수 있고, 대형 커널 이미지는 수십 MB에서 수백 MB에 이를 수 있다. Linux 커널 이미지는 압축 상태에서 510MB, 압축 해제 후 1530MB이며, 메모리에 로드된 커널 코드와 데이터는 수십 MB다. 드라이버와 모듈을 모두 포함하면 더 커진다.

큰 이미지를 불러오고 드라이버를 초기화하는 과정은 부팅 시간에도 영향을 준다. 또한 하나의 버그나 드라이버 오류가 커널 패닉과 시스템 전체 정지로 이어질 수 있다. 넓은 공격 표면, 커널 모드 익스플로잇, 권한 상승 공격, 커널 메모리 손상은 보안 위험을 키운다. 수백만 라인의 코드에서 버그를 찾고, 제한적인 크래시 정보와 타이밍 문제를 재현하는 일도 복잡하다.

재부팅 의존성을 줄이는 확장 방식

정적으로 링크된 구조에서는 기능이나 드라이버를 추가할 때 소스 수정, 전체 커널 재컴파일, 새 이미지 생성, 부트로더 설정 갱신, 재부팅, 새 커널 부팅의 과정이 필요하다.

Linux의 LKM(Loadable Kernel Module)은 이 제약을 완화한다. 모듈을 동적으로 삽입·제거할 수 있어 드라이버 추가에 재부팅이 필요하지 않으며, 필요한 드라이버만 적재해 메모리 사용을 줄일 수 있다.

# 커널 모듈 로드
sudo modprobe nvidia

# 커널 모듈 언로드
sudo modprobe -r nvidia

# 로드된 모듈 확인
lsmod

네임스페이스와 cgroups는 단일 Linux 커널에서 격리된 환경과 자원 제한·관리를 제공하며 Docker, Kubernetes 같은 컨테이너 기술을 뒷받침한다. eBPF는 커널을 수정하지 않고도 커널 공간에서 코드를 실행해 관찰성, 보안 정책, 성능 분석, 네트워크 필터링에 사용된다. kpatch와 livepatch 같은 실시간 패치는 재부팅 없이 커널 패치를 적용해 보안 취약점 대응과 고가용성 운영을 지원한다.

모놀리식 구조를 채택한 운영체제

Linux는 로더블 커널 모듈로 확장성을 보완하는 오픈소스 모놀리식 커널이다. x86, ARM, MIPS, RISC-V 등을 지원하며 서버, 데스크톱, 임베디드, 모바일 환경에 활용된다.

BSD 계열인 FreeBSD, OpenBSD, NetBSD는 코드베이스와 보안성, 네트워크 스택, BSD 라이선스 측면의 특성을 가진다. Solaris/illumos는 엔터프라이즈급 기능, ZFS 파일 시스템, DTrace 동적 추적 도구를 제공한다. macOS의 XNU는 Mach 마이크로커널과 BSD 모놀리식 커널을 결합한 하이브리드 구조지만, 실질적으로는 모놀리식에 가까운 구조이며 Darwin 오픈소스 프로젝트를 기반으로 한다.