RTOS의 시간 보장과 실시간 스케줄링 설계

데드라인을 지키는 운영체제

RTOS(Real-Time Operating System)는 시간 제약이 있는 작업을 정해진 데드라인 안에 처리하기 위한 실시간 운영체제다. 핵심은 단순히 응답이 빠르다는 데 있지 않다. 최악의 경우에도 실행 시간을 예측할 수 있고, 필요한 시점에 처리 결과를 낼 수 있어야 한다.

자동차, 항공, 의료, 산업 자동화처럼 시간 지연이 안전과 신뢰성에 직접 연결되는 환경에서 RTOS는 다중 프로그래밍 환경을 바탕으로 태스크를 관리한다. 빠른 응답 시간, 시간 제약 보장, 최소한의 지연, 높은 신뢰성이 이 운영체제의 요구를 규정한다.

신뢰성과 예측 가능성이 함께 필요하다

실시간 운영체제의 품질은 한 가지 지표로 판단하기 어렵다. 시스템이 요구사항대로 정확하게 동작하는 신뢰성, 최악의 실행 시간을 산정할 수 있는 예측 가능성, 응답 성능, 제한된 자원 활용, 확장성을 모두 살펴야 한다.

신뢰성은 실패가 생명이나 재산 피해로 이어질 수 있는 환경에서 특히 중요하다. 엄격한 테스팅, 오류 감지와 복구 메커니즘, Fault Tolerance 설계가 여기에 포함되며 MTBF(Mean Time Between Failures)와 가용률(Availability)이 척도로 쓰인다.

예측 가능성은 데드라인 보장의 전제다. 결정론적 스케줄링과 명확한 우선순위 체계, 인터럽트 지연 시간의 상한이 필요하며 WCET(Worst-Case Execution Time) 분석으로 최악의 실행 시간을 다룬다.

성능은 이벤트 발생부터 처리가 끝날 때까지의 응답 시간(Response Time), 인터럽트 발생부터 ISR 시작까지의 지연 시간(Latency), 태스크 전환에 드는 컨텍스트 스위칭 시간을 통해 살핀다. 효율적인 스케줄러, 작은 커널 오버헤드, 고속 IPC(Inter-Process Communication)가 성능 최적화의 대상이다.

제한된 자원에서 최대 효율을 얻기 위해 메모리 사용량, CPU 활용률, 전력 소비도 함께 관리한다. 정적 메모리 할당, Zero-copy 데이터 전송, 동적 전력 관리가 사용될 수 있다. 태스크와 자원이 늘어나도 대응하려면 모듈화, 플러그인 아키텍처, 설정 가능한 커널 같은 설계가 필요하다.

⤢✕

태스크를 시간 제약에 맞춰 실행하는 방식

RTOS에서는 여러 태스크를 메모리에 함께 적재하고, CPU가 쉬는 시간을 줄이도록 빠르게 전환한다. 우선순위 기반 스케줄링과 선점형(Preemptive) 멀티태스킹이 이 구조를 뒷받침한다.

우선순위는 주로 시간 제약을 중심으로 정해진다. RM(Rate Monotonic)은 주기가 짧은 태스크를 우선하고, EDF(Earliest Deadline First)는 데드라인이 더 가까운 태스크를 먼저 처리한다. DM(Deadline Monotonic)은 상대 데드라인을 기준으로 우선순위를 결정한다.

지연을 줄이는 일도 중요하다. 인터럽트 처리에서는 Non-maskable 구간을 줄이고 인터럽트 벡터를 빠르게 조회해야 한다. 스케줄링에서는 O(1) 스케줄러와 충분한 선점 지점을, 디스패치에서는 빠른 컨텍스트 스위칭과 최소한의 레지스터 저장을 고려한다.

⤢✕

데드라인 초과를 해석하는 기준

Hard Real-Time에서는 데드라인 초과가 시스템 실패를 뜻한다. 절대적인 시간 제약을 가지며 지연을 용납하지 않고 최악의 경우를 보장해야 한다. 항공기 제어 시스템, 심장 박동기, 자동차 에어백, 원자로 제어가 여기에 해당하며 100% 데드라인 준수와 검증 가능성이 요구된다.

Soft Real-Time은 데드라인을 넘겼을 때 성능이 저하되는 유형이다. 시간 제약은 더 유연하고 평균 성능과 통계적 보장이 중요하다. 멀티미디어 스트리밍, 온라인 게임, VoIP, 로봇 청소기가 예시이며 대부분의 데드라인 준수와 QoS(Quality of Service) 보장을 목표로 한다.

Firm Real-Time은 Hard와 Soft 사이에 위치한다. 데드라인 초과가 가끔 허용되지만, 늦게 도착한 결과는 가치가 없어 폐기된다. 비디오 프레임 처리와 센서 데이터 수집이 대표적인 사례다.

⤢✕

커널 구조가 만드는 운영 특성

마이크로커널 RTOS는 최소한의 커널 기능만 남기고 대부분의 기능을 사용자 공간에 둔다. 예측 가능성과 모듈화, 안정성이 장점인 반면 메시지 패싱 오버헤드를 고려해야 한다. QNX와 L4가 예다.

모노리식 커널은 모든 기능을 커널 공간에 두고 직접 함수 호출을 사용한다. 빠른 성능을 얻을 수 있지만 복잡도가 커진다. VxWorks가 이 방식의 예다.

하이브리드 방식은 두 구조를 혼합하며 FreeRTOS와 RTLinux가 예로 제시된다.

⤢✕

RM과 EDF, 그리고 우선순위 역전

RM은 주기가 짧은 태스크에 더 높은 우선순위를 주는 정적 우선순위·선점형 정책이다. 정적 알고리즘 가운데 최적(Optimal)으로 설명되며 구현이 간단하고 런타임 오버헤드가 낮다. 스케줄 가능 조건은 CPU 활용률 ≤ n(2^(1/n) - 1)이고, n은 태스크 수이며 n→∞일 때 약 69.3%다. CPU 활용률 상한이 낮다는 점은 제약으로 남는다.

EDF는 가장 가까운 데드라인을 가진 태스크를 선택하는 동적 우선순위·선점형 정책이다. 최적 동적 알고리즘이며 CPU 활용률 ≤ 100%가 스케줄 가능 조건이다. 이론적으로 최대 CPU 활용률을 얻을 수 있지만 런타임 오버헤드는 증가한다.

낮은 우선순위 태스크가 자원을 점유해 높은 우선순위 태스크가 기다리게 되는 상황은 우선순위 역전으로 이어진다. Priority Inheritance Protocol에서는 높은 우선순위 태스크가 대기하면 자원을 보유한 낮은 우선순위 태스크가 일시적으로 우선순위를 상속받고, 자원을 해제하면 원래 우선순위로 돌아간다.

Priority Ceiling Protocol은 자원마다 ceiling 우선순위를 정한다. 태스크는 자원을 얻을 때 ceiling 우선순위로 상승하며, 데드락 방지의 장점이 있다.

⤢✕

선택 가능한 RTOS와 적용 영역

FreeRTOS는 MIT 라이선스의 오픈소스 RTOS로, 작은 메모리 풋프린트(< 10KB)와 다양한 프로세서 지원이 특징이다. Preemptive Priority 스케줄링을 사용하며 IoT와 임베디드 환경에 활용된다.

VxWorks는 높은 신뢰성과 광범위한 검증을 특징으로 하는 상용 RTOS다. 항공우주, 군사, 자동차 분야에서 활용된다.

QNX는 POSIX 호환 마이크로커널 RTOS로 높은 안정성을 내세운다. 자동차 인포테인먼트와 의료기기에 사용된다.

RTLinux / PREEMPT_RT는 Linux 기반의 오픈소스 환경으로, 듀얼 커널 또는 선점 가능 커널을 제공한다. 산업 자동화와 로봇에 활용된다.

Zephyr는 Linux Foundation 프로젝트로 모듈화와 확장성을 갖추고 IoT에 최적화돼 있다. IoT와 웨어러블이 주요 활용 분야다.

⤢✕

범용 운영체제와 다른 판단 기준

항목	RTOS	GPOS (예: Linux, Windows)
목표	시간 제약 보장	처리량, 사용자 경험
스케줄링	우선순위 기반, 선점형	공정성, 시간 할당
지연	결정론적, 최소	가변적
신뢰성	매우 높음	높음
메모리	작음 (KB~MB)	큼 (GB)
적용	임베디드, 제어	데스크톱, 서버

구현 단계에서 확인할 항목

타이밍 분석에서는 정적 분석 도구를 활용한 WCET 분석, RM·EDF 활용률 계산을 이용한 스케줄 가능성 분석, 응답 시간 편차를 확인하는 지터(Jitter) 측정이 필요하다.

메모리는 런타임 오버헤드를 줄이는 정적 할당, 동적 할당의 대안인 메모리 풀, 최악의 경우를 고려한 스택 크기를 검토한다.

동기화 수단으로는 Priority Inheritance를 지원하는 뮤텍스, 카운팅·바이너리 세마포어, 비동기 통신을 위한 메시지 큐를 사용한다. 테스트는 각 태스크를 독립적으로 검증하는 단위 테스트부터 타이밍 제약을 확인하는 통합 테스트, 최악 시나리오를 다루는 스트레스 테스트까지 이어져야 한다.

실시간 시스템에서는 결과의 정확성만큼 결과가 도착한 시점이 중요하다. 요구되는 실시간 수준과 커널 구조, 스케줄링 정책, 타이밍 검증 방식을 함께 선택해야 시간 제약을 만족하는 시스템을 설계할 수 있다.