GBM과 OU 과정으로 설계하는 연속시간 확률 모델
기하 브라운 운동과 Ornstein-Uhlenbeck 과정을 비교해 상태공간, 평균회귀, 모수 추정, 시뮬레이션과 검증 흐름을 정리한다.
2026-08-14 · 최초 발행 2024-04-29
연속시간 동학을 구분하는 기준
금융 가격, 물리 현상, 산업 시스템의 시간 변화를 확률적으로 표현할 때는 상태가 양수여야 하는지, 평균으로 되돌아와야 하는지부터 구분해야 한다. Geometric Brownian Motion(GBM)과 Ornstein–Uhlenbeck(OU) 과정은 이 조건이 서로 다른 대표적인 연속시간 확률 모델이다.
두 모델은 Ito 해석과 확률미분방정식(SDE)을 바탕으로 한다. 일반적인 SDE는 다음과 같이 드리프트와 확산 항으로 동학을 정한다.
- 표준 브라운 운동 (W_t)는 독립 증가와 연속 경로를 가지며, (W_t − W_s ~ N(0, t − s)), (W_0 = 0)을 만족한다.
- 일반 SDE는 (dX_t = a(X_t, t) dt + b(X_t, t) dW_t)로 쓴다.
- 수치 근사에는 Euler–Maruyama, Milstein, log-변수 전개 등을 적용할 수 있다.
양의 상태공간을 유지하는 GBM
GBM은 값의 상대적 변동을 다루는 데 적합하다. SDE는 다음과 같다.
[ dS_t = μ S_t dt + σ S_t dW_t ]
상태공간은 ((0, ∞))이며, 해는 다음과 같이 닫힌 형태로 표현된다.
[ S_t = S_0 exp((μ − 0.5σ^2)t + σ W_t) ]
따라서 (\ln S_t)는 정규성을 가지며 (S_t)는 로그정규 분포 특성을 갖는다. GBM에는 평균회귀가 없고 비정상성이 나타난다. 0 경계 흡수 가능성은 파라미터에 의존하며, 이산 근사에서는 log-스킴을 사용하는 편이 권장된다.
평균으로 돌아오는 OU 과정
OU 과정은 평균회귀가 필요한 변수에 맞는다. 모델은 다음 SDE로 정의한다.
[ dX_t = θ(μ − X_t) dt + σ dW_t ]
여기서 (θ > 0)은 평균회귀 강도다. 조건부 모멘트는 다음과 같다.
[ E[X_t] = μ + (X_0 − μ)e^{−θ t} ]
[ Var[X_t] = (σ^2 / 2θ)(1 − e^{−2θ t}) ]
시간이 충분히 지나면 (X_t ~ N(μ, σ^2 / 2θ))로 수렴한다. OU의 상태공간은 (\mathbb{R})이며, 가법적 잡음 아래에서 양과 음의 방향 모두를 허용한다.
모델의 성질이 추정과 해석 방식을 바꾼다
GBM은 곱셈형 확산으로 양의 값을 유지하며 상대 변동성 모델링에 어울린다. 반면 OU는 선형 드리프트와 평균회귀를 사용한다. 분포와 장기 거동도 다르다. GBM은 로그정규성과 비정상성을, OU는 정규성과 정상분포 수렴, (e^{−θΔt}) 형태의 자기상관 구조를 보인다.
GBM의 모수는 로그수익률 (rt = ln(S_t/S{t−Δ}) ~ N((μ − 0.5σ^2)Δ, σ^2Δ))을 이용해 MLE로 추정하고 드리프트 검정을 적용할 수 있다. OU는 (Xt = α + ϕ X{t−Δ} + ε_t) 형태의 이산 AR(1) 근사에서 OLS 또는 MLE를 사용한다. 이때 (ϕ = e^{−θΔ})이며, (σ)를 추정한 뒤 잔차 백색잡음·정규성·ADF 검정을 수행한다.
수치해석 선택도 다르게 가져간다. GBM은 log-스킴 또는 Milstein으로 드리프트와 확산을 보정해 음값 발생을 막는다. OU는 Euler–Maruyama로 처리할 수 있지만, 큰 (Δt)에서 안정성이 떨어지면 정확해(Exact) 이산화를 적용한다.
다변량 상관 구조인 공분산 (Σ)를 도입하거나 OU-GBM 혼합, 점프-확산(Jump-Diffusion) 결합으로 확장할 수도 있다. 위험중립 측도 아래에서는 GBM의 드리프트를 (μ → r − q)로 조정하고, 금리·볼라 모델과 결합해 운영한다.
상태공간과 목적에 따른 비교
| 항목 | GBM | OU | 실무 포인트 |
|---|---|---|---|
| 상태공간 | (0, ∞) | ℝ | 자산가격 vs 스프레드/금리 구분 |
| 평균회귀 | 없음 | 있음(θ) | 차익거래·스프레드 트레이딩에 OU 적합 |
| 분포 | 로그정규 | 정규 | 리스크 측정 시 꼬리 두께 고려 |
| 정상성 | 비정상 | 정상 수렴 | 장기 예측 안정성 차별화 |
| 해석해 | 존재 | 존재 | 정확 이산화로 시뮬레이션 편의 |
| 수치 안정성 | 곱셈형 노이즈 민감 | 안정적 | GBM은 log-스킴 권장 |
| 경계 | 0 흡수 가능성 | 없음 | 음수 불가 변수엔 GBM 필요 |
| 모수 | μ, σ | θ, μ, σ | 해석·의사결정 해석 용이성 |
| 추정 | 로그수익률 MLE | AR(1)/MLE | 데이터 빈도에 따른 편향 보정 |
| 적용 | 주가, FX, 암호자산 | 금리, 전력/가스, 스프레드 | 도메인 제약 반영 필요 |
프라이싱부터 운영 데이터까지의 적용 범위
금융 프라이싱과 리스크 계산에서는 GBM으로 주가·FX 경로를 생성하고 Black–Scholes 옵션 프라이싱 및 위험중립 경로 생성에 활용할 수 있다. OU는 Vasicek 기저의 단기금리·변동성 요인, 평균회귀 스프레드와 페어트레이딩 시그널에 연결된다.
에너지·원자재와 산업공정에서는 OU가 장비 드리프트, 센서 오프셋, 재고 수준의 평균회귀 동학을 표현하는 데 쓰인다. 양의 가격 제약이 강한 현물·선물 가격 동학은 GBM으로 근사할 수 있다.
운영과 시스템 모델링에서는 용량 계획이나 수요 예측에서 랜덤 워크와 평균회귀 가설을 비교하고, 적합도를 근거로 모델을 선택하는 절차를 둔다.
데이터에서 경로 생성까지 이어지는 운영 흐름
입력은 시계열 데이터 ({S_t}) 또는 ({X_t}), 표본 간격 (Δ), 양수 또는 음양 상태공간 같은 도메인 제약, 그리고 프라이싱·리스크·제어 목적이다.
전처리 단계에서는 이상치를 처리하고 GBM 후보에는 로그변환을 적용한다. OU 후보는 ADF/PP로 정상성을 점검한다. 이후 상태공간 제약, 평균회귀 가설, 예측지평을 기준으로 모델을 고른다.
GBM은 로그수익률 기반 MLE로, OU는 OLS/MLE 또는 정확 이산화 기반 MLE로 모수를 구한다. 추정 결과는 잔차 독립성과 정규성, 히스토그램·Q-Q, Ljung–Box, AIC/BIC로 진단한다. 시뮬레이션에서는 시간격자를 정하고 RNG 시드를 고정한 뒤 Euler–Maruyama, Milstein, 정확 이산화 중 적합한 방식을 적용한다. 필요하면 antithetic, control variate 같은 분산감소 기법도 선택한다.
최종 산출물은 추정 모수, 진단 리포트, 경로 샘플, VaR/CVaR 같은 리스크 지표와 정책·헤지 의사결정 인사이트가 된다. 백테스트, 프라이싱 오차, 예측 RMSE/CRPS, 시나리오 민감도로 결과를 검증한다.
정확도와 운영성을 함께 보는 효과
OU를 도입하면 평균회귀 변수의 예측 RMSE가 10~30% 개선될 가능성이 있으며, 장기 분산 상한은 극단값을 억제하는 효과를 낸다. GBM의 로그정규성을 사용하면 옵션 프라이싱에서 폐형 또는 준폐형을 적용해 계산 오차와 시간을 줄일 수 있다.
GBM에 log-스킴이나 밀스타인을 적용하면 이산화 과정의 음값 문제를 제거하고, 동일 정확도 대비 (Δt)를 24배 확대할 수 있다. antithetic/control variate 분산감소 기법은 경로 기반 추정의 표준오차를 3050% 낮출 수 있다.
OU를 정확 이산화로 추정하면 파이프라인을 단순화하고 실시간 업데이트를 쉽게 만들 수 있다. 다변량 상관과 점프 결합을 모듈식으로 연결하는 구조는 모델 거버넌스와 재현성을 강화한다.
GBM과 OU의 선택은 양수 제약과 상대 변동성, 평균회귀와 정상성 중 무엇이 데이터와 목적에 더 맞는지에 달려 있다. 추정·진단·시뮬레이션을 일관된 파이프라인으로 구성하고, 분산감소와 민감도 분석을 병행해야 프라이싱과 리스크 지표의 신뢰 구간을 다룰 수 있다.