스토캐스틱 프로세스로 불확실한 시스템을 모델링하는 방법

불확실한 경로를 표현하는 틀

시간 또는 지표 집합 위에 확률변수를 배치하면 스토캐스틱 프로세스가 된다. 개별 시점의 값보다 값이 이어지는 경로 자체의 불확실성을 모델링하는 데 쓰인다. 금융, 제조, 네트워크, 강화학습처럼 상태와 관측치가 계속 변하는 영역에서 시뮬레이션 기반 의사결정의 기반이 된다.

마코프 체인은 현재 상태가 미래에 영향을 주는 마코프성을 전제로 한다. 이산시간·연속시간 모두에 적용할 수 있고, 상태공간도 유한하거나 무한할 수 있다. 이산시간에서는 전이확률행렬, 연속시간에서는 전이율행렬로 표현한다.

브라운 운동은 연속시간과 연속 경로를 가지며, 정규 분포를 따르는 독립증분을 전제로 한다. 드리프트와 확산(분산)으로 파라미터화하며, 확률미분방정식(SDE)을 해석할 때 기본 구성요소가 된다.

레비 프로세스는 독립·정상증분을 갖는 연속시간 프로세스의 일반적인 틀이다. 브라운 운동뿐 아니라 포아송, 복합포아송, 안정분포와 같은 순수 점프를 포괄한다. 레비-힌친(Lévy–Khintchine) 삼중항인 드리프트 b, 확산 σ, 점프측도 ν로 규정한다.

시간 구조와 증분이 결정하는 모델의 차이

이산시간의 유한 상태를 다룬다면 마코프 체인이 잘 맞는다. 연속시간으로 확장할 때는 제너레이터, 즉 전이율을 중심으로 모형화한다. 조건부 독립 구조를 바탕으로 정지분포와 혼합성을 분석하기 쉽지만, 상태가 늘어나면 상태공간 폭증이 발생할 수 있다.

브라운 운동은 연속시간·연속상태 모델이며 경로 연속성을 보장한다. 다변량 확장이 비교적 수월하고, 독립·정상증분과 마팅게일 성질, 스케일링 불변성을 가진다. 다만 시간 간격 Δt 선택에 따라 수치적 결과가 민감해질 수 있다.

레비 프로세스도 연속시간·연속상태를 다루지만, 점프를 통해 불연속 경로를 허용한다. 무거운 꼬리와 비정규성, 극단값과 급격한 변동을 포착하는 데 적합하다. 점프 구조가 복잡해질수록 샘플링과 교정·캘리브레이션의 부담은 커진다.

추정과 시뮬레이션에서 확인할 조건

마코프 체인은 전이행렬 또는 제너레이터를 추정한다. 빈도 기반 MLE를 사용할 수 있고 규제화도 적용할 수 있다. 시뮬레이션에서는 전이행렬 승수와 다단계 표본화를 사용하며, 희소행렬과 파워방법을 적용할 수 있다.

브라운 운동에서는 드리프트와 확산을 추정한다. 고빈도 데이터에서는 실현변동성 기반 추정이 유효하다. 수치 계산에는 오일러-마루야마 또는 밀스타인 적분 근사를 사용하며, Δt 안정성을 관리해야 한다.

레비 프로세스는 레비 삼중항을 추정 대상으로 삼는다. 특성함수 기반의 GMM/EM이나 점프 검출 기반 혼합추정이 필요하다. 복합포아송 점프의 합산과 확산을 혼합해 시뮬레이션할 수 있으며, 점프 강도와 분포를 위한 샘플러가 필요하다.

상태 전이, 확산, 점프가 쓰이는 장면

금융에서는 주가·금리 경로 생성과 옵션 가격평가에 브라운 운동 기반 블랙–숄즈와 점프-확산(레비) 대안을 적용한다. 신용등급 이행은 마코프 체인으로 모델링해 PD/LGD 시나리오를 만들고, 스트레스 테스트와 포트폴리오 VaR 산출에 활용할 수 있다.

제조·운영 환경에서는 설비 상태를 정상, 경미 고장, 중대 고장으로 전이시키는 마코프 모델을 통해 예방정비를 최적화한다. 센서 드리프트와 노이즈는 브라운 운동으로 근사하고 SPC 경보 임계값을 동적으로 조정할 수 있다. 수요 급증과 이상 이벤트에는 레비 점프를 반영해 재고와 대기행렬의 과부하 위험을 평가한다.

네트워크에서는 패킷 손실과 회복을 마코프 전이로 나타내고, M/M/1·M/M/c 큐와 결합해 SLA를 분석한다. 트래픽 버스트와 무거운 꼬리에는 레비 프로세스를 적용해 임계 혼잡 확률을 추정한다.

강화학습에서는 MDP의 전이동역학 근사에 마코프 체인을 사용하고 정책 평가와 개선의 수렴성을 분석한다. 확률경로 시뮬레이션은 정책의 강건성을 검증하는 데 쓰이며, 희귀 이벤트 점프 주입은 안전성 검정에 활용할 수 있다.

점프-확산(레비)을 도입하면 백테스트 위반율이 1~~3%p 감소할 가능성이 있다. 로그우도 증가, AIC/BIC 감소와 함께 예측 MSE가 5~~15% 개선될 수 있으며, 희소 전이행렬과 벡터화 시뮬레이션은 벽시계 시간을 30% 이상 절감할 수 있다. 전이행렬·정지분포·점프 강도를 해석하면 원인 추적이 쉬워지고, 시나리오 기반 임계값·헤지·용량 계획도 신속히 조정할 수 있다.

진단에서 운영 결과까지 이어지는 흐름

⤢✕

계산 비용과 운영 관점에서 비교하기

모델	성능(계산비용)	확장성(차원/상태)	일관성(통계적 가정)	안정성(수치/추정)	운영 편의(해석/튜닝)
마코프 체인	높음: 희소/행렬연산 최적화 용이	중간: 상태폭증 위험	높음: 마코프성·정상성 가정 명확	높음: 수렴·정지분포 분석 용이	높음: 전이행렬 해석 직관
브라운 운동	높음: 벡터화 시뮬레이션 용이	높음: 다변량 확장 용이	높음: 독립·정상증분 단순	중간: Δt 선택 민감	중간: 파라미터 소수, 단 경로 해석 제한
레비 프로세스	중간: 점프 샘플링 비용	중간: 점프구조 증가 시 복잡	높음: 레비 프레임 일반성	중간: 꼬리·희귀 이벤트 민감	중간~낮음: 교정·캘리브레이션 난이도

시뮬레이션 코드

전제조건: Python 3.10+, numpy 1.26+, optional matplotlib 3.7+ (시각화 미포함)

이산시간 유한 상태 마코프 체인

import numpy as np

# 전이행렬 P (행 합=1), 상태 0,1,2
P = np.array([[0.8, 0.15, 0.05],
              [0.1, 0.8,  0.1 ],
              [0.2, 0.2,  0.6 ]], dtype=float)

def simulate_markov(P, s0=0, steps=1000, rng=None):
    rng = rng or np.random.default_rng()
    states = np.empty(steps+1, dtype=int)
    states[0] = s0
    for t in range(steps):
        states[t+1] = rng.choice(P.shape[1], p=P[states[t]])
    return states

path_mc = simulate_markov(P, s0=0, steps=1000)

드리프트와 확산을 가진 브라운 운동

import numpy as np

def brownian_motion(T=1.0, n=1000, mu=0.0, sigma=1.0, x0=0.0, rng=None):
    rng = rng or np.random.default_rng()
    dt = T / n
    dW = rng.normal(loc=0.0, scale=np.sqrt(dt), size=n)
    x = np.empty(n+1)
    x[0] = x0
    x[1:] = x0 + np.cumsum(mu*dt + sigma*dW)
    return x

path_bw = brownian_motion(T=1.0, n=2000, mu=0.0, sigma=1.0)

복합포아송 점프를 사용하는 레비 프로세스

import numpy as np

def compound_poisson(T=1.0, n=1000, lam=5.0, jump_mu=0.0, jump_sigma=1.0, x0=0.0, rng=None):
    rng = rng or np.random.default_rng()
    dt = T / n
    x = np.empty(n+1)
    x[0] = x0
    x_t = x0
    for t in range(1, n+1):
        # 구간별 점프 개수
        k = rng.poisson(lam * dt)
        # 점프 합
        jumps = rng.normal(jump_mu, jump_sigma, size=k).sum() if k > 0 else 0.0
        x_t += jumps
        x[t] = x_t
    return x

path_levy = compound_poisson(T=1.0, n=2000, lam=10.0, jump_mu=0.0, jump_sigma=0.5)

브라운 운동과 레비를 혼합한 점프-확산은 compound_poisson 결과에 brownian_motion의 증분을 더해 구현할 수 있다. 캘리브레이션에서는 마코프 체인에 빈도 추정 후 라쏘·심플렉스 제약을 적용하고, 레비 프로세스에는 특성함수 기반 GMM 또는 점프 검출 사전 단계를 둘 수 있다.

모형을 운영에 올릴 때 남는 제약

모형을 고르기 전에는 정상성, 자기상관, 점프성, 무거운 꼬리의 존재를 확인한다. 로그우도·AIC/BIC·백테스트 위반율·QQ/KS를 함께 평가하면 하나의 지표에만 의존하지 않을 수 있다. 브라운 운동의 단순성과 레비 프로세스의 꼬리포착력, 마코프 체인의 해석력과 상태공간 폭증은 서로 맞바꾸는 조건이다.

시간 이산화에서는 Δt를 줄일수록 연산비가 늘고, 키울수록 바이어스가 커진다. 목적지표를 기준으로 적절한 Δt를 탐색해야 한다. 전이행렬은 비음수와 행합=1을 지켜야 하며, 확산의 양의성과 점프측도의 적분가능성도 보장해야 한다. 전처리→추정→검증→시뮬레이션을 CI로 파이프라인화하고 RNG 시드와 버전을 고정하면 재현성을 확보할 수 있다.

파라미터 변동에 따른 KPI 변동폭을 산출해 시나리오의 상한과 하한을 관리한다. 데이터 외삽 구간을 과신하지 않고 드리프트 전환체크(체인지포인트)를 도입하는 것도 모형 위험 관리에 포함된다. 전이행렬, 레비 삼중항, 추정 절차와 한계 가정은 문서로 남긴다.

마코프 체인, 브라운 운동, 레비 프로세스는 상태 기반 전이, 연속 확산, 점프를 각각 다루며 서로 보완한다. 데이터 진단부터 모형 선택, 모수 추정, 진단·검증, 시뮬레이션, 운영화까지의 흐름을 지키고, 단순 모형에서 출발해 점프와 다변량 요소를 점진적으로 확장하는 방식이 적합하다.