베이즈 정리: 새 증거로 확률을 다시 계산하는 법

베이즈 정리는 새로운 증거가 기존 가설의 확률에 어떻게 영향을 미치는지 계산하는 수학적 공식이다. 18세기 영국의 수학자 토머스 베이즈에 의해 개발되었으며, 현대 인공지능과 데이터 분석의 이론적 기반이 되는 핵심 개념이다.

조건부 확률을 거꾸로 뒤집는 공식

베이즈 정리는 조건부 확률 관계를 역으로 추론하는 방법을 제시한다. 기존에 알려진 정보(사전 확률)를 새로운 증거를 바탕으로 갱신하는 과정을 수학적으로 표현한 것이다.

공식은 다음과 같다.

P(A|B) = P(B|A) × P(A) / P(B)

P(A|B): 사후 확률 — 증거 B가 관찰된 후 가설 A의 확률
P(B|A): 가능도 — 가설 A가 참일 때 증거 B가 관찰될 확률
P(A): 사전 확률 — 증거를 고려하기 전 가설 A의 초기 확률
P(B): 정규화 상수 — 증거 B의 한계 확률

베이즈 정리는 '증거가 주어졌을 때 가설의 확률'을 계산하며, 초기 신념(사전 확률)에서 시작해 증거에 따라 신념을 갱신하는 과정이라고 이해할 수 있다.

희귀 질병 진단으로 보는 기저율 오류

인구의 1%가 특정 희귀 질병을 가진다고 하자(사전 확률). 진단 테스트의 정확도는 질병이 있는 경우 95% 양성(민감도), 질병이 없는 경우 90% 음성(특이도)이다. 테스트 결과가 양성인 경우, 실제 질병 확률은 얼마일까.

⤢✕

베이즈 정리로 계산하면 다음과 같다.

P(질병|양성) = P(양성|질병) × P(질병) / P(양성)
P(질병|양성) = 0.95 × 0.01 / (0.95 × 0.01 + 0.1 × 0.99) ≈ 0.088 (8.8%)

양성 결과에도 불구하고 실제 질병 가능성이 8.8%에 불과한 이유는 기저율(base rate)이 낮기 때문이다. 이를 '기저율 오류'라고 부른다.

스팸 필터부터 추천 시스템까지, 실무에 쓰이는 곳

스팸 필터링에서는 이메일이 특정 단어를 포함할 때 스팸일 확률을 계산한다. "당첨"이라는 단어가 포함된 이메일이 스팸일 확률은 P(스팸|"당첨") = P("당첨"|스팸) × P(스팸) / P("당첨")로 구하고, 여러 단어의 확률을 결합해 종합적인 스팸 확률을 계산한다.

의학적 진단에서는 증상이 주어졌을 때 특정 질병의 확률을 추정한다. 여러 검사 결과를 통합해 진단 정확도를 높이고, 위양성과 위음성을 조화롭게 관리하는 데 기여한다.

기계 학습과 인공지능에서는 나이브 베이즈 분류기가 텍스트 분류·감정 분석 등에 쓰이고, 베이지안 네트워크가 변수 간 확률적 관계를 그래프로 표현하며, 베이지안 최적화가 복잡한 함수의 최적점을 효율적으로 탐색한다.

⤢✕

금융 및 리스크 관리에서는 새로운 시장 정보를 바탕으로 투자 전략을 갱신하고, 고객의 다양한 특성을 고려해 채무불이행 확률을 계산하며, 비정상적 거래 패턴을 식별하는 사기 탐지에 활용한다.

정보 검색 및 추천 시스템에서는 과거 행동을 바탕으로 사용자 선호도 확률을 추정하고, 단어 간 조건부 확률로 연관 검색어를 제안하며, 사용자 프로필 데이터에 베이지안 접근을 적용해 콘텐츠를 개인화한다.

베이지안 추론이 주는 것과 감수해야 할 것

베이지안 추론의 장점은 다음과 같다.

불확실성의 명시적 표현: 가설에 대한 확률 분포를 통해 불확실성을 정량화한다
점진적 학습: 새로운 데이터가 들어올 때마다 신념을 갱신할 수 있다
사전 지식 통합: 도메인 전문가의 지식을 사전 확률로 모델에 반영한다
과적합 방지: 정규화 효과로 인해 제한된 데이터에서도 안정적으로 추론한다
모델 비교: 베이지안 모델 비교를 통해 가장 적합한 모델을 선택할 수 있다

반면 한계도 뚜렷하다. 복잡한 모델에서는 사후 확률 계산이 분석적으로 불가능한 계산 복잡성 문제가 있고, MCMC(마르코프 체인 몬테카를로)나 변분 추론 같은 근사 기법으로 대응한다. 정보가 부족할 때 적절한 사전 확률을 고르는 것이 주관적이라는 사전 확률 설정의 어려움은 무정보적 사전 확률을 쓰거나 민감도 분석을 수행해 보완한다. 베이즈 정리는 상관관계만 다룰 뿐 인과관계와 상관관계를 직접 구분하지 않으며, 복잡한 모델의 베이지안 추론은 상당한 계산 자원을 요구한다.

사전 확률을 갱신하는 실제 계산 절차

베이지안 갱신은 사전 확률과 데이터로부터 가능도를 거쳐 사후 확률을 얻고, 그 사후 확률이 다음 추론의 사전 확률로 다시 쓰이는 순환 구조다.

⤢✕

나이브 베이즈는 다음과 같이 구현한다.

def naive_bayes(features, prior, likelihood):
    posterior = prior
    for feature in features:
        posterior *= likelihood[feature]
    return posterior / normalizing_constant

사후 확률을 분석적으로 구하기 어려운 복잡한 모델에는 MCMC를 활용한다. 메트로폴리스-헤이스팅스 알고리즘, 깁스 샘플링, 햄튼 몬테카를로가 대표적인 방법이다.

딥러닝 쪽으로는 드롭아웃을 베이지안 근사로 해석하는 접근, 베이지안 신경망(BNN), 변분 오토인코더(VAE)로 응용이 확장된다.

정보관리 시스템에서 베이즈 정리를 쓰는 법

데이터의 신뢰성에 확률적 가중치를 부여해 불확실한 데이터를 처리하고, 다양한 요소를 고려해 최적 판단을 도출하는 의사결정 지원 시스템을 구축하며, 정상 패턴에서 벗어난 데이터 포인트를 찾는 이상 탐지에 쓴다. 확률적 관계를 통해 지식베이스를 확장하는 지식 그래프 보강, 검색 결과의 관련성을 확률적으로 평가하는 정보 검색 성능 향상, 다양한 소스의 정보를 베이지안 프레임워크로 묶는 정보 통합에도 활용된다.

베이지안 접근이 넓어지는 방향

베이지안 딥러닝 모델의 해석 가능성이 커지고 있고, 사용자별 맞춤형 확률 모델을 구축하는 개인화 서비스로 응용이 넓어진다. 기후변화나 금융위기처럼 불확실성이 큰 문제를 확률적으로 모델링하는 방향, 합리적 의사결정 프레임워크로서 베이지안 추론을 쓰는 의사결정 과학, 빅데이터 환경에서 확장 가능한 대규모 분산 베이지안 추론도 발전 방향으로 꼽힌다.

데이터가 폭발적으로 늘고 복잡성이 커지는 환경에서, 베이즈 정리는 단순한 계산 공식을 넘어 불확실성을 명시적으로 다루는 체계적인 접근법으로 그 쓰임이 넓어지고 있다.