교차 집단까지 점검하는 AI 모델 공정성 메트릭
Intersectional Fairness와 Group Fairness Metrics의 기준, 메트릭 충돌, 희소 집단 측정과 완화 전략을 정리한다.
2026-08-14 · 최초 발행 2024-04-29
단일 집단 지표만으로 놓치기 쉬운 공정성
AI/ML 모델의 결과는 보호 속성별로 균형을 보더라도, 여러 속성이 만나는 집단에서는 다른 양상을 보일 수 있다. Intersectional Fairness와 Group Fairness Metrics는 이 편향과 차별 리스크를 관리하기 위한 공정성 평가의 핵심 개념이다.
Group Fairness는 성별, 인종, 연령 같은 보호 속성별 예측 또는 의사결정 결과가 통계적으로 균형을 이루는지를 다룬다. 대표적인 기준으로는 Demographic Parity(DP), Equal Opportunity(EOpp), Equalized Odds(EO), Predictive Parity(PPV Parity), Calibration within Groups가 있다.
Intersectional Fairness는 하나의 보호 속성을 넘어 여러 속성의 교차 조합을 평가 단위로 삼는다. 예를 들어 여성∩흑인∩저연령 집단처럼 구성된 하위 집단을 별도로 확인한다. 이는 소수 교차 집단의 불이익을 가리는 공정성 게리맨더링을 막고, 최악 집단(worst-case subgroup)의 최소 성능을 보장하려는 관점과 연결된다.
공정성 메트릭은 다음처럼 표현할 수 있다.
- Demographic Parity: P(ŷ=1|A=a)의 동일성을 요구한다.
- Equal Opportunity: TPR parity, 즉 P(ŷ=1|Y=1, A=a)의 동일성을 요구한다.
- Equalized Odds: TPR과 FPR의 패리티를 동시에 요구한다.
- Calibration within Groups: P(Y=1|s, A=a) ≈ s가 유지되도록 요구한다.
메트릭 선택은 충돌 관계에서 시작한다
Calibration, EO, PPV는 기저율이 다를 때 동시에 충족되지 않을 가능성이 있다. 불가능 정리가 가리키는 이 충돌 때문에, 모든 메트릭을 일률적으로 최적화하기보다 운영 목표에 맞는 1차 메트릭과 보조 메트릭을 정해야 한다. 선택 기준에는 규제, 윤리, 비즈니스 리스크가 함께 들어간다.
교차 집단을 만들 때는 다중 속성 조합이 빠르게 늘어나는 문제가 따른다. k-익명성 기준과 최소 표본 임계치(n_min)를 적용하고, 희소 집단을 병합하는 방식을 고려할 수 있다. 이 과정은 보호 속성 스키마, PII 분리, privacy budget, 접근 권한 관리와 분리해서 설계하기 어렵다.
희소 집단에서는 신뢰구간이 넓어져 추정이 불안정해질 수 있다. 부트스트랩, 베이지안 추정, 가중치 스무딩은 분산을 완화하는 방법이다. 절대 격차|Δ|, 비율 지표(DI ratio), 신뢰구간의 크기와 일관성을 함께 모니터링해야 한다.
완화는 적용 시점에 따라 나뉜다.
- 사전처리에서는 재표본·재가중치와 표현 학습(Adversarial debiasing)을 적용한다.
- 학습 단계에서는 공정성 제약 최적화(Constrained optimization)와 비용 민감 손실을 사용한다.
- 사후처리에서는 집단별 임계값 조정, 확률 보정(calibration), 예측 뒤섞기(randomization)를 적용한다.
의사결정 모델에서의 적용 방식
신용 승인 모델에서는 합리적인 승인 기회를 보장하기 위해 Equal Opportunity를 우선 메트릭으로 둘 수 있으며, DI ratio ≥ 0.8 가이드를 준수한다. 데이터 단계에서는 소득·부채·과거 연체와 보호 속성 프록시를 점검한다. 이후 교차 집단별 TPR gap, DI ratio, 95% CI를 산출하고, 그룹별 임계값 튜닝과 비용 민감 로지스틱 회귀를 병행한다. 운영에서는 월간 리포트와 최악 집단 기준 게이트를 유지하며, 표본이 부족하면 집단 병합 룰을 적용한다.
채용 추천 시스템은 최종 추천 비율의 Demographic Parity와 Calibration을 함께 추구하되, 캘리브레이션을 우선할 수 있다. 피처의 공정성을 검토해 프록시를 제거하고 후보 순위를 산정한 뒤, 집단별 확률 보정과 소프트 쿼터 기반 재랭킹을 적용한다. A/B 테스트로 품질-공정성 프론티어를 추정하고 채용 단계별 드롭오프를 분석한다.
의료 트리아지에서는 과소치료 위험을 최소화하기 위해 TPR/FPR 균형을 보는 Equalized Odds를 우선할 수 있다. 임상 리스크 모델을 캘리브레이션한 뒤 교차 집단의 TPR/FPR 격차를 평가하고, 비용 민감 손실 기반 재학습과 경계 사례의 임상 검토 워크플로를 통합한다.
측정부터 운영 감시까지 이어지는 흐름
보호 속성이 결측이면 안전 기본값을 쓰지 않고 평가 집단에서 제외하거나 다중 대치를 적용한다. 희소 집단의 노이즈는 베이지안 스무딩과 신뢰구간 기반 알림으로 다룬다. 프라이버시 측면에서는 n_min과 l-다양성 기준을 강화하고 접근 권한을 분리한다.
공정성 기준별 운영상 차이
| 항목 | Demographic Parity | Equal Opportunity | Equalized Odds | Calibration within Groups |
|---|---|---|---|---|
| 성능(정확도 영향) | 중간~높음, 임계값 재조정 필요 | 중간, 긍정 클래스에 집중 | 높음, TPR/FPR 동시 제약 | 낮음~중간, 확률 보정 중심 |
| 확장성(다중 집단) | 높음, 집단별 비율 계산 용이 | 중간, 라벨 조건 필요 | 중간, 이중 조건 복잡성 | 중간, 구간별 충분 표본 필요 |
| 일관성(임계값 변화) | 낮음, 임계값 의존 | 중간 | 낮음, 엄격 제약 | 높음, 확률적 일관성 |
| 안정성(소표본 민감도) | 중간 | 낮음~중간 | 낮음 | 중간, 보정 구간 크기 영향 |
| 운영 편의 | 높음, 커뮤니케이션 용이 | 중간 | 낮음, 복잡 설명 | 중간, 모델 리포팅 친화 |
교차 집단 메트릭을 계산하는 예시
전제조건: Python 3.10+, scikit-learn 1.4+, fairlearn 0.10+
# pip install scikit-learn==1.4.2 fairlearn==0.10.0 numpy pandas
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import roc_auc_score
from fairlearn.metrics import MetricFrame, selection_rate, true_positive_rate, false_positive_rate
# 예시 데이터
rng = np.random.RandomState(42)
n = 5000
X = rng.randn(n, 5)
A_sex = rng.choice(['F','M'], size=n)
A_race = rng.choice(['W','B','A'], size=n)
# 레이블 생성(의도적 기저율 차이)
p = 1/(1+np.exp(-(X[:,0] + 0.5*(A_sex=='M') - 0.3*(A_race=='B'))))
y = rng.binomial(1, p)
# 모델 학습
clf = LogisticRegression(max_iter=1000).fit(X, y)
proba = clf.predict_proba(X)[:,1]
y_pred = (proba >= 0.5).astype(int)
# 인터섹셔널 그룹 키
groups = pd.MultiIndex.from_arrays([A_sex, A_race], names=['sex','race'])
# 메트릭 계산
mf = MetricFrame(
metrics={
'selection_rate': selection_rate,
'tpr': true_positive_rate,
'fpr': false_positive_rate
},
y_true=y,
y_pred=y_pred,
sensitive_features=groups
)
print("전체 AUC:", roc_auc_score(y, proba))
print("교차 집단별 selection_rate:\n", mf.by_group['selection_rate'])
print("최악 집단 TPR:", mf.by_group['tpr'].min(), "최고 집단 TPR:", mf.by_group['tpr'].max())
print("TPR 격차:", mf.by_group['tpr'].max() - mf.by_group['tpr'].min())운영 시 n_min(예: ≥ 200) 미만의 교차 집단은 제외하거나 병합할 수 있다. 부트스트랩 1000회로 메트릭별 95% CI를 함께 보고하고, 최악 집단 기준의 경보 임계값도 둔다. 예를 들어 TPR gap > 0.1을 경보 기준으로 정의할 수 있다.
최악 집단 TPR 격차는 0.25 → 0.08로 축소될 가능성이 있고, Demographic Parity 격차는 0.2 → 0.1 수준으로 완화될 가능성이 있다. Disparate Impact ratio는 0.6 → 0.85로 향상될 가능성이 있으며, 집단 수에 비례해 런타임 오버헤드 +10~30% 수준이 발생할 수 있다.
이런 체계는 규제 준수와 감사의 용이성을 높이고, 이해관계자 신뢰와 모델 채택률 상승으로 이어질 수 있다. 조직 차원에서는 공정성 거버넌스를 내재화하고 의사결정의 투명성을 강화하는 기반이 된다.