모델링만 잘하면 끝이라는 착각이 만드는 ML 기술부채

모델 정확도가 95%를 넘어도 서비스가 몇 달 만에 무너지는 사례는 드물지 않다. 원인을 추적해보면 대개 모델 자체가 아니라 그 주변 — 데이터 파이프라인, 배포 절차, 거버넌스 — 에 있다. 모델링만 잘하면 프로젝트가 성공한다는 착각은 머신러닝(ML) 시스템 전 수명주기에서 복합적인 기술부채를 유발한다. 이 글은 "Model-First Fallacy and ML Tech Debt" 관점에서 모델 수정 불가능성, 데이터 불일치, 블랙박스 문제, 추상화 경계 소실의 메커니즘을 해부하고 MLOps 기반의 예방·상환 절차를 정리한다.

모델링 만능주의가 쌓는 기술부채의 범주

모델링 만능주의는 모델링 단계의 성과를 프로젝트 성공과 동일시하며 데이터·파이프라인·운영·거버넌스 요구를 과소평가하는 인식이다. 이 인식이 누적시키는 ML 기술부채는 데이터 부채, 모델·특징 부채, 파이프라인 부채, 운영 부채, 거버넌스 부채 다섯 범주로 나뉜다. 발생 메커니즘은 데이터-코드-인프라의 강결합, 비결정성·확률성, 운영 중 분포 변화, 설명 가능성 요구의 누락 등이다.

모델은 왜 마음대로 고칠 수 없는가

학습 가중치·임베딩·아키텍처는 생각보다 경직적이다. 토크나이저나 임베딩 같은 특정 계층을 교체하면 성능이 급락할 위험이 있고, 외부 라이브러리·프레임워크·서빙 런타임에 대한 벤더 종속은 이식 비용을 늘리고 보안 패치를 지연시킨다. 난수와 병렬 처리에서 비롯되는 비결정성은 환경·시드·컨테이너화가 미흡하면 릴리스 재현성 자체를 무너뜨린다.

학습 때 본 데이터와 운영 중 들어오는 데이터가 다르다

분포 변동(Covariate/Concept Drift)과 스키마 드리프트는 훈련-서빙 특성 불일치와 누락을 낳아 예측 성능을 급락시킨다. 데이터 계약이 없으면 상류 시스템의 변경이 하류 모델을 조용히 깨뜨린다 — 피처 정의·유닛 스케일·결측 처리 방식이 팀마다 사일로화되기 때문이다. 여기에 데이터 신선도와 레이블 지연(ground truth delay)이 겹치면 온라인·오프라인 성과 추정 자체가 왜곡된다.

입력과 출력만 보이고 안은 보이지 않는다

블랙박스화는 금융·의료 같은 규제·컴플라이언스 영역에서 특히 치명적이다. 결과의 근거를 제시하지 못하면 승인·감사 리스크가 커지고, 오류 분석과 디버깅 난이도가 올라가 잔차 구조나 바이어스 위치를 특정하기 어려워진다. 모델 카드, 데이터시트, 특성 중요도·SHAP 같은 설명 도구가 없으면 운영 판단 자체가 지연된다.

전통적 소프트웨어에는 있던 경계가 사라진다

데이터·특징·모델·서빙·실험이 뒤섞이고 레이어 간 인터페이스가 없으면 변경의 영향 범위를 예측할 수 없다. 테스트 피라미드는 모델 성능 테스트만 남고 데이터·피처 테스트가 빠지면서 붕괴하며, 데이터셋·특징 정의·모델·코드·런타임의 버전이 서로 맞물리지 않는 일이 반복된다.

전통적 SW와 ML 시스템은 운영 특성부터 다르다

항목	전통적 SW	ML 시스템
성능	알고리즘·코드 최적화 중심	데이터 분포·특징 품질 지배, 성능 변동성 큼
확장성	요청량과 상태 관리 중심	피처 조회/캐시·온라인/오프라인 동형성 요구
일관성	API 계약·타입 안정성	데이터 계약·피처 스키마·레이블 지연 관리 필요
안정성	회귀 테스트로 담보	드리프트·컨셉 변화 모니터링과 롤백 전략 필수
운영 편의	CI/CD 표준 성숙	지속 학습(CT), 실험/모델 레지스트리, 피처 스토어 필요

버전을 동시에 고정하지 않으면 재현할 수 없다

데이터셋·피처·모델·코드·런타임 아티팩트는 동시에 버전화해야 한다. 데이터셋 해시, 피처 스키마 버전, staging·production 별칭을 쓰는 모델 레지스트리 운영이 기본이며, 컨테이너 이미지 고정·시드 고정·의존성 락 파일(pip-tools/poetry.lock)로 재현성을 보장한다. 이 버전화가 갖춰지면 아티팩트 버전 고정만으로 롤백·재배포 시간이 50% 단축된다.

데이터에도 계약이 필요하다

컬럼, 타입, 허용 범위, 결측 정책을 정의하는 스키마·통계 계약을 Great Expectations나 TFX Data Validation 같은 도구로 강제하고, 스키마 위반·분포 이동·신선도 실패가 감지되면 파이프라인 게이트에서 배포를 중단하고 알림을 보낸다. 피처 엔지니어링 함수를 공용 라이브러리화하면 온라인/오프라인 동형성을 검증할 수 있다.

설명할 수 없으면 배포할 수 없다

모델 카드·데이터시트를 필수화해 데이터 출처, 편향 리스크, Intended Use·Out-of-Scope를 명시하고, SHAP·LIME·Integrated Gradients 같은 설명 가능성 툴체인과 민감 속성별 편향 지표(BPSN, TPR gap)를 모니터링한다. 변경 승인은 RACI 기반 CR(변경 요청) 검토와 MLflow·W&B 같은 실험 추적으로 기록을 남긴다. 해석 리포트를 자동화하면 감사 소요 시간이 20~40% 단축된다.

한 번에 100%로 배포하지 않는다

배포는 Shadow → Canary(15%) → Progressive Rollout 단계를 거치고 실패 시 자동 롤백한다. 오프라인-온라인 평가 브릿지로 리플레이·샌드박스 서빙과 비용·위험 상한 같은 정책 제약을 적용하며, 실험 관리는 AUC·latency·cost-per-prediction 같은 유니버설 메트릭과 사전 합의된 리프트·유의성 검정으로 이뤄진다. 이 단계적 배포와 데이터 계약 게이트를 함께 적용하면 스키마 위반·드리프트로 인한 배포 실패율이 3050% 감소한다.

드리프트를 놓치지 않으려면

예측 지연, 에러율, 피처 신선도, 스키마 위반율, PSI·JS Divergence 기반 데이터·컨셉 드리프트 지표, 온라인 정확도(약표적·지연 보정)를 SLI로 삼는다. SLO 예시로는 p95 추론 지연 120ms 이하, 하루 스키마 위반률 0.1% 이하, PSI 0.2 이하가 있고 가드레일 KPI가 하락하면 자동 축소가 트리거된다. 드리프트 감지 시 재학습 워크플로우가 자동으로 트리거되고 실패하면 마지막 안정 모델로 롤백되는데, 이렇게 불필요한 재학습·실험 중복을 줄이면 GPU·스토리지 비용이 15~25% 절감된다.

입력에서 롤백까지, 파이프라인 한 장

⤢✕

실제로 상환한 사례 셋

추천 시스템에서는 오프라인 피처 스케일링과 온라인 스케일링이 어긋나 CTR이 급락한 사례가 있었다. 피처 라이브러리를 단일화하고 피처 스토어를 도입한 뒤 스키마·통계 계약 게이트를 적용해 상환했다.

신용 심사 모델에서는 규제 심사에서 의사결정 근거가 부족해 배포가 지연된 사례가 있었다. 모델 카드·SHAP 리포트를 자동 생성하고 편향 지표 모니터링 대시보드를 구축하며 정책 가드레일을 설정해 대응했다.

제조 결함 탐지에서는 원자재 변경 이후 컨셉 드리프트로 오탐이 증가한 사례가 있었다. PSI 모니터링을 도입하고 드리프트 임계치 초과 시 재학습 파이프라인을 자동 트리거하되 카나리 검증을 거친 뒤 확대 배포하는 방식으로 대응했다.

기술부채는 발생한 뒤 갚는 것보다 발생 전에 막는 쪽이 항상 싸다. 데이터 계약, 해석 가능성, 거버넌스, 관측성, 배포 전략을 체계화하고 MLOps 표준화와 아티팩트 버전화를 먼저 도입한 뒤 Shadow/Canary·가드레일·자동 롤백으로 운영 리스크를 최소화하는 순서가 권장된다. 상환 계획은 로드맵·지표·책임을 명문화해야 지속 가능해진다.