AutoML은 무엇을 자동화하고, 사람은 어디에 남는가
AutoML이 자동화하는 머신러닝 파이프라인 단계와 주요 플랫폼, 금융·제조·헬스케어 도입 사례, 한계와 발전 방향을 정리한다.
2026-08-14 · 최초 발행 2025-05-23
머신러닝 모델을 만들려면 데이터 전처리부터 하이퍼파라미터 튜닝까지 여러 단계를 거쳐야 하고, 그 대부분은 여전히 전문가의 수작업에 의존한다. AutoML(Automated Machine Learning)은 이 수작업 과정을 자동화해 머신러닝 개발의 시간·비용·전문 지식 요구사항을 줄이는 접근법이다.
파이프라인 어디에 사람이 남아 있는가
HITL(Human In The Loop)은 자동화된 프로세스 안에서 여전히 사람의 개입이 필요한 부분을 가리키는 말이다. 지금의 머신러닝 워크플로우에서 HITL은 크게 세 구간에 몰려 있다.
데이터 전처리 단계에서는 결측치 처리, 이상치 탐지, 데이터 정규화·표준화, 특성 선택과 엔지니어링에 사람 손이 들어간다. 모델 개발 단계에서는 알고리즘을 고르고 하이퍼파라미터를 조정·최적화하는 작업이 필요하고, 평가·배포 단계에서는 모델 성능을 해석하고 이후 업데이트·유지보수를 결정하는 판단이 남는다. 이 HITL 구간들이 머신러닝 개발의 병목이며, 특히 전문 인력이 부족한 조직에서는 AI 도입 자체를 가로막는 장벽이 된다.
AutoML이 자동화하는 파이프라인 단계
AutoML 솔루션은 이 병목 구간을 다음과 같은 흐름으로 자동화한다.
자동 데이터 전처리는 결측치를 평균·중앙값·최빈값 등으로 자동 대체하고, 이상치를 탐지·처리하며, 정규화·표준화를 자동 적용한다. 자동 특성 엔지니어링은 중요 특성을 선택하고 변환·생성하며 차원을 축소한다. 자동 모델 선택은 다양한 모델 후보군을 평가해 문제 유형에 맞는 알고리즘을 골라내고, 자동 하이퍼파라미터 최적화는 베이지안 최적화·그리드 서치·랜덤 서치 등을 활용해 최적 구성을 탐색한다. 마지막으로 자동 모델 평가는 교차 검증을 통해 성능을 측정하고 다양한 평가 지표를 제공한다.
플랫폼마다 다른 접근
시장에는 성격이 다른 AutoML 솔루션들이 공존한다. Google Cloud AutoML은 비전·자연어·테이블 데이터 등 다양한 영역을 지원하며 사전 훈련된 모델과 전이학습을 활용한다. Microsoft Azure AutoML은 분류·회귀·시계열 예측을 지원하고 모델 해석 기능을 강화했다. H2O.ai는 오픈소스 AutoML 플랫폼이면서 Driverless AI로 엔터프라이즈 지원까지 확장했다. Auto-Sklearn은 파이썬 scikit-learn 기반 오픈소스로 메타러닝 접근법을 쓰고, Auto-PyTorch는 딥러닝 모델 자동화와 신경망 구조 최적화에 특화돼 있다.
금융·제조·헬스케어에서 검증된 사례
한국의 A 금융기관은 신용 평가 모델 개발에 AutoML을 도입했다. 기존에는 데이터 사이언티스트가 3주를 들여 모델을 개발했지만, AutoML 도입 후에는 2일 내에 유사한 성능의 모델이 자동 생성됐다. 신용 평가 정확도를 유지하면서 모델 개발 시간을 85% 단축한 결과다.
B 제조기업은 설비 고장 예측 시스템에 AutoML을 적용했다. 센서 데이터에서 이상 징후를 탐지하는 모델이 필요했는데, 수백 개의 센서 데이터 변수 중 중요 특성을 자동으로 선택하고 하이퍼파라미터를 최적화해 정확도를 끌어올렸다. 그 결과 설비 고장 예측 정확도가 72%에서 91%로 향상됐다.
C 의료기관은 영상 진단 보조 시스템에 AutoML 비전 도구를 활용해 이미지 전처리와 모델 생성을 자동화했다. 의료 영상에서 특정 질환을 탐지하는 모델을 만드는 데 전문가 수준의 진단 정확도를 달성했고, 개발 기간은 1/3로 단축됐다.
도메인 지식과 설명 가능성이라는 벽
AutoML에는 아직 넘지 못한 한계가 있다. 특정 산업이나 문제에 특화된 도메인 지식을 반영하기 어렵고, 전문가의 직관과 경험을 완전히 대체하지 못한다. 다양한 모델과 파라미터 조합을 탐색하는 과정은 상당한 컴퓨팅 자원을 소모하며, 대규모 데이터셋에서는 시간과 비용 문제로 이어진다. 자동 생성된 모델의 의사결정 과정을 이해하기 어렵다는 설명 가능성(Explainability) 문제는 금융·의료처럼 규제가 엄격한 산업에서 적용을 제한하는 요인이다. 그리고 AutoML도 결국 입력 데이터의 품질에 크게 좌우되며, 데이터 품질 문제 자체를 자동으로 해결하지는 못한다.
메타러닝과 NAS가 이끄는 다음 단계
향후 AutoML은 몇 갈래로 발전할 것으로 예상된다. 메타러닝은 과거 문제 해결 경험을 바탕으로 새로운 문제에 더 효율적으로 접근하게 하고, 신경망 구조 탐색(NAS)은 딥러닝 아키텍처 자동 설계 기술을 고도화하며 효율적인 탐색 알고리즘으로 계산 비용을 낮춘다. AutoML과 MLOps의 통합은 모델 개발을 넘어 배포·운영 자동화, 지속적 학습과 모니터링 자동화로 범위를 넓힐 전망이고, 설명 가능성 강화는 자동 생성 모델의 해석 기능을 개선해 규제 산업에서의 수용성을 높일 것으로 보인다. 산업별·문제 유형별로 도메인 지식을 내장한 특화 AutoML 솔루션이 늘어나는 것도 예상되는 흐름이다.
전문가의 수작업에 의존하던 복잡한 머신러닝 프로세스를 자동화하는 방향으로 AutoML은 계속 발전하겠지만, 완전한 자동화보다는 인간 전문가와 AutoML이 협업하는 모델이 현실적인 접근법에 가깝다. 데이터 과학자와 도메인 전문가의 생산성을 높이고 더 가치 있는 업무에 집중하게 하는 보조 도구로 AutoML을 활용하는 전략이 필요하다.