AI·머신러닝·딥러닝 구분과 지도·비지도·강화 학습 실무 가이드

AI, ML, DL이라는 세 단어가 뒤섞여 쓰이지만 가리키는 범위는 다르다. AI는 인간의 지능적 행동을 컴퓨터로 구현하는 포괄 개념이고, ML은 그중 데이터로부터 패턴을 학습해 일반화하는 알고리즘 집합, DL은 인공신경망의 심층 구조를 쓰는 ML의 하위 분야다.

AI, ML, DL이 가리키는 범위

AI는 규칙 기반, 최적화, 탐색, 확률적 추론까지 포함하는 포괄 개념이다. ML은 명시적 규칙 대신 데이터 기반 추정을 사용하는 알고리즘 집합이며, DL은 비정형 데이터(이미지, 음성, 자연어)에서 표현 학습을 자동화하는 ML의 하위 분야다.

지도·비지도·강화 학습이 나뉘는 기준

지도 학습(Supervised)은 입력-정답(라벨) 쌍으로 손실을 최소화하며, 분류·회귀·순위화에 쓰인다. 지표는 정확도, F1, AUC, RMSE 등이다. 비지도 학습(Unsupervised)은 라벨 없이 구조를 추정하며, 군집화·차원 축소·이상치 탐지·생성 모델 사전학습에 쓰인다. 지표는 실루엣, 재구성 오차 등이다. 강화 학습(Reinforcement)은 에이전트가 환경과 상호작용하며 보상을 최대화하는 방식으로, 정책/가치 함수를 최적화한다. 지표는 에피소드 평균 리워드, 성공률이다.

데이터·라벨 파이프라인부터 MLOps까지

데이터·라벨 파이프라인은 수집→정제→라벨링→검증의 폐루프 구조를 가진다. 품질 지표(누락률, 노이즈, 레이블 일관성) 관리가 필요하며, 라벨 소싱 전략으로 인간 라벨러, 약한 지도(weak supervision), 반자동 툴, 데이터 증강이 쓰인다. 버전/출처 메타데이터 관리는 필수다.

모델과 알고리즘 선택은 목적에 따라 갈린다. 지도 학습은 트리 계열(XGBoost/LightGBM), 선형/로지스틱, CNN/Transformer 등을 데이터 크기·특성에 따라 선택한다. 비지도 학습은 K-Means/DBSCAN, PCA/UMAP, 오토인코더를 압축/탐색/탐지 목적에 맞춰 쓴다. 강화 학습은 Q-learning, Policy Gradient, Actor-Critic 중에서 시뮬레이터 유무와 샘플 효율성을 고려해 고른다.

학습·평가·검증 체계는 학습/검증/테스트 분할(시간 누수 방지), 교차검증, 그룹 분리와 재현성(seed, 고정 버전) 확보를 포함한다. 평가는 오프라인 메트릭→샌드박스/AB 테스트→프로덕션 모니터링 단계로 이어지며, 편향/드리프트를 지속적으로 감시해야 한다.

인프라·가속기·배포에서 학습은 GPU/TPU, 분산 데이터 병렬/모델 병렬, 체크포인트/혼합 정밀도를 활용하고, I/O 병목 해소를 위해 캐시·데이터 형식(Parquet/TFRecord)을 최적화한다. 추론은 온라인(저지연)과 배치(고처리량) 경로를 분리하며, TensorRT·ONNX·양자화·지연 로딩으로 최적화한다.

MLOps/LLMOps 운영 체계는 실험 추적(MLflow/W&B), 모델 레지스트리, 피처 스토어, 데이터·모델 버전관리를 포함하며 CI/CD와 안전한 롤백 파이프라인이 뒤따른다. 관측성은 드리프트(데이터/라벨/컨셉), 성능 SLA, 비용 모니터링을 다루고, 거버넌스는 책임성·공정성·보안을 담당한다.

파이프라인이 도는 방식

품질 미달 시 데이터 개선 경로로 분기하고, 배포 후 이상 감지 시 즉시 롤백→재학습 절차를 수행한다. 데이터/모델 버전을 고정하고 실험 메타데이터를 기록해 결정적(seed 고정) 재현성을 확보하는 것이 일관성의 핵심이다.

⤢✕

머신러닝 vs. 딥러닝: 지표로 보면

지표	머신러닝(ML)	딥러닝(DL)
성능(비정형 데이터)	특징 공학 품질 의존. 중소규모·정형 데이터에 강점	대규모 비정형 데이터에서 우수. 표현 학습 자동화
확장성	CPU 중심, 학습/추론 비용 낮음. 수평 확장 용이	GPU/TPU 필요. 분산 학습/메모리 최적화 필요
일관성·재현성	파이프라인 단순, 결과 변동성 낮음	초기값·배치·혼합정밀도 영향 큼. 시드/고정 연산 필요
안정성(드리프트 내성)	피처 기반으로 변화 민감도 상대적으로 낮음	분포 변화에 민감. 지속 모니터링·재학습 필수
운영 편의(서빙/지연)	지연 매우 낮음, 경량 배포 용이	최적화·양자화 필요. GPU 서빙·배치 혼합 전략 권장

비정형 데이터 기준으로는 기존 ML 대비 DL 적용 시 정확도·재현율이 5~20%p 개선될 수 있다.

학습 유형별 적용 기준

지도 학습

라벨이 풍부하고 정답 정의가 명확할 때 적용한다. 불균형 처리(SMOTE, 가중치)가 필요할 수 있다. 사기 탐지, 수요 예측, 전자상거래 전환율 예측이 대표 사례이며, 운영에서는 임계값 최적화, 비용 민감도 기반 손실 설계, 도메인 이동 감시가 중요하다.

비지도 학습

라벨이 부족하고 구조 탐색이 필요할 때, 특히 고차원 희소 데이터에서 차원 축소가 효과적일 때 적용한다. 고객 세분화, 이상치 탐지, 표현 학습(오토인코더)이 대표 사례다. 운영에서는 군집 수/거리척도 선택, 설명 가능성 확보, 재학습 시 군집 ID 안정성 관리가 필요하다.

강화 학습

상호작용 환경과 지연 보상이 존재할 때 적용하며, 시뮬레이터를 확보하면 샘플 효율이 개선된다. 동적 가격 책정, 재고/물류 최적화, 로보틱스 제어가 대표 사례다. 운영에서는 안전 탐색, 오프폴리시 평가, 리스크 민감형 보상 설계가 필요하다.

AI 워크로드가 실무에서 갖는 특징

학습(Training)

리소스 집약형이다. 대규모 데이터 I/O, GPU 메모리(모델·배치), 통신 집약(분산)이 요구되며 스케줄러·프리엠션을 고려해야 한다. 반복적 실험에서는 하이퍼파라미터 탐색(HPO), 체크포인트 재개, 실패 복구가 필요하고, 비용 최적화(스팟 인스턴스)와 중단 허용 설계가 함께 간다.

추론(Inference)

온라인과 배치는 지연 SLA와 처리량 기준으로 이중화한다. 온라인은 캐시·동시성 제어가, 배치는 파이프라인 병렬화가 중심이다. 최적화는 모델 압축(프루닝/양자화), 런타임 최적화(ONNX/TensorRT), AOT 컴파일로 이뤄지며 성능-정확도 트레이드오프를 관리해야 한다.

데이터·운영

데이터 드리프트는 입력 분포·라벨·컨셉 변화를 탐지해야 하며, 경계값·알람·자동 롤백 플로우가 필수다. 거버넌스는 데이터 권한/보안, PII 익명화, 감사로그를 포함하며, 모델 카탈로그와 책임성 문서(Model Card) 관리가 뒤따른다.

수작업 라벨링을 최적화하고 배치 추론으로 전환하면 인프라 비용이 1540% 절감되며, 모델 경량화와 런타임 최적화를 결합하면 p95 지연이 3070% 감소한다.

실무 활용 사례

• 전자상거래 추천: 로그 수집→세션화→후보 생성(비지도/딥러닝)→재순위(지도)→AB 테스트 절차를 거친다. 피드백 루프를 구축하고 신제품 콜드스타트는 콘텐츠 기반으로 보완한다.
• 제조 예지보전: 센서 시계열 정제→피처/스펙트럼 변환→이상치/고장 예측→정비 스케줄 최적화 절차다. 경보 임계값 최적화, 가짜 경보 비용-미탐 비용 밸런싱이 운영 포인트다.
• 금융 사기 탐지: 거래 피처 엔지니어링→불균형 학습→실시간 서빙→차단/검토 워크플로 연계 절차다. 규칙+모델 하이브리드, 설명 가능성(특징 중요도) 제공, 규제 준수가 필요하다.
• 고객센터 자동화(NLP): 의도 분류/FAQ 검색→대화 관리→휴먼 핸드오프 절차이며, 개인정보 마스킹 필터를 선적용한다. 성능 모니터링(해결률/전환율), 금지어/정책 필터 업데이트가 운영 포인트다.

문제 정의→데이터 가용성→평가 지표→운영 제약(SLA/비용/규제) 순으로 프레이밍하고, 파이프라인 자동화와 모니터링을 내장하며 롤백 가능한 배포 체계를 구축하는 편이 좋다.