CNN의 합성곱·풀링 구조와 아키텍처 계보

이미지 한 장을 신경망에 통째로 밀어 넣는 대신, 작은 필터로 국소적인 패턴을 훑어가며 특징을 뽑아내는 방식이 컨벌루션 신경망(Convolutional Neural Network, CNN)이다. 인간의 시각 인지 구조에서 착안한 이 구조는 2012년 이미지넷 대회에서 AlexNet이 우승하면서 딥러닝 혁명의 중심으로 떠올랐다.

합성곱과 풀링이 만드는 특징 추출 구조

CNN의 핵심 구성 요소는 컨벌루션 레이어(Convolutional Layer)다. 입력 이미지에 필터(커널)를 적용해 특징 맵(Feature Map)을 만들어내는데, 필터는 엣지나 텍스처 같은 이미지의 국소적 특징을 추출하는 역할을 한다. 여기서 가중치 공유(Weight Sharing) 메커니즘을 쓰기 때문에 파라미터 수가 줄어들고, 동시에 이미지의 공간적 구조를 보존하면서 특징을 뽑아낼 수 있다.

풀링 레이어(Pooling Layer)는 특징 맵의 크기를 줄여 계산 복잡성을 낮춘다. 영역 내 최댓값을 고르는 Max Pooling과 평균값을 계산하는 Average Pooling이 대표적이며, 이 과정에서 위치 불변성(Translation Invariance)이 향상되고 과적합도 억제된다.

마지막 완전 연결 레이어(Fully Connected Layer)는 컨벌루션과 풀링을 거쳐 추출된 특징을 평탄화(Flatten)한 뒤 연결해 최종 분류를 수행한다. 전통적인 신경망과 유사한 구조로 최종 예측을 만들어낸다.

지역적 패턴과 계층적 특징 학습

CNN의 각 뉴런은 입력 이미지의 일부 영역만 처리하는 지역적 수용 영역(Local Receptive Field)을 갖는다. 인간 시각 시스템과 비슷한 방식으로 작동하며, 이미지의 국소적 패턴을 인식하는 데 효과적이다.

층이 깊어질수록 학습하는 특징의 수준도 달라진다. 얕은 층은 엣지·색상 같은 저수준 특징을, 중간 층은 질감·패턴 같은 중간 수준 특징을, 깊은 층은 객체 부분이나 전체 객체 같은 고수준 특징을 감지한다. 이 계층적 특징 학습(Hierarchical Feature Learning) 덕분에 풀링 레이어를 통한 위치 불변성 확보와 함께 객체의 위치나 크기가 변해도 인식이 가능한 공간적 불변성(Spatial Invariance)을 갖추게 된다.

LeNet에서 ResNet까지, CNN 아키텍처의 계보

CNN 아키텍처는 몇 세대를 거치며 발전해왔다.

LeNet-5(1998): Yann LeCun이 우편번호 인식용으로 개발한 초기 CNN 모델로, 컨벌루션·풀링·완전 연결 레이어의 기본 구조를 확립했다.
AlexNet(2012): ImageNet 대회에서 혁명적 성능을 달성했다. ReLU 활성화 함수와 드롭아웃 기법을 도입했고, GPU 병렬 처리를 활용해 훈련 시간을 단축했다. Top-5 에러율을 기존 26.2%에서 15.3%로 낮췄다.
VGGNet(2014): 16~19층에 이르는 더 깊은 네트워크 구조를 제안했다. 3x3 크기의 작은 필터를 일관되게 사용하는, 단순하면서도 효과적인 아키텍처다.
GoogLeNet/Inception(2014): Inception 모듈로 다양한 크기의 필터를 병렬 적용하고, 1x1 컨벌루션으로 차원을 축소해 계산 효율성을 높였다.
ResNet(2015): 잔차 학습(Residual Learning) 개념을 도입해 152층까지 깊이를 확장할 수 있게 됐다. 특징 학습에 항등 매핑(Identity Mapping)을 더해 기울기 소실 문제를 해결했다.

⤢✕

이미지 분류부터 얼굴 인식까지

CNN이 실제로 쓰이는 영역은 다양하다.

이미지 분류: 의료 영상에서의 질병 진단(X-레이, MRI 등)에 쓰이며, 흉부 X-레이에서 폐렴을 감지할 때 95% 이상의 정확도를 보인다.
객체 검출: YOLO(You Only Look Once), SSD(Single Shot Detector), Faster R-CNN 등이 자율주행차의 보행자·차량·신호등 실시간 인식에 활용된다. Tesla의 Autopilot 시스템이 다중 객체를 동시에 인식하는 데 이런 구조를 쓴다.
이미지 분할: U-Net, Mask R-CNN 등은 의료 영상에서 종양 경계를 분할하는 데 쓰인다. 뇌 MRI에서 종양 영역을 픽셀 단위로 분할해 수술 계획을 지원하는 식이다.
얼굴 인식: FaceNet, DeepFace 등은 스마트폰 잠금 해제나 보안 시스템에 활용된다. Apple의 Face ID, 금융권의 비대면 본인인증이 대표 사례다.
텍스트 분류: 텍스트를 이미지처럼 처리하는 CNN 응용으로, 감성 분석·스팸 필터링에 쓰인다. 고객 리뷰 감성 분석으로 서비스 개선 의사결정을 지원하는 사례가 있다.

데이터 의존성과 계산 비용이라는 그림자

CNN에는 몇 가지 구조적 한계가 있다.

대량의 레이블링된 데이터가 필요하다는 데이터 의존성 문제는 데이터 증강(Data Augmentation)과 전이 학습(Transfer Learning)으로 완화한다. 의료 영상처럼 데이터 획득이 어려운 분야에서는 GAN을 활용해 합성 데이터를 만들기도 한다.

깊은 모델일수록 훈련·추론 비용이 늘어나는 계산 복잡성 문제는 모델 압축, 지식 증류(Knowledge Distillation), 양자화(Quantization)로 대응한다. MobileNet, EfficientNet 같은 경량 모델을 개발해 모바일 기기에 탑재할 수 있게 됐다.

블랙박스 특성 탓에 의사결정 과정이 불투명한 해석 가능성 부족 문제는 Grad-CAM, LIME 같은 설명 가능한 AI 기법으로 보완한다. 의료 진단 모델에 히트맵 시각화를 더해 의사의 최종 판단을 돕는 식이다.

회전·스케일 변화에 완벽하게 대응하기 어려운 기하학적 변환 취약성은 캡슐 네트워크(Capsule Network), 공간 변환 네트워크(Spatial Transformer Network)로 개선한다. 제조업 결함 검사에서 부품의 위치·방향과 무관하게 검출하는 시스템이 이런 방식으로 구현된다.

아키텍처 선택과 하이퍼파라미터 튜닝

CNN을 실제로 적용할 때 고려할 지점도 여럿이다. 문제 복잡도와 데이터 규모에 맞는 아키텍처를 고르고, ImageNet 사전 훈련 모델 같은 전이 학습 활용 여부를 결정해야 한다. 학습률(Learning Rate), 배치 크기(Batch Size), 에폭(Epoch) 등은 그리드 서치나 베이지안 최적화 같은 자동화 기법으로 조정한다.

과적합을 막고 일반화 성능을 높이려면 드롭아웃(Dropout), 배치 정규화(Batch Normalization), 가중치 감쇠(Weight Decay) 같은 규제화(Regularization) 기법을 쓴다. 대규모 모델 훈련을 가속하려면 GPU·TPU 등 특수 하드웨어와 분산 훈련 시스템을 활용한다.

⤢✕

자기지도학습과 ViT 이후의 CNN

최근에는 레이블 없는 데이터로 사전 훈련하는 자기지도학습(Self-Supervised Learning)이 SimCLR, BYOL, MoCo 같은 방법론으로 확산되면서 적은 양의 레이블 데이터로도 높은 성능을 내는 사례가 늘고 있다.

트랜스포머 구조를 비전 문제에 적용한 ViT(Vision Transformer)는 기존 CNN과 다른 패러다임으로 주목받으며, 대규모 데이터셋에서 CNN 이상의 성능을 내기도 한다. Neural Architecture Search(NAS)는 EfficientNet, NASNet처럼 최적 네트워크 구조를 자동으로 탐색하는 방식으로, 인간 전문가의 설계 능력을 넘어설 가능성까지 거론된다. 비디오나 의료 볼륨 데이터를 다루는 3D CNN은 I3D, C3D 같은 모델로 시공간 정보를 함께 학습하며 행동 인식·비디오 분석 분야에서 쓰인다.