딥러닝은 이미 어디에 들어와 있고, 어디서 막히는가

테슬라의 오토파일럿은 CNN으로 도로 위 물체를 실시간으로 인식하고, 구글 딥마인드는 망막 사진만으로 당뇨망막병증을 진단한다. 둘 다 같은 기술 — 다층 인공신경망이 원시 데이터에서 특징을 자동으로 추출하는 딥러닝 — 위에서 돌아간다. 그런데 같은 모델이 왜 "블랙박스"라는 비판을 받고, 데이터가 조금만 부족해도 성능이 무너지는가.

자율주행에서 금융까지, 이미 배치된 사례들

자율주행에서는 테슬라 오토파일럿이 CNN을 활용해 실시간 객체 인식과 도로 상황 예측을 수행하고, 웨이모는 고도화된 딥러닝 모델로 주행 환경을 이해하고 의사결정을 내린다. 여기에는 YOLO·SSD 같은 객체 탐지, DeepLab 같은 세그멘테이션, RNN·LSTM 기반 주행 경로 예측 기술이 함께 쓰인다.

의료 영상 분석에서는 MRI 영상에서 뇌종양을 자동으로 식별·분류하고, 망막 사진으로 당뇨망막병증을 진단하며(구글 딥마인드), 흉부 X레이·CT 영상에서 COVID-19 감염 징후를 탐지하는 데 쓰인다.

자연어 처리에서는 Google Translate의 신경망 기반 번역 시스템, GPT 기반 대화형 AI(ChatGPT·Google Assistant·Siri), 소셜 미디어 텍스트의 감정 상태를 분석해 마케팅 인사이트를 뽑아내는 감성 분석이 대표적이다.

금융 분야에서는 전통적 신용 평가 모델을 보완하는 딥러닝 기반 신용 위험 평가, 금융 사기·불법 거래 패턴을 실시간으로 감지하는 이상 거래 탐지, 시계열 데이터와 뉴스 감성 분석을 결합한 주가 동향 예측에 쓰인다.

그런데도 넘지 못하는 벽들

딥러닝 모델은 "블랙박스"라 불릴 만큼 내부 의사결정 과정이 불투명하다. 특히 금융, 의료, 법률 등 의사결정의 근거가 중요한 분야에서는 이 문제가 두드러진다. XAI(설명 가능한 AI) 연구가 활발히 진행 중이다.

딥러닝 모델은 방대한 양의 고품질 데이터를 필요로 한다. 데이터가 부족하거나 편향된 경우 모델 성능이 크게 저하될 수 있다. 데이터 증강, 전이학습, 준지도학습 같은 기법으로 이 문제를 완화하고 있다.

최신 딥러닝 모델은 수십억 개의 매개변수를 가지며, 훈련에 막대한 계산 자원과 전력을 소비한다. 이는 환경적 영향과 함께 소규모 조직의 접근성을 제한한다. 모델 경량화, 지식 증류, 양자화 등의 기법으로 효율성을 높이는 연구가 진행 중이다.

딥러닝 모델은 사람이 감지할 수 없는 미세한 입력 변화에도 완전히 다른 예측을 할 수 있다(적대적 예제). 이는 보안 및 안전 중요 시스템에서 심각한 문제를 야기할 수 있다. 적대적 훈련, 방어적 증류 등의 방어 기법이 연구되고 있다.

다음 단계로 가리키는 방향들

레이블이 없는 대규모 데이터셋에서 효과적으로 학습하는 자기지도학습 방식이 발전하며, 데이터 레이블링 비용 절감과 일반화 성능 향상이 기대된다. ContrastiveLearning, BERT, SimCLR 등이 이 분야의 대표적 사례다.

텍스트, 이미지, 음성 등 다양한 유형의 데이터를 동시에 처리하고 이해하는 능력도 향상될 것이다. CLIP, DALL-E, Flamingo 같은 모델이 멀티모달 학습의 가능성을 보여주고 있다.

AI가 특정 문제에 최적화된 신경망 구조를 자동으로 설계하는 NAS(신경망 아키텍처 탐색) 기술의 발전으로 더욱 효율적이고 강력한 모델 개발이 가능해질 것이다.

더 적은 에너지와 계산 자원으로 동작하는 그린 AI 연구도 활발해질 것이다. 에지 컴퓨팅 환경에서 작동하는 경량 모델과 하드웨어 가속기 발전이 이를 뒷받침할 것이다.