연합학습, 데이터는 그대로 두고 모델만 옮긴다

스마트폰 키보드가 다음 단어를 맞히는 정확도는 매달 조금씩 올라가지만, 사용자가 입력한 문장 자체는 한 번도 서버로 전송되지 않는다. 이 모순을 가능하게 하는 것이 연합학습(Federated Learning)이다. 2016년 구글이 처음 제안한 이 방식은 데이터를 중앙 서버로 모으는 대신, 여러 기기나 기관에 흩어진 데이터를 각자 위치에서 학습시키고 그 결과인 모델 파라미터만 모아 하나의 글로벌 모델을 완성한다.

중앙 서버는 파라미터만 받는다

중앙 서버가 글로벌 모델을 로컬 기기(Local Worker)에 배포하면, 각 기기는 자신이 가진 데이터로 이 모델을 훈련한다. 이후 훈련된 모델 파라미터만 중앙 서버로 전송되고, 서버는 여러 기기에서 온 파라미터를 집계해 글로벌 모델을 업데이트한다. 원본 데이터를 공유하지 않고도 협력적으로 AI 모델을 구축할 수 있다는 게 이 구조의 핵심 가치다.

⤢✕

원본 데이터가 기기를 떠나지 않는다는 것의 의미

민감한 원본 데이터가 기기를 떠나지 않고 중앙 서버로 전송되는 것은 학습된 모델 파라미터뿐이라는 점은 GDPR 등 데이터 보호 규정을 지키는 데 유리하게 작용한다. 여기에 영지식증명(Zero Knowledge Proof) 같은 기술을 결합하면 보안을 한층 더 강화할 수 있다.

동시에 중앙 서버가 짊어지던 계산 부하는 로컬 컴퓨팅 자원으로 분산되고, 대용량 데이터를 매번 전송할 필요가 없어 네트워크 대역폭 사용량도 줄어든다. 엣지 컴퓨팅 환경과 자연스럽게 맞물리는 구조라 사용자 기기의 유휴 자원을 그대로 활용할 수 있다는 것도 장점이다.

여러 출처의 데이터를 모아 학습하는 효과는 그대로 유지되기 때문에 모델의 일반화 능력도 올라간다. 특정 지역이나 특정 사용자 집단에 데이터가 쏠려 생기는 편향을 줄이고, 다양한 사용 패턴을 포괄하는 모델을 만들기가 상대적으로 쉬워진다.

데이터를 어떻게 나누느냐가 유형을 가른다

연합학습은 데이터를 어떤 축으로 나누느냐에 따라 다시 갈린다. 수평적 연합학습(Horizontal Federated Learning)은 동일한 특성(feature)을 가진 서로 다른 샘플 데이터셋을 활용하는 방식이다. 서로 다른 지역의 병원들이 동일한 의료 검사 결과로 질병 예측 모델을 만들거나, 여러 은행이 동일한 고객 속성으로 신용평가 모델을 구축하는 경우가 여기 해당한다.

⤢✕

수직적 연합학습(Vertical Federated Learning)은 반대로 동일한 샘플(사용자·개체)에 대한 서로 다른 특성 데이터셋을 활용한다. 금융기관과 전자상거래 업체가 공통 고객에 대해 서로 다른 정보를 갖고 모델을 만들거나, 병원과 보험회사가 동일 환자의 다른 정보로 건강 예측 모델을 구축하는 경우다.

⤢✕

참여 주체의 규모로 나누면 또 다른 축이 생긴다. Cross-Silo 연합학습은 기업이나 기관 단위로 참여하며 참여자 수는 수십수백 개 규모에 그치는 대신 연결 안정성이 상대적으로 높다. 여러 병원 간 의료 AI 모델 개발이나 금융기관 간 사기 탐지 시스템 구축이 대표적이다. Cross-Device 연합학습은 스마트폰·IoT 기기 등 대규모 엣지 디바이스가 참여자가 되는 방식으로, 참여자 수는 수천수백만 개 규모까지 늘어나지만 연결이 간헐적이고 대역폭도 낮다. 스마트폰 키보드 예측, 음성 인식 시스템, 스마트홈 디바이스 AI가 이 유형에 속한다.

데이터 분포·통신·프라이버시가 발목을 잡는다

참여자마다 데이터가 독립적이고 동일한 분포(IID)를 따르지 않는 Non-IID 문제는 연합학습에서 가장 흔히 부딪히는 벽이다. 데이터 분포가 기기마다 다르면 집계된 글로벌 모델의 성능이 떨어지는데, 이를 완화하기 위해 데이터셋 증류(Dataset Distillation) 기법을 쓰거나 연합 전이학습(Federated Transfer Learning)을 적용하고, 모델 구조를 최적화하면서 로컬 미세조정(fine-tuning)을 병행하는 접근이 쓰인다.

통신 효율성도 걸림돌이다. 제한된 네트워크 대역폭으로 모델 업데이트를 주고받아야 하기 때문에 모델 파라미터를 압축하는 기법이나, 중요한 업데이트만 선별적으로 보내는 스파스 업데이트(Sparse Updates), 분산 최적화 알고리즘 개선이 함께 논의된다.

가장 까다로운 건 보안·프라이버시다. 모델 파라미터만 전송한다고 해도 이를 역공학하면 원본 데이터의 정보가 새어 나갈 가능성이 있다. 이를 막기 위해 차등 프라이버시(Differential Privacy) 기법을 적용하거나 안전한 집계(Secure Aggregation) 프로토콜을 구현하고, 연합학습 시스템 자체의 취약점을 분석해 대응책을 마련하는 작업이 필요하다.

온디바이스 AI와 헷갈리기 쉽지만 다르다

연합학습과 자주 비교되는 개념이 온디바이스 AI(On-Device AI)다. 온디바이스 AI는 학습이 전적으로 개별 기기 내부에서만 이루어지고 다른 기기와 협력하지 않는 반면, 연합학습은 분산된 각 기기에서 학습한 뒤 중앙에서 집계하는 협력 구조를 갖는다. 다양한 사용자 데이터를 간접적으로 활용할 수 있는 만큼 연합학습 쪽이 일반적으로 더 높은 모델 성능을 낼 수 있지만, 그만큼 중간에서 높은 수준의 자원 요구사항이 따른다.

특성	연합학습	On-Device AI
학습 위치	분산(각 기기) + 중앙 집계	전적으로 개별 기기 내부
협력 방식	모델 파라미터 공유	협력 없음(독립적)
데이터 활용	다양한 사용자 데이터 간접 활용	개별 사용자 데이터만 활용
모델 성능	일반적으로 더 높음(협력 효과)	제한적(개인 데이터만 사용)
자원 요구사항	중간~높음	낮음~중간
개인화 수준	글로벌 모델 + 로컬 조정 가능	완전한 개인화

병원·은행·스마트폰에서 실제로 쓰이는 방식

의료 분야에서는 여러 병원의 의료 영상 데이터로 질병 진단 AI를 개발하거나, 제약회사 간 협력으로 신약 개발을 가속화하는 데 쓰인다. 환자 정보를 공유하지 않고도 맞춤형 치료 프로토콜을 개발하는 시도도 여기 포함된다.

금융 분야에서는 여러 금융기관의 데이터로 사기 패턴을 학습하거나, 다양한 금융 거래 데이터로 신용 평가 모델의 정확도를 높이는 데 활용된다. 여러 은행이 협력해 자금세탁 패턴을 탐지하는 것도 같은 맥락이다.

모바일·IoT 영역에서는 구글의 Gboard 키보드 예측 기능이 대표적인 사례로 꼽힌다. 개인 음성 데이터를 중앙에 전송하지 않고도 음성 인식 시스템을 개선하거나, 여러 가정의 사용 패턴으로 에너지 효율화 알고리즘을 개발하는 스마트홈 사례도 있다.

도입 전에 따져야 할 것들

참여 기기의 이질성(성능 차이, 운영체제 차이)을 어떻게 관리할지, 통신 프로토콜을 어떻게 최적화해 대역폭을 아낄지, 중앙 서버의 집계 알고리즘을 어떻게 설계할지가 기술적으로 먼저 정리돼야 할 지점이다. 모델을 압축하고 전송 효율을 높이는 방안도 함께 검토 대상이다.

조직 차원에서는 참여자의 기여도에 따른 인센티브 체계, 연합학습 거버넌스와 참여자 관리 방안을 세워야 하고, 법적·윤리적 프레임워크와 참여자 간 신뢰를 유지하는 방안도 병행해야 한다. 수직적 연합학습을 통한 산업 간 데이터 활용이나 클라우드 기반 AI와의 하이브리드 결합, 엣지-클라우드 연계 아키텍처 쪽으로 이 구조가 확장되는 흐름도 함께 지켜볼 부분이다.