샤논-하틀리 법칙으로 보는 채널 용량과 통신 한계
샤논-하틀리 법칙의 채널 용량 공식과 샤논 한계, 대역폭·신호 전력·잡음이 통신 시스템 설계에 미치는 영향을 정리한다.
2026-08-14 · 최초 발행 2025-08-10
통신 용량을 결정하는 대역폭과 잡음의 관계
샤논-하틀리 법칙은 주어진 잡음 환경에서 통신 채널이 신뢰성 있게 전달할 수 있는 최대 정보량을 정의한다. 클로드 샤논(Claude Shannon)이 1948년 논문 A Mathematical Theory of Communication에서 수학적으로 완성했으며, 그보다 앞서 랄프 하틀리(Ralph Hartley)가 1928년에 기초 연구를 수행했다.
이 법칙은 대역폭이 넓다고 해서, 또는 송신 전력을 높인다고 해서 전송량이 제한 없이 증가하지는 않는다는 점을 설명한다. 변조 방식과 부호화, 안테나 구성의 선택은 결국 이 이론적 경계 안에서 이뤄진다.
채널 용량을 나타내는 식
채널 용량 (C)는 다음과 같이 표현된다.
C = W log₂(1 + S/N)
각 항의 의미는 다음과 같다.
- (C): 채널 용량(bits per second, bps)
- (W): 채널의 대역폭(Hertz, Hz)
- (S): 수신된 신호의 전력(Watts)
- (N): 채널 내 잡음의 전력(Watts)
- (S/N): 신호 대 잡음 비율(Signal-to-Noise Ratio, SNR)
이 식이 가리키는 값은 특정 대역폭과 신호 대 잡음 비에서 달성할 수 있는 최대 통신 속도다.
조건에 따라 달라지는 용량의 성질
잡음이 없는 이상적 상황에서는 (N→0), 또는 (S/N→∞)가 된다. 이때 (log₂(1 + S/N)→∞)이므로 (C→∞)이며, 이론적으로는 무한한 정보 전송이 가능하다. 실제 채널에는 항상 잡음이 있으므로 이는 현실의 성능 수치가 아니라 이론적 경계다.
신호 전력 (S)와 잡음 전력 (N)이 고정된 상태에서는 대역폭 (W)를 넓힐수록 채널 용량도 증가한다. 다만 대역폭이 매우 커져 (W→∞)에 이르면 (C→W·(S/N)·log₂e)에 수렴한다. 대역폭 확장만으로 용량을 무한히 늘릴 수 없다는 뜻이다.
반대로 대역폭 (W)가 고정된 경우에는 신호 전력 (S)를 높일수록 채널 용량이 로그 함수적으로 증가한다. 전력을 더 투입할수록 얻는 용량 증가분은 작아지며, 실제 시스템에서는 전력 제한도 함께 고려해야 한다.
샤논 한계가 구분하는 전송률
샤논 한계(Shannon Limit)는 특정 채널에서 오류 없이 통신할 수 있는 최대 정보 전송률을 뜻한다. 전송률이 채널 용량 (C)보다 낮다면 오류율을 임의로 작게 만들 수 있는 부호화 방식이 존재한다. 반대로 (C)를 넘는 전송률에서는 오류 없는 통신이 불가능하다.
변조와 부호화 선택의 기준
모뎀, 셀룰러 통신, Wi-Fi 설계에서는 주어진 대역폭에서 최대 전송률을 얻기 위해 변조와 부호화 방식을 선택한다. 4G LTE와 5G NR 같은 이동통신 시스템은 OFDM, MIMO 등을 이용해 샤논 한계에 근접하도록 설계된다.
오류 정정 부호(Error Correction Code)는 그 과정의 핵심이다. 터보 코드(Turbo Code)와 LDPC(Low-Density Parity-Check) 코드는 샤논 한계에 매우 근접한 성능을 제공한다. DVB-S2 위성방송 표준은 LDPC 코드를 사용해 샤논 한계에 0.7~1.0dB 이내로 접근한다.
채널 용량을 높이는 방법으로는 다중 안테나를 이용해 공간 다중화를 수행하는 MIMO(Multiple-Input Multiple-Output), 채널 상태에 맞춰 전송 방식을 조정하는 적응형 변조 및 부호화(Adaptive Modulation and Coding), 대역폭을 효율적으로 활용하는 주파수 분할 다중화(Frequency Division Multiplexing)가 있다.
이상적인 AWGN 가정 밖에서
샤논-하틀리 법칙은 이상적인 AWGN 채널을 가정한다. 실제 환경에는 다중 경로 페이딩, 간섭, 비선형 왜곡이 존재하므로 이론값과 구현 결과 사이에는 차이가 생긴다. 부호화와 복호화 알고리즘의 복잡도도 제한되기 때문에 실제 구현에서 샤논 한계에 완전히 도달하기는 어렵다.
이후 정보이론은 다수의 송수신자가 하나의 채널을 공유하는 환경을 다루는 다중 사용자 정보이론, 복잡한 토폴로지의 정보 흐름과 용량을 연구하는 네트워크 정보이론, 양자 채널의 전송 용량을 다루는 양자 정보이론으로 확장됐다.
광통신과 5G에서의 접근 방식
고용량 해저 광케이블 시스템은 샤논 한계에 근접한 설계를 채택한다. 최신 해저 광케이블은 파이버당 20Tbps 이상의 용량을 제공하며, 고차 변조방식과 고효율 코딩을 통해 이를 달성한다. 코히런트 광통신은 PSK, QAM 등의 고급 변조 방식과 강력한 FEC(Forward Error Correction)를 결합해 샤논 한계에 접근한다.
5G NR(New Radio)은 넓은 mmWave 대역폭 (W), Massive MIMO 기반의 공간 다중화, Polar 코드와 LDPC 코드 같은 고급 채널 코딩을 함께 활용한다.
샤논-하틀리 법칙은 대역폭과 신호 대 잡음 비가 허용하는 최대 전송률을 제시한다. 이 경계는 통신뿐 아니라 압축과 암호화에도 영향을 미쳤으며, 70년이 넘는 시간이 지난 뒤에도 통신 기술의 설계 기준으로 남아 있다.