IEEE 802.11i로 이해하는 무선 LAN 인증과 키 관리
IEEE 802.11i의 RSN 구조를 중심으로 802.1X/EAP·PSK 인증, TKIP·CCMP 암호화, 4-Way Handshake와 GTK 관리 방식을 정리한다.
2026-08-15 · 최초 발행 2025-06-02
WEP 이후 무선 LAN 보안이 요구한 것
WEP(Wired Equivalent Privacy)는 초기 무선 LAN 보안 메커니즘이었지만, 짧은 초기화 벡터(IV)의 재사용, 약한 암호화 키 관리, 미흡한 무결성 보호 문제가 드러났다. 무선 네트워크가 확산되면서 중간자 공격(Man-in-the-Middle), 세션 하이재킹, 무단 네트워크 접근에 대응할 수 있는 보안 표준이 필요해졌다.
IEEE 802.11i는 이 문제를 해결하기 위해 만들어진 표준이다. 무선 구간에서 인증과 암호화만 따로 두지 않고, 키 생성과 교환까지 포함한 보안 체계를 제시한다.
RSN이 묶는 인증·암호화·무결성
IEEE 802.11i는 AP(Access Point)와 Station 사이에 RSN(Robust Security Network)을 구성하는 것을 목표로 한다. RSN은 다음 요소를 함께 다룬다.
- 강화된 인증 메커니즘
- 안전한 키 교환 및 관리
- 강력한 데이터 암호화
- 메시지 무결성 보호
이 구조에서 인증은 접속 주체를 확인하고, 키 교환은 통신에 사용할 키를 안전하게 맞추며, 암호화와 무결성 보호는 실제 데이터 프레임을 보호한다.
조직 환경과 소규모 환경의 인증 경로
802.1X/EAP 기반 인증
802.1X/EAP 기반 인증은 WPA-Enterprise에서 사용하는 방식이다. 기업이나 대규모 네트워크 환경에 적합하며, RADIUS와 같은 별도의 인증 서버를 둔다.
EAP(Extensible Authentication Protocol)는 여러 인증 방식을 지원한다.
- EAP-TLS: 디지털 인증서 기반
- EAP-TTLS: 터널링 TLS
- PEAP: 보호된 EAP
- EAP-FAST: 유연한 인증
PSK 기반 인증
PSK(Pre-Shared Key)는 WPA-Personal에서 쓰는 방식이다. 소규모 네트워크나 가정용 환경에서 사용할 수 있으며, 모든 사용자가 동일한 사전 공유 키(Passphrase)를 사용한다. 별도의 인증 서버는 필요하지 않다.
이 방식은 WPA-PSK, WPA2-PSK, WPA-Personal로 구현된다.
TKIP/RC4와 CCMP/AES의 차이
TKIP/RC4
TKIP(Temporal Key Integrity Protocol)은 WEP 다음 단계의 암호화 방식으로, 기존 하드웨어와의 호환성을 유지하는 데 초점을 뒀다. 패킷별 키 혼합(Per-Packet Key Mixing), 48비트 초기화 벡터(IV), Michael 알고리즘 기반 메시지 무결성 코드(MIC), 키 갱신 메커니즘을 사용한다.
실제 처리 흐름은 다음과 같다.
1. 송신자와 수신자 간 일시적 키(TK) 공유
2. 송신자: 패킷별 키 생성 (MAC 주소 + TK + 시퀀스 카운터)
3. RC4 알고리즘으로 데이터 암호화
4. Michael 알고리즘으로 MIC 생성
5. 수신자: 역과정으로 데이터 복호화 및 검증
CCMP/AES
CCMP(Counter Mode with CBC-MAC Protocol)는 IEEE 802.11i의 핵심 암호화 프로토콜이다. AES(Advanced Encryption Standard)를 기반으로 하며, 128비트 블록 암호화와 128비트 키를 사용한다.
CTR(Counter) 모드는 데이터 기밀성을 제공하고, CBC-MAC(Cipher Block Chaining Message Authentication Code)는 데이터 무결성과 인증을 맡는다.
PMK에서 PTK와 GTK로 이어지는 키 관리
안전한 통신은 키를 어떻게 생성하고 전달하며 갱신하는지에 달려 있다. IEEE 802.11i의 키 계층은 PMK(Pairwise Master Key)를 바탕으로 PTK(Pairwise Transient Key)와 GTK(Group Temporal Key)를 구분한다.
PMK는 인증 과정에서 생성되는 마스터 키다. 802.1X/EAP 인증에서는 인증 서버가 제공하고, PSK 모드에서는 사전 공유 키에서 파생된다.
PTK는 개별 세션을 보호한다. PTK 내부의 KCK(Key Confirmation Key)는 핸드셰이크 메시지를 인증하고, KEK(Key Encryption Key)는 다른 키를 암호화하며, TK(Temporal Key)는 실제 데이터를 암호화한다. GTK는 브로드캐스트와 멀티캐스트 통신을 보호한다.
4-Way Handshake
4-Way Handshake는 PMK로부터 PTK를 안전하게 만들고 양측에 동기화하는 키 교환 프로토콜이다.
이 교환 과정은 AP와 클라이언트가 PMK를 보유했는지 확인하고, PTK 생성을 위한 랜덤 값(Nonce)을 교환한다. 이어 암호화 방식을 확인하고 GTK를 안전하게 배포하며, 키 설치 시점을 맞춘다. 다만 초기 핸드쉐이크 과정은 KRACK 공격 등의 취약점과도 연결된다.
Group Key Handshake
Group Key Handshake는 그룹 키(GTK)를 갱신하는 절차다. AP는 주기적으로 또는 클라이언트 연결 해제 시 GTK를 갱신한다.
AP 사이를 이동할 때의 보안
IEEE 802.11i는 무선 클라이언트가 AP 사이를 이동하는 상황도 고려한다. 빠른 로밍을 위해 이전에 연결했던 AP에 다시 연결할 때 인증 과정을 생략하는 PMK 캐싱과, 이동 가능한 다음 AP에 미리 인증하는 사전 인증(Pre-Authentication)을 지원한다.
상호 인증은 위장 AP를 막는 수단이 되며, 네트워크 접근 제어는 무단 단말의 접속을 차단하는 역할을 한다.
WPA와 WPA2에 반영된 802.11i
Wi-Fi Alliance는 IEEE 802.11i를 WPA(Wi-Fi Protected Access)와 WPA2로 구현했다. WPA는 IEEE 802.11i 초안에 기반해 TKIP/RC4를 사용하고, WPA2는 완전한 IEEE 802.11i 구현으로 CCMP/AES를 사용한다.
IEEE 802.11i는 WEP의 취약점을 효과적으로 해결하고, 강력한 인증과 키 관리 체계를 제공했다. AES 같은 강력한 암호화 알고리즘의 도입은 무선랜 보안에 대한 신뢰도를 높였으며 엔터프라이즈 환경의 무선랜 도입도 가속했다. 다만 초기에는 구현 복잡성 때문에 도입이 쉽지 않았고, 특히 AES 지원 여부에 따라 이전 하드웨어와 호환성 문제가 발생했다. PSK 모드에는 비밀번호 기반 취약점이 남아 있다.
후속 표준과 조직의 무선랜 운영
IEEE 802.11i 이후에도 무선랜 보안은 확장됐다. 2018년 도입된 WPA3는 SAE(Simultaneous Authentication of Equals) 인증 방식을 도입했다. PMF(Protected Management Frames)는 관리 프레임을 보호해 해제 공격을 막고, OWE(Opportunistic Wireless Encryption)는 공개 Wi-Fi에서도 암호화를 제공한다. DPP(Device Provisioning Protocol)는 QR 코드 등을 활용해 디바이스 등록을 간편하게 한다.
조직 환경에서는 WPA2/WPA3-Enterprise 같은 강력한 인증 방식을 선택하고, PSK를 사용한다면 복잡한 PSK 사용 정책을 둬야 한다. 키와 비밀번호를 정기적으로 변경하는 정책도 필요하다. 무선과 유선 네트워크를 적절히 분리하고, RADIUS 서버로 인증을 중앙에서 관리하며, VLAN으로 세그먼트를 나누는 설계도 함께 검토한다. 운영 단계에서는 무선 IDS/IPS 시스템을 구축하고 비인가 AP 탐지 시스템을 운영하며, 정기적인 무선 네트워크 취약점 점검을 수행해야 한다.
IEEE 802.11i는 인증과 암호화를 분리하면서도 키 관리 메커니즘으로 연결했다. 이 프레임워크는 무선 LAN이 기업과 개인 모두에게 안전하고 신뢰할 수 있는 통신 수단으로 자리 잡는 기반이 됐고, WPA3를 포함한 후속 표준에도 보안 프레임워크를 제공했다.