IEEE 802.11i와 WPA2: 무선 LAN 보안 프레임워크

IEEE 802.11i는 WEP(Wired Equivalent Privacy)의 취약점을 보완하기 위해 IEEE가 만든 무선 네트워크 보안 표준이다. 2004년 6월 최종 승인됐으며, 기업 환경에서도 사용할 수 있는 인증·키 관리·암호화 체계를 제시했다.

WEP의 약점이 바꾼 무선 LAN 보안 요구

WEP는 24비트 IV(Initialization Vector)와 정적 키를 사용해 키 재사용 문제가 발생할 수 있었다. RC4 알고리즘의 약점과 키 스트림 재사용, 불완전한 무결성 검증, 취약한 인증 방식도 함께 문제로 지적됐다.

802.11i는 이 한계를 넘어 데이터 기밀성뿐 아니라 무결성, 출처 인증, 키 교환까지 무선 접속 과정에 포함시키는 것을 목표로 했다.

RSN이 보안 연결을 만드는 방식

RSN(Robust Security Network)은 802.11i의 중심 아키텍처다. 단말과 AP가 보안 방식을 협상하고, 상호 인증과 키 관리를 거쳐 보호된 데이터 통신으로 진입하는 틀을 제공한다.

⤢✕

RSN은 안전한 통신을 위한 프레임워크 안에 상호 인증과 키 관리 메커니즘을 포함한다. 이로써 데이터 기밀성, 무결성, 출처 인증을 지원한다.

TKIP과 CCMP의 역할 차이

TKIP(Temporal Key Integrity Protocol)은 WEP 호환 하드웨어에서도 동작할 수 있도록 설계된 과도기적 프로토콜이다. 패킷마다 키를 생성해 키 재사용 문제를 줄이고, 48비트 IV로 IV 충돌 가능성을 낮춘다. MIC(Message Integrity Check)와 키 혼합 기능을 더해 패킷 무결성과 약한 키 문제를 보완하며, RC4 암호화에 추가 보호 장치를 적용한다.

TKIP은 송신자와 수신자가 임시 키(TK)를 공유한 뒤, 시퀀스 카운터와 송신자 MAC 주소로 패킷별 키를 만든다. 이후 MIC를 추가해 전송하고 수신 측이 이를 검증한다.

CCMP(Counter Mode with CBC-MAC Protocol)는 AES를 기반으로 하는 802.11i의 장기적 보안 방식이다. 128비트 블록 암호화를 사용하며, CCM 모드로 암호화와 인증을 함께 제공한다. CBC-MAC은 메시지 인증 코드를 만들고 카운터 모드는 데이터를 암호화한다. 패킷 번호는 재전송 공격 방지에 사용된다.

⤢✕

인증과 키 교환을 연결하는 구조

802.11i는 강한 암호 알고리즘만으로 보안을 구성하지 않는다. 인증 이후 세션에 사용할 키를 파생하고 배포하는 과정도 함께 정의한다.

4-Way Handshake에서 교환하는 정보

4-Way Handshake는 PMK(Pairwise Master Key)를 토대로 세션 키를 생성하는 절차다. PTK(Pairwise Transient Key)를 파생·검증하고, GTK(Group Temporal Key)를 안전하게 전달한다. 키 계층 구조를 통해 키 관리를 체계화한다.

⤢✕

EAP와 802.1X 기반 접근 제어

EAP(Extensible Authentication Protocol)는 다양한 인증 방식을 수용하는 프레임워크다. IEEE 802.1X 접근 제어와 결합하며, RADIUS 서버를 통해 인증을 중앙화할 수 있다. EAP-TLS, EAP-TTLS, PEAP 등의 방식을 지원한다.

WPA 계열에서 표준이 구현된 모습

WPA(Wi-Fi Protected Access)는 Wi-Fi Alliance가 802.11i 초안을 바탕으로 개발한 구현이다. TKIP을 사용해 기존 하드웨어에서도 동작할 수 있게 했고, WPA-PSK 개인 모드와 WPA-Enterprise 기업 모드를 제공했다. 성격상 과도기적 보안 솔루션에 해당한다.

WPA2는 802.11i를 완전히 구현한 방식으로, CCMP/AES 암호화를 의무화한다. 2006년부터 모든 Wi-Fi 인증 장치에 의무화됐다.

WPA3는 WPA2 이후 등장한 차세대 표준이며 802.11i를 확장한다. SAE(Simultaneous Authentication of Equals) 핸드셰이크, 192비트 보안 스위트 옵션, OWE(Opportunistic Wireless Encryption)를 제공해 공개 네트워크에서도 암호화를 지원한다.

환경에 따라 달라지는 구성

대규모 기업 네트워크에서는 중앙 RADIUS 서버를 구성하고, 802.1X 인증을 위해 EAP-TLS를 설정할 수 있다. 디지털 인증서 기반 상호 인증, 네트워크 접근 제어 정책, 주기적 키 갱신 메커니즘도 함께 구성 대상이 된다.

가정이나 소규모 사무실에서는 WPA2-PSK 모드를 사용할 수 있다. 이 경우 강력한 사전 공유 키(PSK)를 설정하고, 최소 12자 이상의 복잡한 암호와 주기적 암호 변경 정책을 적용한다. 게스트 네트워크는 별도로 분리해 운영한다.

보안성의 진전과 남은 제약

802.11i는 WEP와 비교해 보안성을 크게 높였고, 엔터프라이즈급 인증 메커니즘과 강한 암호화 알고리즘을 제공한다. 키 관리도 체계화·자동화했으며 확장성과 호환성을 고려했다.

반면 초기 구현은 복잡하고 레거시 장비와의 호환성 문제가 발생할 수 있다. 일부 구현에서는 성능 저하 가능성이 있으며, PSK 모드는 사전 공격에 취약할 수 있다. KRACK(Key Reinstallation Attacks) 같은 새로운 공격 가능성도 남아 있다.

이후 무선 보안 표준으로 이어진 변화

802.11i는 이후 무선 보안 개선의 기반이 됐다. 802.11w는 관리 프레임 보호를 다루며, 802.11ac/ax는 고속 무선 통신과 보안을 통합한다. WPA3에는 추가 보안 강화 메커니즘이 도입됐고, PMF(Protected Management Frames) 의무화와 OWE 도입도 이어졌다.

무선 네트워크 보안을 설계할 때는 802.11i가 제시한 암호화, 인증, 키 관리의 연결 구조를 기준으로 환경에 맞는 WPA 구현과 접근 제어 방식을 선택해야 한다.