PKI 구조와 디지털 인증서 기반 신뢰 체계
PKI의 CA·RA·디지털 인증서·CRL 구조와 발급·검증 흐름, X.509·OCSP 표준 및 운영 고려사항을 정리한다.
2026-08-15 · 최초 발행 2025-06-02
디지털 신뢰를 인증서로 연결하는 PKI
PKI(Public Key Infrastructure)는 공개키 암호화와 디지털 인증서를 관리해 디지털 신원을 확인하고 안전한 데이터 교환을 가능하게 하는 체계다. 전자상거래, 금융 거래, 기업 통신에서 신뢰할 수 있는 정보 교환을 뒷받침하며, 디지털 서명·암호화·인증을 지원한다.
이 구조에서 인증서는 공개키가 누구의 것인지를 연결하고, 그 연결을 신뢰할 수 있는 기관이 보증한다. PKI는 인증, 기밀성, 무결성, 부인방지 요구사항을 함께 다룬다. 인증서는 통신 상대의 신원을 확인하고, 암호화는 전송 정보를 보호하며, 해시와 전자서명은 메시지 변조 여부를 확인하고 서명자가 이후 서명 사실을 부인하지 못하도록 한다.
인증서 생명주기를 구성하는 주체와 정보
인증 기관(CA: Certificate Authority)은 디지털 인증서를 발급하고 관리하는 신뢰 기관이다. 발급, 갱신, 폐기를 포함한 인증서 생명주기를 담당한다. Verisign, Comodo, Symantec, 한국의 KISA 등이 예시다. 일반적으로 루트 CA와 중간 CA로 이어지는 계층 구조를 사용한다.
등록 기관(RA: Registration Authority)은 CA를 대신해 인증서 신청자의 신원을 확인하고 요청을 처리한다. 실제 신원 확인과 검증 절차를 맡아 CA의 업무 부담을 분산하고, 사용자와 가까운 위치에서 등록 서비스를 제공할 수 있다.
디지털 인증서는 공개키와 소유자의 신원 정보를 담은 전자 문서이며, 주로 X.509 형식을 사용한다. 인증서에는 다음 정보가 포함된다.
- 소유자 정보
- 공개키
- 인증서 유효기간
- 발급자(CA) 정보
- 인증서 일련번호
- 디지털 서명
인증서 저장소(Certificate Repository)는 발급된 인증서를 보관하고 검색할 수 있는 데이터베이스로, LDAP(Lightweight Directory Access Protocol)를 주로 활용한다. 디렉토리 서비스는 인증서와 인증서 폐기 목록(CRL)을 저장·배포해 사용자가 필요한 인증서를 찾도록 돕는다. 최종 이용자인 End Entity에는 개인, 조직, 장치가 포함되며, 이들은 발급받은 인증서를 암호화 통신과 전자서명에 사용한다.
발급부터 검증까지 이어지는 흐름
PKI는 공개키와 개인키로 이루어진 비대칭 암호화 방식을 바탕으로 동작한다.
인증서 발급은 사용자가 키 쌍(공개키/개인키)을 만드는 데서 시작한다. 사용자는 RA에 인증서 발급을 요청하고 신원 확인 자료를 제출한다. RA가 신원을 확인한 뒤 CA에 요청을 전달하면, CA는 공개키와 사용자 정보를 포함한 인증서를 생성하고 서명한다. 생성된 인증서는 사용자에게 전달되며 저장소에도 등록된다.
메시지를 주고받을 때는 송신자가 개인키로 메시지에 디지털 서명하고, 서명된 메시지와 자신의 인증서를 수신자에게 함께 보낸다. 수신자는 CA의 공개키로 인증서를 검증한 뒤, 송신자의 공개키로 디지털 서명을 검증한다. 전자서명에서는 송신자가 메시지의 해시값을 생성한 뒤 자신의 개인키로 해시값을 암호화해 서명하고, 수신자는 직접 계산한 해시값과 비교해 무결성을 확인한다. 해시 함수로는 MD5, SHA-1, SHA-256, SHA-3 등이 있으며, 최근에는 보안 강화를 위해 SHA-256 이상을 권장한다.
대용량 메시지를 공개키 암호화로 직접 처리하면 계산 비용이 커진다. PKI는 메시지를 대칭키로 암호화하고, 그 대칭키인 세션키를 수신자의 공개키로 보호하는 하이브리드 방식을 사용한다. 수신자는 자신의 개인키로 세션키를 복호화한 뒤 메시지를 열람한다. 이 방식은 메시지에는 빠른 대칭키 암호화를 적용하고, 세션키에는 공개키 암호화의 안전성을 적용한다.
웹과 기업 환경에서의 활용
웹 보안에서는 HTTPS 구현을 위해 PKI가 쓰인다. 웹사이트의 신원을 확인하고 암호화 통신을 제공하며, 온라인 쇼핑몰이나 인터넷 뱅킹 사이트의 자물쇠 아이콘으로 이를 확인할 수 있다. EV(Extended Validation) 인증서는 더 엄격한 검증 과정을 적용한다.
S/MIME은 이메일 메시지 암호화와 디지털 서명에 활용되어 이메일 위조를 막고 기밀성을 유지한다. 코드 서명은 소프트웨어 배포 시 개발자 신원과 코드 무결성을 보장하며, 악성 코드 배포를 방지하는 데 쓰인다.
전자문서 서명은 종이 문서의 서명을 디지털 환경에서 대체하고 법적 효력을 갖는 서명을 구현한다. 전자정부 서비스에서는 공인인증서로 국민 신원을 확인하고 전자서명을 수행하며, 행정 절차의 디지털화와 페이퍼리스 환경 구현으로 이어진다. 최근에는 블록체인과 결합한 분산신원증명(DID) 도입도 시도되고 있다.
VPN과 네트워크 보안에서는 기업 내부 네트워크 접근을 제어하고 안전한 원격 접속 환경을 구성하는 데 활용된다. 기업 내부망에 접속하는 클라이언트를 인증하고 원격 근무 환경의 통신 채널을 보호하며, IPsec과 SSL VPN 등 다양한 방식으로 구현된다.
한국의 공인인증서 시스템은 PKI를 기반으로 온라인 뱅킹과 주식 거래 등에 활용된다. 인터넷 뱅킹 로그인과 거래 승인에 사용되고, 전자서명법에 따른 법적 효력을 보장하며, 보안카드·OTP와 함께 다중 인증 요소로 활용된다. 인증서는 IC카드나 스마트폰 앱 등 다양한 매체에 저장할 수 있고, 생체인증과 결합해 보안성을 강화할 수 있다.
기업은 내부 문서 보안과 직원 인증을 위해 사설 PKI를 구축할 수 있다. 사내 메일 암호화와 서명, 문서 결재 시스템의 전자서명, VPN 접속 인증이 그 대상이다. IoT 환경에서는 기기 인증으로 불법 접근을 차단하고, 펌웨어 업데이트 시 코드 서명을 검증하며, 센서 데이터의 무결성을 보장하는 데 PKI 활용이 늘고 있다.
인증서 체계를 뒷받침하는 표준
X.509는 디지털 인증서의 표준 형식으로, 인증서 구조와 필드를 정의한다. 현재 v3 버전이 널리 사용된다.
PKCS(Public Key Cryptography Standards)는 RSA 보안에서 개발한 공개키 암호화 표준 모음이다. PKCS#7은 암호화 메시지 구문 표준이며, PKCS#10은 인증서 서명 요청 표준이다. PKCS#12는 개인 정보 교환 구문 표준으로 .pfx 파일에 사용된다.
OCSP(Online Certificate Status Protocol)는 인증서 상태를 실시간으로 확인하는 프로토콜이다. CRL보다 효율적인 인증서 유효성 검증 방법으로 사용된다.
운영에서는 신뢰 체계 자체를 관리한다
PKI 구축과 운영에는 인증서 발급·관리에 관한 명확한 보안 정책이 필요하다. 신원 확인 절차와 인증서 갱신 주기를 규정해야 한다.
개인키는 안전하게 보관하고 백업할 수 있어야 한다. 키 생성, 저장, 백업, 복구, 폐기에 걸친 관리 체계도 필요하다. 대칭키 암호화가 가진 키 분배 문제도 PKI의 적용 이유다. n명의 사용자 간 통신 시 필요한 키 수를 n²에서 2n으로 줄일 수 있다. 개인키가 분실되거나 유출된 경우에는 해당 인증서만 폐기하고, CRL(Certificate Revocation List)로 폐기 인증서를 관리한다.
사용자 증가에 대비한 확장 계획과 장애 발생 시 대응 방안도 함께 마련해야 한다. 법적 요구사항과 규제를 준수하고, 감사와 로깅 체계를 구축하는 일 역시 인증서 정책의 일부다.
암호 환경 변화와 신뢰 모델의 과제
PKI는 구축과 운영이 기술적으로 복잡하며 사용자 경험 측면의 불편함도 남긴다. 중앙집중식 신뢰 모델에서는 루트 CA가 침해될 경우 전체 시스템의 신뢰도가 무너질 수 있고, 단일 실패점(Single Point of Failure)이 존재한다. 대규모 환경에서는 인증서 갱신과 폐기 관리가 어려워지며, 사용자에게도 인증서 관리 부담이 생긴다.
양자컴퓨터의 발전은 RSA와 ECC 등 기존 암호화 알고리즘에 위협이 된다. 이에 따라 격자 기반, 해시 기반처럼 양자컴퓨터에도 안전한 알고리즘이 연구되고 있으며, NIST의 PQC 표준화 프로젝트도 진행 중이다.
중앙화된 CA 구조의 단일 실패점을 해소하려는 흐름에서는 블록체인 기반 PKI가 논의된다. 분산원장 기술로 인증서를 투명하게 관리하고, 웹 오브 트러스트(Web of Trust)와 결합한 신뢰 모델을 구성하는 방향이다. 이를 보완하기 위한 탈중앙화 PKI 모델 연구가 진행되고 있고, 블록체인 기반 인증서 관리 시스템도 개발되고 있다.
인증서 관리 자동화도 확대되고 있다. ACME(Automated Certificate Management Environment) 프로토콜과 Let's Encrypt 같은 무료 자동화 인증 서비스는 인증서 수명주기 관리의 자동화와 효율화를 지원한다. IoT 환경에서는 제한된 컴퓨팅 자원을 고려한 경량 암호화가 필요하며, 대규모 IoT 환경에 맞는 효율적인 인증서 관리 방안도 요구된다.
PKI는 공개키 암호화의 장점을 이용해 신뢰 기반을 구축하고, 디지털 신원·메시지 무결성·기밀성·부인방지 요구사항을 다룬다. 새로운 위협과 기술 변화에 대응하면서 블록체인 등 신기술과 융합한 형태로 발전할 전망이다.