암호화 키 은닉 전략: PUF와 화이트박스 암호화

키가 노출되면 암호화도 방어막이 되지 못한다

강한 암호 알고리즘을 사용해도 키가 드러나는 순간 보호 효과는 사라진다. 그래서 키를 저장하거나 사용하는 경로를 보호하는 일은 암호화 시스템의 핵심 설계 과제가 된다.

키 은닉에는 서로 다른 관점의 접근이 있다. PUF(Physical Unclonable Function)는 하드웨어가 가진 물리적 특성을 활용하고, 화이트박스 암호화는 실행 중인 소프트웨어 내부에서도 키를 드러내지 않도록 설계한다.

반도체의 미세한 차이로 키를 만드는 PUF

PUF는 물리적으로 복제하기 어려운 하드웨어 특성에서 고유한 디지털 지문과 같은 값을 얻는 기술이다. 반도체 제조 과정에는 완전히 제어할 수 없는 미세한 물리적 편차가 생기며, PUF는 바로 그 차이를 기반으로 동작한다.

같은 입력에는 같은 출력을 내며, 물리적 구조에 의존하므로 복제가 어렵다. 별도의 외부 저장소 없이 키를 생성할 수 있고, 물리적 공격에 대한 내성도 제공한다.

지연 기반 PUF는 회로 경로별 신호 지연 시간의 차이를 이용한다. Arbiter PUF와 Ring Oscillator PUF가 여기에 속한다.

⤢✕

메모리 기반 PUF는 SRAM, DRAM, 플래시 메모리가 초기화될 때 나타나는 상태 차이를 사용한다. 전원이 켜질 때의 불안정한 초기 상태가 장치별 고유 패턴이 된다.

코팅 PUF는 집적회로 위에 불규칙한 코팅 레이어를 만들고, 코팅 물질의 유전체 특성이나 저항 값을 측정한다.

PUF는 IoT 장치의 고유 ID 생성, 스마트카드의 복제 방지 식별자, 정품 확인과 공급망 보안, 군사용 장비의 중요 암호화 키 생성 및 저장에 적용될 수 있다. 스마트폰 제조사 A사는 최신 모델에서 보안 키를 저장하지 않고 필요할 때마다 PUF로 생성해, 물리적 해킹 시 키 노출을 막는 방식을 구현했다.

실행 과정까지 노출된 환경의 화이트박스 암호화

화이트박스 암호화는 공격자가 프로그램 실행 과정과 메모리 내용을 모두 볼 수 있는 환경을 전제로 키를 보호한다. 전통적인 방식에서는 키가 메모리에 올라오는 시점이 노출 지점이 될 수 있다. 화이트박스 암호화는 키를 알고리즘 구현에 녹여 직접 추출하기 어렵게 만든다.

키와 알고리즘을 분리하기 어렵게 통합하고, 코드 난독화와 테이블 기반 구현으로 연산 과정을 감춘다. 동적 코드 실행도 정적 분석을 방해하는 방법으로 활용된다.

테이블 룩업 방식에서는 암호화 연산을 미리 계산한 테이블로 바꾼다. S-box와 키 연산을 결합한 테이블을 생성해 연산 경로를 드러내지 않는 방식이다.

⤢✕

코드 난독화에는 더미 코드 삽입, 제어 흐름 복잡화, 동적 코드 생성이 포함된다. 외부 인코딩 기법은 입출력 값에 인코딩을 적용하고, 입력 전 인코딩과 출력 후 디코딩 과정을 추가한다.

이 접근이 완전한 보안을 보장하는 것은 아니다. 테이블 룩업과 추가 연산은 성능 오버헤드를 만들고, 룩업 테이블은 메모리 사용량을 키울 수 있다. BGE(Differential Computation Analysis) 공격은 입출력 패턴을 분석해 키 복구를 시도할 수 있으며, 새 공격 기법에 맞춘 지속적인 개선이 필요하다.

적용 대상은 미디어 콘텐츠를 보호하는 DRM(Digital Rights Management), 모바일 결제 애플리케이션의 결제 정보와 토큰, 클라이언트 인증 키, 소프트웨어 라이선스 관리 등이다. 글로벌 스트리밍 서비스 B사는 프리미엄 콘텐츠 불법 복제를 막기 위한 DRM 시스템에 화이트박스 암호화를 도입해, 클라이언트 앱에서 암호화 키가 직접 노출되지 않도록 구성했다.

키 생성과 사용 구간을 함께 방어하는 방식

PUF와 화이트박스 암호화는 서로 다른 층을 보호하므로 결합할 수 있다. PUF로 장치별 키를 생성한 뒤, 생성된 키를 화이트박스 암호화로 추가 보호하는 방식이다.

이 구조에서는 하드웨어가 첫 방어선이 되고 소프트웨어가 다음 방어선을 맡는다. 침해 탐지와 대응 메커니즘까지 더하면 키 생성부터 암호화 연산, 응답 전달까지 여러 층의 방어를 구성할 수 있다.

⤢✕

키 은닉이 향하는 기술적 방향

키 은닉 기술은 양자 컴퓨팅 위협에 대응하는 퀀텀 저항성 기법과 포스트 퀀텀 암호의 결합으로 발전할 전망이다. 머신러닝으로 공격 패턴을 감지하고 자가 적응형 보안 메커니즘을 구성하는 AI 기반 동적 보안도 한 방향이다.

블록체인 기술과 통합하거나 멀티파티 계산으로 키를 분산 저장하는 분산 키 관리 역시 고려 대상이다. IoT와 같이 자원이 제한된 환경에서는 에너지 효율적인 PUF 설계와 경량화된 구현이 요구된다.

키 은닉 전략은 환경의 하드웨어 특성, 소프트웨어 노출 수준, 요구되는 보안 수준을 함께 보고 선택해야 한다. PUF와 화이트박스 암호화는 각자의 장점과 제약을 가진 만큼, 위협 모델에 맞춰 조합하고 새 공격 기법에 맞춰 보안 체계를 갱신하는 일이 필요하다.