HEVC(H.265) 내부 구조 — CTU 분할부터 SHVC 스케일러빌리티까지

같은 화질을 유지하면서 대역폭을 절반 가까이 줄이겠다는 목표로 나온 게 HEVC(High Efficiency Video Coding, H.265)다. ITU-T VCEG과 ISO/IEC MPEG이 합작한 H.264/AVC의 후속 표준으로, 콘텐츠와 설정에 따라 차이는 있지만 H.264/AVC 대비 약 35~50% 비트레이트를 절감한다. 4K/8K, HDR, 고프레임레이트(HFR) 서비스가 실용적인 대역폭으로 돌아가게 만드는 것이 핵심 목적이고, 저장 효율도 함께 개선한다.

확장 규격인 SHVC(Scalable HEVC)는 Base Layer와 하나 이상의 Enhancement Layer를 포함하는 다계층 비트스트림을 정의해 공간(Spatial)·시간(Temporal)·품질(SNR) 스케일러빌리티를 제공한다. 디바이스와 네트워크 조건에 따라 계층을 선택적으로 디코딩할 수 있는 구조다.

블록 구조와 변환 설계

HEVC는 CTU(최대 64x64) 기반 쿼드트리 분할로 CU/PU/TU 단위 처리를 한다. 콘텐츠 복잡도에 따라 블록 크기를 가변 선택해 RD(Rate-Distortion) 최적화를 노린다. 변환은 DCT/DST 기반이고 양자화가 고도화됐으며, 심층 블록 의사결정으로 텍스처 영역의 효율을 개선한다.

예측과 참조 관리

Intra 예측은 각도를 33방향 등으로 늘려 정지 텍스처 효율을 높였고, Inter 예측에서는 비정수 픽셀 정밀도와 고급 모션 벡터 예측(AMVP), 병합 모드(MERGE)가 강화됐다. Reference Picture Sets(RPS)로 참조 프레임 집합을 유연하게 관리해 장면 전환이나 빠른 움직임에 더 잘 대응한다.

루프 필터와 화질 보정

Deblocking Filter와 SAO(Sample Adaptive Offset) 이중 루프 필터가 블로킹·링깅 아티팩트를 줄이고 엣지를 유지한다. 이 조합으로 화질-비트레이트-복잡도 사이의 트레이드오프를 조절하기가 한결 쉬워졌다.

병렬화: WPP와 타일/슬라이스

WPP(Wavefront Parallel Processing)와 Tiles로 인코딩·디코딩을 병렬화해 멀티코어를 최대한 활용할 수 있다. 슬라이스 경계 기반의 에러 복원력도 향상돼 대규모 해상도에서 디코딩 안정성을 확보하기 쉬워졌다.

SHVC 스케일러빌리티 메커니즘

Base Layer(예: 720p)와 Enhancement Layer(예: 1080p/4K) 사이의 인터레이어 예측(샘플/모션/잔차)으로 중복을 제거한다. 단일 비트스트림에서 다양한 품질·해상도를 제공할 수 있어, 네트워크 적응과 수신 단말 성능에 맞춘 계층 선택 디코딩이 가능하다.

H.264/AVC, HEVC, SHVC 비교

항목	H.264/AVC	HEVC(H.265)	SHVC(Scalable HEVC)
성능(압축 효율)	기준 대비 1.0x	동일 화질 대비 약 1.35~~1.5x 효율(35~~50% 절감)	HEVC 대비 계층 중복 제거로 멀티타겟 전송 총량 절감
확장성	제한적(SVC 별도)	단일 계층 중심	다계층(Base+Enhancement), Spatial/Temporal/SNR
일관성(호환/생태)	최고 수준의 디바이스 호환	광범위하나 구형 단말 제약 존재	단말 지원 제한적, 상용 디코더 적음
안정성(성숙도)	매우 성숙, 장기 검증	성숙 단계, 대규모 배포 검증 완료	표준 성숙하나 상용 구현·호환성 제한
운영 편의(복잡도/비용)	인코딩 경량, 저비용	인코딩 복잡도↑(보통 2~10배), 라이선스 주의	파이프라인 복잡도↑, 도구·지원 제한

효율·복잡도 수치는 콘텐츠/설정/인코더에 따라 변동하며, 최신 라이선스·디바이스 지원 현황은 별도 확인이 필요하다.

어디에 쓰이는가

OTT/VOD에서는 ABR 래더를 H.264에서 HEVC로 전환해 CDN·저장 비용을 줄이고 4K/HDR을 상용화한다. 방송·케이블·위성에서는 UHD 4K 전송 표준으로 채택돼 동일 대역폭 안에서 채널 수를 늘리거나 화질을 개선한다. 모바일 스트리밍에서는 저비트레이트로 고화질을 유지하되, 배터리·발열은 단말 디코더 최적화 수준에 따라 달라진다. 기업·교육·회의에서는 제한된 대역폭에서도 가독성을 유지하면서 녹화 저장 공간을 줄인다. 멀티캐스트·전용망에서는 SHVC 기반 계층형 배포로 네트워크·단말 이질성에 대응하지만, 디바이스 지원 여부는 반드시 사전 검토해야 한다.

도입 절차와 폴백 아키텍처

입력은 마스터 파일이나 라이브 입력(SDI, NDI, SRT, RTP)이다. 처리는 디코드 → 전처리(스케일/필터) → 인코드(HEVC, 옵션으로 H.264 동시) → 패키징(HLS/DASH) 순이고, 배포·재생은 CDN/캐시 → 플레이어 기능 탐지(MSE/HEVC HW디코드) → HEVC 재생 또는 H.264 폴백으로 이어진다. 인코더가 실패하면 재시도 후 프리셋을 낮추고, 그래도 안 되면 코덱을 폴백한다. 플레이어 재생이 실패하면 프로파일·계층을 바꾼다.

⤢✕

인코딩 프로파일 가이드

VOD처럼 화질이 우선이면 x265 preset=slow~~slower, CRF 18~~23, bframes 6~~8, high-tier, 10-bit로 잡는다. 라이브처럼 지연이 우선이면 preset=veryfast~~faster, 키프레임 1~~2초, b-frames 0~~2, WPP 활성화, 타일 병렬화를 쓴다. HDR을 다룰 때는 Main10, BT.2020, PQ/HLG 톤매핑 정확도를 반드시 검증해야 한다. SHVC는 상용 인코더·디코더 지원 범위를 사전에 검증해야 하며, 실무에서는 다계층 대신 시뮬캐스트+ABR 조합이 더 현실적이다.

환경은 FFmpeg 6.x 이상, libx265 3.5+ 빌드, 10-bit 지원을 전제로 한다.

HEVC VOD 품질 기반:

ffmpeg -i input.mov -c:v libx265 -pix_fmt yuv420p10le -profile:v main10 -crf 20 -preset slow \
  -x265-params "bframes=8:rd=4:aq-mode=3:psy-rd=2.0:deblock=-1,-1" -c:a aac -b:a 128k output_hevc.mp4

HEVC 라이브 저지연:

ffmpeg -re -i input.ts -c:v libx265 -preset veryfast -tune zerolatency \
  -x265-params "bframes=0:keyint=60:min-keyint=60:scenecut=0:wpp=1" -c:a aac -f mpegts udp://host:port

SHVC 인코딩은 표준 참조 소프트웨어(SHM)나 상용 인코더가 필요하며, 공개 일반 배포 도구의 지원은 제한적이다.

대역폭·비용 효과와 TCO 판단

같은 화질 기준으로 평균 35~~50% 대역폭이 절감되고, ABR 래더 전체로 보면 트래픽이 30~~40%까지 줄어들 수 있다. 아카이브·캐시 레이어 저장 비용도 콘텐츠에 따라 30% 이상 절감된다. 다만 이 절감은 공짜가 아니다. CDN·스토리지 비용이 줄어드는 대신 인코딩 복잡도와 라이선스 비용이 늘어나므로, 도입 전에 이 균형을 따져봐야 한다.

HEVC는 H.264/AVC 대비 유의미한 압축 효율 향상과 4K/HDR 대중화를 이끄는 실용 표준이다. SHVC는 계층형 전송에 유리하지만 실제 단말 지원 제약이 있어 도입 전 철저한 호환성 검증이 필요하다. 실무에서는 HEVC와 H.264 이원화 파이프라인, 용도에 맞는 프리셋·프로파일 선정, 모니터링·폴백 체계 구축을 권장한다. 라이선스·디바이스 지원 현황은 최신 정보를 확인해야 한다.