MPEG 코덱 표준 한눈에 보기 — AVC부터 VVC까지 압축 파이프라인과 선택 기준

OTT 스트리밍이든 지상파 방송이든, 영상 서비스의 대역폭 비용은 결국 어떤 MPEG 코덱을 쓰느냐로 갈린다. MPEG(Moving Picture Experts Group)는 시간적·공간적 중복성과 인간의 지각 특성(psycho-visual/psycho-acoustic)을 활용해 손실·무손실 부호화 기법을 표준화한 기술군이다.

표준 체계는 크게 셋으로 나뉜다. 비디오는 MPEG-1/2/4 AVC, MPEG-H HEVC, MPEG-I VVC, MPEG-5 EVC/LCEVC로 이어지고, 오디오는 MPEG-1 Layer II부터 MPEG-2/4 AAC, MPEG-H 3D Audio까지, 전송·적응형 스트리밍은 MPEG-2 TS와 MPEG-DASH가 담당한다. MPEG 표준화는 비트스트림 문법과 디코더 동작을 정의하는 데 집중하고 인코더 구현에는 자유도를 준다는 원칙을 공통으로 따른다.

시간·공간 예측과 블록 기반 부호화

시간 예측은 움직임 추정/보상(Motion Estimation/Compensation)으로 프레임 간 중복성을 제거하며, I/P/B 프레임과 GOP 구조가 이를 뒷받침한다. 공간 예측은 인트라 예측으로 블록 내부의 방향성 패턴을 예측해 변환 전 잔차를 최소화한다. B-프레임을 쓰면 압축 효율은 올라가지만 인코딩 복잡도와 지연이 함께 늘어나는 트레이드오프가 있다.

변환과 양자화

DCT/DST 기반 정수 변환으로 에너지를 주파수 성분으로 분리하고, QP로 비트율-화질 균형을 조정하는 양자화 단계에서 손실이 발생한다. RDO(율-왜곡 최적화)는 후보 모드 중 왜곡 대비 비트 비용이 최소인 쪽을 골라내는데, 그만큼 계산량이 늘어난다.

엔트로피 부호화

VLC/CAVLC와 CABAC이 심볼 확률을 모델링해 비트 낭비를 줄인다. CABAC을 쓰면 5~15% 효율이 개선되지만 디코더 복잡도가 그만큼 늘어나며, 동적 컨텍스트 업데이트로 장면·콘텐츠 변화에 적응한다.

인루프 필터와 지각 기반 도구

디블록킹, SAO/ALF 같은 인루프 필터가 블로킹·링잉 아티팩트를 완화하며, 비디오에서는 텍스처 복원과 경계 보존의 균형을, 오디오에서는 MDCT·TNS·PNS와 심리음향 모델을 통한 마스킹을 활용한다.

비트율 제어와 전송 적합성

HRD/VBV 모델의 버퍼 제약을 지키면서 CBR/VBR/CRF를 운용하고, 슬라이스·타일·웨이브프런트(WPP)로 병렬화와 오류 내성을 확보한다. 전송 단계에서는 MPEG-2 TS나 ISOBMFF(fMP4)로 패킷화해 ABR 스트리밍과 결합한다.

⤢✕

어디에 어떤 코덱을 쓰는가

OTT/클라우드 스트리밍에서는 Ladder 설계와 Per-title/Per-shot 인코딩으로 CDN 비용을 줄이고, DASH/HLS 기반 ABR로 해상도·비트레이트를 적응시킨다. HDR(10/HLG)/WCG를 지원하면서 AVC→HEVC/EVC/VVC로 다중 코덱 전략을 점진적으로 도입하는 흐름이 일반적이다.

방송·케이블·지상파는 MPEG-2 TS 위에 AVC/HEVC를 얹고 CBR과 고정 GOP로 서비스 안정성을 확보한다. 로컬 광고 인서트, 자막·라운드니스(EBU R128/ATSC A/85) 준수, 재난 경보용 PID 관리와 비상 모드 저비트레이트 폴백도 여기에 포함된다.

저지연 실시간·인터랙티브 환경에서는 Low-delay/ultrafast 프리셋, B-프레임 최소화, 작은 GOP를 쓰고 SVC/LCEVC로 경량 계층 확장과 적응적 품질을 제공한다. 네트워크 패킷 손실에는 FEC/ARQ와 디코더 은닉 기법으로 대응한다.

코덱 비교: 무엇을 기준으로 고르는가

코덱(표준)	압축 효율(AVC 대비)	복잡도(인코딩)	지연/랜덤 액세스	하드웨어 지원	운영 편의/비고
MPEG-2 Video	-50% 수준	낮음	우수	매우 넓음(레거시)	SD/초기 HD 유산 자산
H.264/AVC (MPEG-4 Part 10)	기준	중간	양호	매우 넓음	범용 호환성 최상
H.265/HEVC (MPEG-H Part 2)	35~50% 절감	높음	양호	넓음(신형 단말 중심)	4K/HDR 주력
VVC/H.266 (MPEG-I Part 3)	30~50% 추가 절감	매우 높음	양호	제한적(확대 중, 최신 정보 확인 필요)	8K/고난도 콘텐츠 적합
MPEG-5 EVC (Baseline/Main)	20~40% 절감	중~높음	양호	제한적	라이선스 구조 단순화 지향
MPEG-5 LCEVC	20~40% 향상(상위 코덱 대비)	낮음(경량)	우수	소프트웨어/플러그인 위주	인코더 가속·업스케일 기반

효율 수치는 콘텐츠·설정에 따라 변동하므로 실제 벤치마크가 필요하다. 같은 절감폭을 품질 지표로 바꿔 보면, 동일 비트율 기준으로 VVC는 AVC 대비 PSNR/SSIM/VMAF를 10~30%(콘텐츠 의존) 개선할 수 있고, AVC에서 HEVC로 전환하면 CDN 비용을 30% 이상 절감할 수 있다.

인코딩 설계 절차와 트레이드오프

입력 분석에서는 해상도·프레임레이트·노이즈 특성을 파악하고 샷 단위 난이도를 스코어링한다. Ladder 구성 단계에서는 타겟 단말·네트워크를 고려한 해상도/비트레이트 단계를 설계하고 per-title 최적화를 적용한다. 제약 관리 단계에서는 HRD/VBV, 키프레임 간격, 지연 목표, HDR 메타데이터 보존 정책을 정한다.

지연과 효율은 늘 맞바꿈 관계다. B-프레임이나 큰 GOP는 효율을 높이지만 라이브 지연을 늘린다. 품질과 안정성도 마찬가지라 QP 변동이 크면 품질 펌핑이 나므로 VBV를 엄수해 버퍼 언더플로를 막아야 한다. 병렬화를 위해 타일·슬라이스를 늘리면 디코딩 병렬성은 좋아지지만 경계 아티팩트와 헤더 오버헤드가 함께 증가한다.

FFmpeg으로 보는 실전 설정

전제조건은 FFmpeg 6.0 이상, x264/x265 빌드 포함, 테스트 입력 input_1080p.mp4다.

AVC CRF 품질 중심 인코딩:

ffmpeg -i input_1080p.mp4 -c:v libx264 -preset slow -tune film -crf 20 -profile:v high -level 4.1 \
  -x264-params keyint=240:min-keyint=24:scenecut=40:vbv-bufsize=2000:vbv-maxrate=4000 \
  -c:a aac -b:a 128k -movflags +faststart output_avc_crf.mp4

HEVC 2패스 CBR(방송·라이브 유사, VBV 엄수):

ffmpeg -y -i input_1080p.mp4 -c:v libx265 -preset medium -x265-params "pass=1:vbv-bufsize=3000:vbv-maxrate=3000:hrd=1:keyint=120:min-keyint=24:scenecut=0" \
  -an -f mp4 /dev/null && \
ffmpeg -i input_1080p.mp4 -c:v libx265 -preset medium -x265-params "pass=2:vbv-bufsize=3000:vbv-maxrate=3000:hrd=1:keyint=120:min-keyint=24:scenecut=0" \
  -c:a aac -b:a 128k -movflags +faststart output_hevc_cbr.mp4

저지연 설정(WebRTC 유사 파이프라인 전처):

ffmpeg -i input_1080p.mp4 -c:v libx264 -preset veryfast -tune zerolatency -x264-params "bframes=0:keyint=60:min-keyint=60:scenecut=0:vbv-bufsize=1000:vbv-maxrate=2500" \
  -c:a aac -b:a 96k -movflags +faststart output_avc_lowdelay.mp4

하드웨어 인코딩(NVENC/VAAPI/QSV)을 쓸 때는 프리셋과 레이트컨트롤 옵션이 달라지므로 드라이버·펌웨어를 최신 상태로 유지해야 한다.

AVC의 광범위한 호환성을 기반으로 HEVC/EVC/VVC를 점진적으로 도입하되, 하드웨어 지원·라이선스·지연 목표에 따라 단계적으로 마이그레이션할 것을 권장한다. 최신 코덱의 단말 지원 현황은 지속적으로 확인이 필요하다.