길리랩blog

LLM 추천 랭커를 운영하기 위한 사후학습과 재정렬 설계

LLM 기반 추천 랭커를 서비스에 적용할 때 필요한 후보 생성, 사후학습, 지연 예산, 평가와 롤백 설계를 정리한다.

2026-09-02 · 최초 발행 2026-08-03

넷플릭스는 2026년 7월 내부 파운데이션 LLM을 넷플릭스 데이터와 목적함수로 사후학습한 추천 랭커 GenRec을 공개했다. 넷플릭스는 대규모 A/B 테스트에서 GenRec이 잘 튜닝된 기존 프로덕션 랭커를 통계적으로 유의하게 앞섰고, 훨씬 적은 학습 데이터로 그 결과를 달성했다고 밝혔다.

이 사례는 사람이 만든 피처 벡터를 중심에 두던 랭킹 구조를 바꿀 수 있음을 보여준다. 원본 신호를 텍스트로 전달하고 모델이 신호 간 관계를 찾게 할 수 있지만, 서비스 환경에서는 모델 성능만으로 충분하지 않다. 추론 비용, 지연, 평가 방법, 폴백과 재학습 체계가 함께 설계되어야 한다.

후보 생성과 LLM 재정렬을 분리하는 이유

전체 카탈로그에서 수백 건을 골라내는 단계는 경량 검색·임베딩 모델이 담당한다. 이 구간에 LLM을 투입하지 않는 이유는 후보 수가 바로 추론 비용이기 때문이다. LLM은 지연 예산 안에서 처리 가능한 상위 후보만 다시 정렬한다.

이 분리는 품질의 경계도 분명하게 만든다. 후보 생성에서 빠진 항목은 재정렬 단계에서 되살릴 수 없으므로, 후보 생성 재현율이 전체 품질의 상한이 된다. 재정렬 모델을 개선하는 일과 후보 생성 품질에 투자하는 일을 따로 보지 말아야 하는 이유다.

⤢✕부족충분이탈유지추천 요청후보 생성 (경량 모델 · 수백 건)지연 예산 잔여 확인폴백: 후보 순위 그대로 반환프롬프트 조립 (이력 ·메타데이터)LLM 재정렬 (프리필 전용 채점)후처리 (다양성 · 정책 필터)결과 반환온라인 지표 수집오프라인 지표와 상관 유지?평가셋 재구성주기적 사후학습 · 롤백 경로유지

재정렬 단계의 후보 수는 지연 예산에서 역산해 정한다. 품질 개선폭과 비용 증가를 함께 측정하면서 후보 수를 늘리고, 개선폭이 꺾이는 지점이 실무 상한이 된다. 트래픽 시간대에 따라 후보 수를 조정하는 동적 설정도 검토할 수 있다.

후보 생성, 재정렬, 후처리에는 각각 지연 예산을 할당하고 단계별 상한을 강제한다. 상한을 넘으면 재정렬을 건너뛰고 후보 생성 순위를 그대로 반환하는 폴백 경로가 필요하다.

사후학습 데이터는 목적함수에서 출발한다

시청 이력, 상호작용 로그, 콘텐츠 메타데이터는 자연어 프롬프트 형식으로 변환해 사후학습 데이터로 사용한다. 기존 로그를 이 형식으로 바꾸는 파이프라인이 데이터 확보보다 병목이 되는 경우가 많다. 개인정보 필드를 제외하는 규칙도 이 변환 단계에 포함해야 한다.

학습 데이터에는 긍정 사례만 넣지 않는다. 노출된 뒤 선택되지 않은 사례도 포함해야 하며, 부정 신호가 빠지면 순위가 왜곡될 수 있다. 카탈로그와 이용 패턴이 달라지면 과거 데이터의 가치가 급락하므로 데이터 신선도 역시 관리 대상이다.

목적함수는 단순 클릭이 아니라 서비스가 원하는 결과에 맞춘다. 시청 완료, 재방문, 만족도 대리 지표를 조합할 수 있다. 목적함수가 바뀌면 모델 재학습이 필요하므로, 변경 승인 절차와 변경 이력 보존을 별도 운영 체계로 둔다. 목적함수는 곧 서비스 방향이기 때문이다.

정확도만으로는 모델을 선택할 수 없다

오프라인 평가는 순위 지표에 지연과 비용을 함께 올려놓아야 한다. 정확도만 보면 실제 서비스에 올릴 수 없는 모델을 선택할 수 있다. 오프라인 지표가 온라인 결과를 얼마나 예측하는지도 검증해야 하며, 상관이 낮다면 해당 평가는 의사결정 근거가 되지 못한다.

과거 A/B 결과를 기준으로 오프라인 지표의 예측력을 확인하고, 상관이 검증된 지표만 운영 판단에 쓴다. 상관이 무너지면 평가셋을 재구성한다. 온라인 전환은 소규모 트래픽에서 시작해 지표 안정성을 확인한 뒤 확대한다. LLM 랭커의 비용은 트래픽에 비례하므로, 비율 단계와 각 단계의 유지 기간, 중단 조건을 미리 정할 필요가 있다.

전체 평균이 좋아져도 특정 집단에서는 악화될 수 있다. 세그먼트별 효과 차이를 확인하고, 추천 결과의 편향 점검도 정기 절차로 둔다.

비용과 롤백을 서비스 제약으로 다루기

요청당 추론 비용 상한과 일일 총량 상한을 함께 둔다. 총량 상한에 도달하면 폴백으로 전환한다. 비용이 급증할 경우 이전 단계로 자동 복귀하도록 임계값을 설정할 수 있다.

모델 갱신에는 재학습 주기, 배포 절차, 이전 모델로 돌아갈 경로가 필요하다. 갱신 전후 지표 비교를 자동화하고, 품질 지표 하락폭·지연 초과 비율·비용 초과 비율을 기준으로 롤백 조건을 정의한다.

전통 랭커와 LLM 랭커가 갈리는 지점

구분 LLM 네이티브 랭커 피처 기반 전통 랭커
신호 추가 텍스트 추가로 즉시 피처 설계·파이프라인
학습 데이터 요구 상대적으로 적음 많음
추론 비용 높음 낮음
지연 높음 낮음
해석 가능성 낮음 상대적으로 높음
운영 성숙도 신규 축적된 관행

LLM 랭커는 원본 로그와 메타데이터를 텍스트로 넣어 새 신호를 빠르게 반영할 수 있다. 사전학습된 세계 지식은 적은 라벨로도 성능을 내는 데 기여한다. 반면 추론 비용과 지연은 몇 배 수준으로 늘고, 순위 근거를 설명하기 어렵다.

전통 랭커는 빠르고 저렴하게 추론할 수 있으며 피처 기여도 분석으로 순위의 이유를 설명할 수 있다. 그러나 새 신호를 추가할 때마다 피처 설계와 파이프라인 작업이 필요하고, 충분한 라벨도 요구한다. 비용 차이는 후보 수에 비례해 커지므로 전 후보를 LLM으로 처리하는 구성은 성립하지 않는다. 두 모델을 단계별로 나누어 쓰는 방식이 사실상 유일한 실무 형태다.

범용 모델을 프롬프트만으로 활용하면 학습 인프라 없이 시작할 수 있고 모델 교체도 자유롭다. 다만 도메인 목적함수에 맞춰져 있지 않아 순위 품질이 프로덕션 기준에 미치지 못할 수 있으며, 프롬프트가 길어질수록 비용도 커진다. 도메인 사후학습은 서비스 목적함수에 직접 맞추고 짧은 프롬프트로 동작해 추론 단가를 낮출 수 있지만, 학습 파이프라인과 재학습 주기 관리가 상시 부담으로 남는다.

넷플릭스 사례처럼 프로덕션 랭커를 넘어서려면 사후학습이 필요하므로, 프롬프트 방식은 타당성 검증에 쓰고 본 운영은 사후학습으로 넘어가는 순서가 합리적이다.

추천 시스템 운영에서 달라지는 관리 대상

피처 엔지니어링을 모델에 넘기는 변화는 분석 업무의 무게중심을 피처 설계에서 데이터 표현과 목적함수 정의로 옮긴다. 오프라인 지표와 온라인 지표의 상관 검증은 대리 지표의 타당성을 확인하는 표준 절차가 된다.

단계별 지연 예산과 초과 시 폴백은 응답 시간 보장 설계의 기본 형태다. 프리필 전용 추론은 워크로드 특성에 맞춰 계산 경로를 축약한 최적화 사례로 볼 수 있다. 평균 개선 뒤에 숨은 특정 집단의 악화를 찾기 위해 세그먼트별 효과를 확인하고, 목적함수 변경은 서비스 방향 변경을 통제하는 절차로 관리해야 한다.

LLM 랭커는 후보 재정렬 계층의 표준 선택지로 자리 잡고, 후보 생성 단계 최적화의 중요성은 더 커지는 흐름이다. 증류 모델과 프리필 전용 추론은 추천 서빙의 기본 구성으로 정착하며 단가가 지속 하락하는 방향이다. 오프라인 평가와 온라인 지표의 상관 관리는 추천 시스템 운영의 독립 과제가 되고, 자연어 프롬프트 기반 랭킹이 확산되면서 추천 이유 설명 기능도 부가 산출물로 제공되는 방향이다.

Sources

LLM 랭커추천 시스템사후학습재정렬MLOps