Claude 5 시대의 최소 컨텍스트 설계와 프롬프트 감축

Claude Opus 5 출시와 같은 날인 2026년 7월 24일, Anthropic의 Claude Code 팀은 Claude 5 세대를 위한 컨텍스트 엔지니어링 규칙을 공개했다. Opus 5·Fable 5용 Claude Code 시스템 프롬프트를 80% 이상 덜어냈지만, 코딩 평가에서 측정 가능한 성능 손실은 없었다는 내용이다.

이 결과는 구세대 모델에 맞춰 축적한 가드레일이 새 모델에는 도움이 되지 않을 수 있음을 보여준다. 팀은 시스템 프롬프트뿐 아니라 CLAUDE.md와 스킬도 Claude Code를 과도하게 제약하고 있었다고 진단했다.

프롬프트에 남겨야 할 정보

기존 프롬프트는 최악의 상황을 막기 위한 금지 규칙과 예시를 계속 추가하는 방식으로 커지기 쉬웠다. Claude 5 세대에서는 모델이 주변 컨텍스트와 자체 판단으로 처리할 수 있는 내용을 빼고, 그 방법으로는 알 수 없는 정보만 남기는 쪽으로 기준이 옮겨갔다.

우선 감축 대상으로 볼 수 있는 항목은 다음과 같다.

verify, double-check, re-verify처럼 같은 검증 행동을 거듭 요구하는 지시
주석과 문서 스타일을 세부적으로 고정하는 규칙 목록
디렉터리 구조, 빌드 명령, 프레임워크처럼 저장소를 읽으면 확인할 수 있는 CLAUDE.md의 정보

세부 스타일 규칙은 “주변 코드의 관행에 맞추라”는 판단 프레이밍으로 대체할 수 있다. 반면 조직 고유의 제약처럼 모델이 저장소와 현재 컨텍스트만으로 유도할 수 없는 내용은 남겨야 한다.

few-shot 예시도 재검토 대상이다. 예시는 모델의 탐색 공간을 예시 주변으로 좁힌다. 능력이 높아진 모델에서는 이 제한이 성능 손실로 이어질 수 있으므로, 예시를 더하는 대신 도구 설계의 품질을 높여 올바른 행동을 자연스럽게 유도하는 방식이 대안으로 제시됐다.

시스템 프롬프트, 툴 설명, CLAUDE.md, 스킬은 모두 요청마다 입력 토큰에 포함된다. 프롬프트 캐싱을 쓰더라도 캐시 저장·조회 대상이 작아지므로, 감축은 품질뿐 아니라 비용과 지연에도 직접 영향을 준다.

삭제는 평가 게이트 안에서 이뤄져야 한다

프롬프트를 줄이는 과정은 일괄 정리보다 항목 단위의 삭제와 평가 반복에 가깝다. 그래야 회귀가 발생했을 때 원인을 특정하고 필요한 항목만 되돌릴 수 있다.

⤢✕

시작점은 시스템 프롬프트, CLAUDE.md, 스킬, 툴 설명의 토큰 규모를 인벤토리로 만드는 일이다. 그 뒤 각 내용을 저장소에서 유도 가능한지, 검증 반복인지, 스타일 세부 규칙인지, 실제 조직 고유 정보인지 분류한다. 앞의 세 범주는 우선 삭제하고, 조직 고유 정보만 유지한다. /doctor 진단 결과는 이 분류를 교차 확인하는 데 쓸 수 있다.

평가셋에는 실제 작업 유형을 반영한 코딩·에이전트 태스크를 넣는다. 성공률, 형식 준수율, 툴 호출 정확도, 사람 개입 비율을 지표로 삼고, 핵심 지표에서 회귀 0건을 통과 기준으로 둔다. 기준에 미달한 항목만 선택적으로 복원하며, 나머지 삭제는 유지한다.

평가 자산 없이 프롬프트부터 덜어내는 방식은 위험하다. 감축 자체가 아니라 감축 결과를 확인할 수 있는 하네스가 선행 조건이다.

모델 세대에 따라 프롬프트도 갈라진다

같은 프롬프트를 모든 세대에 공유하면 신세대에는 과제약이 되고 구세대에는 과소제약이 될 수 있다. 따라서 세대 전환은 기존 프롬프트 자산을 다시 검토하는 기본 트리거로 다뤄야 하며, 이전 세대용 설정을 수정 없이 이관해서는 안 된다.

세대별 프롬프트는 별도 버전으로 관리하고, 어떤 모델에 어떤 버전을 적용하는지 설정으로 명시하는 편이 낫다. 세대 혼용 환경에서는 이 분기 관리 비용을 감수하거나 구세대 지원을 종료하는 판단이 필요하다.

토큰 비용은 요청당 시스템 토큰 수, 캐시 적중 시·미스 시 실효 단가, 첫 토큰 지연으로 측정할 수 있다. 절감액을 계산할 때는 캐시 할인이 적용되는지 구분해야 과대 추정을 피할 수 있다.

CLAUDE.md는 조직 고유 지식의 최소 집합으로 정의할 수 있다. 새 내용을 넣으려면 모델이 저장소에서 유도할 수 없는 정보인지 근거를 검토하게 하고, 프롬프트 변경 이력·평가 결과·승인자는 형상관리 대상으로 남긴다. 저장소에서 읽을 수 있는 사실을 문서에 다시 적으면 곧 불일치 부채가 된다.

상세 지시와 최소 컨텍스트의 선택 기준

구분	프롬프트 감축(5세대 방식)	상세 지시 유지(구세대 방식)
코딩 평가 성능	유지(측정 가능한 손실 없음)	신세대에서 저해 가능
토큰 비용	시스템 토큰 대폭 감소	상시 누적
유지보수	최소 집합만 관리	규칙 충돌·중복 누적
탐색 공간	넓게 유지	예시 주변으로 협소화
실패 모드	조직 고유 제약 누락 위험	과제약으로 인한 품질 저하
검증 부담	회귀 평가 필수	상대적으로 낮음

수동 튜닝은 삭제 여부를 직관으로 판단하기 때문에 회귀를 놓치기 쉽다. 반대로 평가 기반 감축은 공수가 들지만, 왜 삭제했는지와 어디를 복원해야 하는지를 기록으로 남긴다. /doctor류 도구는 스킬과 CLAUDE.md의 규모·중복·과제약 여부를 진단해 감축 후보를 찾는 공수를 줄이는 역할을 한다.

프롬프트보다 도구 설계가 앞서는 시점

프롬프트는 코드라기보다 요구사항 명세에 가깝다. 모델 능력이 높아지면 명세의 적정 상세도도 낮아질 수 있으므로, 모델 세대에 맞춰 프롬프트 규모를 조정하는 일은 AI 서비스 설계의 일부가 된다.

이 흐름은 지시를 늘려 통제하는 방식에서, 도구를 설계해 바람직한 행동을 유도하는 방식으로의 이동이다. 예시 중심 프롬프트 엔지니어링의 비중은 줄고, 도구 스키마와 설명 품질은 에이전트 성능의 주요 레버가 될 수 있다.

2026년에는 모델 릴리스마다 프롬프트 인벤토리를 점검하는 절차가 정착하고, 세대별 프롬프트 분기를 지원하는 버전 관리 도구와 정책 계층의 수요가 늘어날 전망이다.