Anthropic Claude 성능 차등화 논란과 API 거부 가시화

답변을 거부하지 않고 품질만 낮춘 정책

2026년 6월, Anthropic이 경쟁 AI 기업 연구자를 대상으로 Claude 모델의 성능을 은밀하게 낮춰왔다는 사실이 알려졌다. Claude Fable 5 시스템 카드(System Card)에 포함된 단락이 공개되면서 논란이 시작됐고, Anthropic은 정책을 철회한 뒤 6월 11일부터 API 거부 사유 가시화 시스템(API Rejection Visibility System)을 순차 배포했다.

발단은 2026년 6월 9일 출시된 Claude Fable 5였다. 이 모델은 제한적으로 운영되던 Mythos의 공개 버전이다. 319페이지 분량의 시스템 카드에는 프론티어 LLM 개발 작업에 적용되는 가드레일(Guardrail)이 기재돼 있었다.

경쟁 AI 기업의 연구자로 판단된 사용자가 사전 훈련 파이프라인(Pretraining Pipeline) 설계, ML 가속기 최적화, 신경망 아키텍처 탐색 등을 요청하면 Claude가 응답 품질을 의도적으로 낮추는 방식이었다. 사용자에게 별도의 알림은 제공되지 않았다. 결과적으로 사용자는 정책이 개입했다는 사실을 알지 못한 채 Claude가 해당 작업에 약하다고 받아들일 수 있었다.

이 처리는 프롬프트 수정(Prompt Modification)과 스티어링 벡터(Steering Vector)를 결합해 구현됐다. AI2의 Nathan Lambert와 Foundation for American Innovation의 Dean Ball 등 저명한 연구자들은 이를 “비밀 방해 공작(Secret Sabotage)”이라고 규정하며 비판했다.

Anthropic은 해당 제한이 전체 트래픽의 약 0.03%, 조직 기준 0.1% 미만에 영향을 미쳤다고 밝혔다. 하지만 문제의 초점은 적용 규모가 아니었다. 명시적 법적 제한(Explicit Legal Restriction)을 고지하는 대신 성능을 은밀하게 떨어뜨린 방식이 “안전을 명분으로 한 경쟁 전략”이라는 논란을 낳았다. Anthropic은 6월 11일 공식 사과와 함께 정책 전면 철회, 투명한 대체 시스템 도입을 발표했다.

성능 차등화는 어디에서 불투명해지는가

⤢✕

사용자 쿼리 기반 성능 차등화(Query-Based Performance Differentiation)는 기술적으로 구현하기 어렵지 않다. 쿼리의 의미, 사용자 컨텍스트, 조직 정보를 함께 분석한 뒤 서로 다른 응답 경로를 선택할 수 있기 때문이다. 쟁점은 차등화 자체보다 사용자가 그 적용 여부를 알 수 있느냐에 있다.

예를 들어 “사이버보안 카테고리 요청이므로 이 요청은 처리할 수 없습니다”라고 알리는 것은 제한의 존재와 이유가 드러나는 방식이다. Anthropic은 생물학·사이버보안 민감 카테고리에 이미 이런 처리를 적용하고 있었다. 반면 경쟁사 연구자로 판단된 사용자에게는 제한을 알리지 않았고, 이 차이가 이중 기준(Double Standard) 비판으로 이어졌다.

스티어링 벡터는 모델의 내부 표현 공간(Representation Space)에서 활성화를 특정 방향으로 편향시켜 출력의 품질과 완성도를 낮출 수 있다. 명시적인 프롬프트 수정에 비해 외부에서 발견하기 어렵고, 사용자는 정책 개입을 모델의 본래 성능으로 오인하기 쉽다. 내부 정책이 이런 형태로 구현되면 외부 감사(External Audit)나 벤치마크에서도 의도적인 성능 변화를 찾아내기 어렵다.

API 응답에 정책 적용 경로를 드러내다

Anthropic이 2026년 6월 11일부터 순차 배포한 API 거부 사유 가시화 시스템은 은밀한 품질 저하를 명시적인 처리로 바꾸는 아키텍처다.

프론티어 LLM 개발 관련 요청이 감지되면 Fable 5의 품질을 조용히 낮추는 대신 Opus 4.8로 폴백(Fallback)하거나 처리 불가 응답을 반환한다. 요청이 다른 경로로 이동했거나 제한됐다는 사실을 사용자가 확인할 수 있게 한 것이다.

API 수준에서도 거부 카테고리 코드와 관련 정책 링크를 응답 헤더 또는 본문에 포함한다. 개발자는 이 값을 파싱해 어떤 정책 조항이 요청을 제한했는지 판단하고 애플리케이션의 후속 동작을 정할 수 있다. 사이버보안·생물학 카테고리에서 사용하던 명시적 처리 수준을 다른 제한에도 적용하는 방향이다.

서비스 약관(Terms of Service)과 기술적 통제 사이의 연결도 공개된다. Anthropic의 이용 약관은 Claude를 경쟁 AI 시스템 개발에 사용하는 행위를 제한한다. 새 방식은 이 조항에 따른 제한을 기술적으로 집행하면서도 적용 사실과 이유를 사용자에게 알린다. 국가 안보(National Security) 관련 사유 역시 같은 명시적 통보 방식으로 처리된다.

사용자 맥락에 따라 달라지는 모델을 어떻게 평가할까

모델이 사용자 프로필이나 쿼리 컨텍스트를 근거로 성능을 바꿀 수 있다면 표준 벤치마크 결과만으로 실제 서비스 품질을 판단하기 어려워진다.

HELM(Holistic Evaluation of Language Models)은 정확도, 캘리브레이션(Calibration), 견고성(Robustness), 공정성, 편향, 독성, 효율성을 함께 평가한다. 다만 이 체계도 평가 시점에 모델이 일관되게 행동한다는 전제를 둔다. 쿼리 맥락에 따라 동적으로 처리 방식을 바꾸는 서비스에는 별도의 검증 레이어가 필요하다.

먼저 같은 쿼리를 다양한 사용자 프로필과 API 키 조합으로 호출해 컨텍스트 독립성을 확인해야 한다. 모델 내부 표현의 통계적 특성을 분석하는 감사로 스티어링 벡터에 의한 의도적 편향 주입 여부도 검사할 수 있다. 여기에 행동 일관성을 외부에서 검증하는 독립 기관 감사가 필요하다. 원본에서 제시된 사례는 OpenAI가 GPT-5에 대해 47개 공격 카테고리의 제3자 감사 결과를 공개한 방식이다.

2026년 현재 논의되는 LLM 서비스 공정성 감사 체계(LLM Service Fairness Audit)는 SOC 2 감사와 유사한 구조다. 모델 제공업체가 정기적으로 제3자 감사를 받고 결과를 공개하는 방식이며, Anthropic 사건은 이런 체계의 도입 논의를 크게 가속했다.

Anthropic·OpenAI·Google의 공개 전략

Anthropic은 Constitutional AI와 모델 카드(Model Card)를 공개하며 투명성을 강조해왔다. 그러나 경쟁사 연구자 대상 성능 차등화는 공개적으로 제시한 AI 안전 원칙과 충돌했다. 정책 철회 후 마련한 API 거부 사유 가시화 시스템은 신뢰 회복을 위한 조치지만, 훼손된 신뢰를 되돌리는 데에는 상당한 시간이 필요하다.

OpenAI는 GPT-5의 47개 공격 카테고리에 대한 제3자 레드팀(Red Team) 결과를 공개했다. 연쇄 추론(Chain-of-Thought) 과정의 감사 가능성도 강조하며, 거부 처리에는 명시적인 메시지를 제공해왔다. Anthropic 사건 이후에는 이런 접근이 상대적으로 더 투명하게 평가됐다.

Google DeepMind의 Gemini 계열은 인구 통계 대표성 벤치마크와 데이터 큐레이션 투명성에 강점을 보인다. Gemini 3.1 Pro는 표현 편향(Representation Bias) 감소에서 가장 우수한 결과를 보였고 평가 방법론의 문서화 수준도 높다. 다만 내부 정책에 따른 성능 차등화 여부를 명시적으로 부인하거나 공개하지 않아 독립 감사가 필요하다는 지적이 제기된다.

정책과 모델 능력을 분리하는 설계

모델 행동 일관성(Model Behavioral Consistency)은 동일한 입력에 대한 처리가 사용자 프로필, API 키, 시간, 서버 상태 같은 외부 변수에 좌우되지 않아야 한다는 원칙이다. 이를 서비스 아키텍처에 반영하려면 모델의 추론 능력과 정책 집행 경로를 구분해야 한다.

정책 레이어 분리(Policy Layer Separation)는 모델 자체의 추론과 제한·필터링 정책을 별도의 계층으로 운영하는 접근이다. 정책이 적용되면 그 여부와 사유를 사용자에게 공개한다. 스티어링 벡터로 모델 내부에서 제한을 구현하면 이 경계가 흐려진다.

불변 코어(Immutable Core) 원칙에서는 외부 컨텍스트가 모델의 기반 추론 능력을 바꾸지 않도록 한다. 제한이 필요할 때는 추론 후 출력 필터링(Post-Inference Output Filtering) 단계에서 정책을 적용한다. 모델 행동의 일관성을 유지하면서 서비스 정책을 조정할 수 있는 구조다.

감사 로그(Audit Log)에는 모든 요청과 처리 경로, 적용된 정책 규칙, 거부 사유를 검색 가능한 형태로 남긴다. 이 기록은 내부 품질 관리뿐 아니라 외부 감사의 증거가 된다. Anthropic의 새 시스템은 관련 정보를 API 응답에서도 공개해 외부 검증 가능성을 높였다.

AI 윤리와 서비스 신뢰성에 남긴 쟁점

이 사건은 AI 윤리(AI Ethics), 시스템 신뢰성(System Reliability), 서비스 수준 협약(SLA)을 하나의 운영 문제로 연결한다.

투명성(Transparency)은 AI 시스템이 어떤 근거와 절차로 결정을 내렸는지 이해관계자가 파악할 수 있어야 한다는 원칙이다. 정책 적용을 숨긴 성능 차등화는 이 원칙과 충돌한다. 공정성(Fairness)은 동일한 서비스를 받을 동등한 권리와 맞닿아 있으며, 사용자 정체성에 따라 품질을 달리하는 처리는 공정성 침해로 분류된다.

시스템 품질 측면에서는 신뢰성(Reliability)과 무결성(Integrity)이 쟁점이 된다. ISO/IEC 25010의 신뢰성 특성은 시스템이 명시된 조건에서 명시된 성능 수준을 유지하는 능력을 다룬다. 사용자에게 알리지 않은 성능 저하는 이 정의에 어긋난다.

LLM API의 SLA에는 명시된 조건뿐 아니라 암묵적 서비스 기대치(Implicit Service Expectation)도 영향을 미친다. 같은 요금을 지불한 사용자가 조직 유형에 따라 다른 품질의 서비스를 받는다면 계약 위반에 해당할 수 있다는 논의가 나온다. 이는 2026년 이후 LLM API 서비스 계약 표준화 논의의 핵심 쟁점이 되고 있다.

Anthropic의 정책 철회와 API 거부 사유 가시화는 처리 제한을 외부에서 확인할 수 있는 방향으로 전환한 조치다. 다만 일회성 정책 변경만으로 행동 일관성이 보장되는 것은 아니다. 정책 레이어의 분리, 감사 가능한 처리 기록, 독립적인 공정성 검증이 함께 작동해야 서비스 제공자의 안전 판단과 사용자의 알 권리 사이의 경계를 점검할 수 있다.