GPT-5.5 Instant의 환각 억제와 고위험 도메인 검증 아키텍처

OpenAI는 GPT-5.5 Instant를 ChatGPT의 기본 모델로 교체하면서 내부 평가 결과를 공개했다. GPT-5.3 Instant와 비교했을 때 의학·법률·금융처럼 위험도가 높은 분야의 환각 발생률이 52.5% 감소했다. 이미지와 STEM 지원, 웹 검색 활용도 함께 개선됐다.

수억 명의 일반 사용자에게 직접 노출되는 기본 모델은 단순히 답을 잘 만드는 것만으로 부족하다. 근거가 약할 때 이를 드러내고, 검증에 실패한 답을 안전한 경로로 돌려보내는 구조까지 필요하다.

생성 전에 고위험 질문을 검증 경로로 보낸다

고위험 분야의 질문은 답변 생성 이전에 위험 분류 태그를 통해 별도 경로로 라우팅된다. 의료 처방, 법적 조언, 투자 권유처럼 위험 태그가 감지된 질문은 일반 질의와 같은 생성 경로로 바로 넘어가지 않는다. 시스템은 질문의 도메인과 관할권, 필요한 근거 범위를 먼저 식별하고 해당 도메인의 검색·규칙·검증 레이어를 연결한다.

이 경로에서는 답변의 구체성과 확신 수준도 검증 결과에 따라 정해진다. 근거가 부족하거나 도메인 규칙과 충돌할 가능성이 있으면 구체적인 권고를 생성하기보다 불확실성을 표시하고, 이후 검증이나 전문가 상담으로 이어질 수 있도록 설계한다.

답변을 주장 단위로 쪼개 검증한다

LLM 환각은 사실이 아닌 정보를 확신에 찬 문장으로 생성하는 현상이다. 의료·법률·금융에서는 이런 오류가 직접적인 피해로 이어질 수 있다. GPT-5.5 Instant의 환각 감소 메커니즘 가운데 하나로 제시된 것이 사실 확인 체인(fact-checking chain)이다.

⤢✕

이 체인은 완성된 문장을 한꺼번에 참이나 거짓으로 판단하지 않는다. 응답을 원자적 주장(atomic claims)으로 분해한 뒤 각 주장에 독립적인 근거가 있는지 확인한다. 예를 들어 “아스피린은 혈액 희석제로 작용하여 심장마비 위험을 줄인다”라는 문장은 하나처럼 보이지만, 모델 내부에서는 세 가지 주장으로 나뉘어 검증된다.

복합 질문은 이 주장 단위를 바탕으로 검색 가능한 하위 질문으로 다시 나뉜다. 하위 질문은 병렬 검색 에이전트에 전달되고, 결과는 관련성, 권위성, 최신성을 기준으로 다시 순위가 매겨진다. 핵심 사실은 도메인 특화 벡터 데이터베이스에서 찾고, 수치와 통계는 외부 출처와 대조하며, 인과 관계에는 논리 일관성 검사를 적용한다.

출처 인용 강제(citation enforcement)도 같은 목적을 갖는다. 검색된 출처가 없으면 고위험 도메인의 구체적인 수치나 권고를 생성하지 않도록 훈련하는 방식이다. 응답 안의 사실 주장은 근거 소스 ID와 연결되어 추적되고, 인용되지 않은 주장이 발견되면 해당 문장을 다시 생성하도록 디코딩 단계에서 제약할 수 있다. 같은 사실을 지지하는 독립 출처가 여러 개이면 신뢰도를 높이고, 출처끼리 모순되면 그 충돌을 감추지 않고 응답에 표시한다. 인용 없이 구체적인 주장을 만들면 학습 과정에서 강한 음성 보상(negative reward)을 부여해, 근거 없는 구체성을 피하도록 유도한다.

확신의 정도도 답변 내용이다

보정된 불확실성(calibrated uncertainty)은 모델이 실제 정확도에 맞게 자신의 확신을 표현하는 능력이다. 이상적인 경우 “90% 확신”이라고 답한 내용은 실제로도 90%가 정확해야 한다. GPT-5.5 Instant는 불확실성 표현 보정(calibration training)을 통해 이 일치도를 개선했다.

[불확실성 표현 단계]
Level 1 (고확신): "~이다", "~에 따르면" — 검증된 출처 기반
Level 2 (중확신): "~로 알려져 있다", "일반적으로 ~이다" — 합의된 지식
Level 3 (저확신): "~일 수 있다", "~가능성이 있다" — 논쟁적 영역
Level 4 (불확실): "전문가와 상담하세요", "확인이 필요합니다" — 개인별 차이

도메인 한정 파인튜닝(domain-constrained fine-tuning)은 의료·법률·금융의 전문 코퍼스로 각각 적응 학습을 수행하면서, 해당 범위 밖으로 일반화하려는 경향을 억제한다. 의료 특화 파인튜닝에는 FDA 가이드라인, PubMed 논문, 임상 가이드라인 문서가 사용된다. 모델은 이 출처 범위를 벗어난 의료 주장에 더 강한 불확실성을 표시하도록 학습된다.

고위험 답변에 맞춘 RLHF 보상

일반 사용성을 평가하는 RLHF(Reinforcement Learning from Human Feedback) 신호를 고위험 도메인에 그대로 적용하면 정확성과 유용성이 충돌할 수 있다. 불확실한 상황에서도 완성된 답을 제공하라는 압력이 생기기 때문이다.

평가 차원	일반 RLHF	고위험 도메인 RLHF	가중치 비율
사실 정확도	20%	50%	2.5배
불확실성 표현 적절성	5%	25%	5배
출처 인용 품질	5%	15%	3배
유용성 및 완성도	50%	5%	0.1배
안전성	20%	5%	0.25배

고위험 도메인 RLHF에서는 유용성의 비중을 일반 RLHF보다 10배 낮추고 사실 정확도, 불확실성 표현, 출처 인용에 더 큰 비중을 둔다. 보상 함수가 선택해야 할 대상은 “유용한 오답”이 아니라 “솔직한 불확실성 표현”이다.

단일 모델 밖에 검증 레이어를 둔다

고위험 분야의 LLM 응용은 모델의 최초 출력만으로 응답을 확정하지 않는다. 자동 사실 확인, 도메인 규칙, 별도 모델의 교차 검증과 인간 전문가 검토를 이어 붙인 다중 검증 레이어(multi-layer verification)가 필요하다.

⤢✕

의료 도메인에서는 약물 상호작용 데이터베이스인 DrugBank와 RxNorm, 진단 코드 체계인 ICD-11, UpToDate와 NICE의 임상 가이드라인을 자동 교차 검증에 활용한다. 모델이 특정 약물 용량을 제시하면 해당 약물의 표준 용량 범위와 대조해 이상값을 플래깅한다.

법률 응답은 관할권 특정성(jurisdiction specificity)을 먼저 다뤄야 한다. 같은 질문이라도 미국 연방법, 주법, 국내법에 따라 답이 달라질 수 있다. 파이프라인은 사용자의 관할권을 식별한 뒤 해당 법령 데이터베이스와 응답을 대조한다.

금융 도메인에는 규제 준수 레이어가 들어간다. SEC 규정, 바젤 III 요건, 각국 중앙은행 가이드라인과 비교해 규제 위반 가능성이 있는 금융 조언을 사전에 차단한다.

전문가 검토를 다음 학습으로 연결한다

자동 검증에서 플래깅된 응답과 사용자가 신고한 사례는 전문가 검토 큐로 들어간다. 도메인 전문가는 각 사례를 오류 유형, 심각도, 수정 방향에 따라 주석 처리한다. 이렇게 축적한 데이터는 다음 파인튜닝 사이클에 반영된다. 사례 수집(case collection), 전문가 주석(expert annotation), 피드백 통합(feedback integration)이 반복되면서 검증 체계와 모델이 함께 개선되는 구조다.

레드팀 평가(red-team evaluation)는 모델을 의도적으로 오도하거나 환각을 끌어내는 질의를 만들어 취약점을 찾는다. 의료 분야에서는 허구의 약물명, 존재하지 않는 임상 시험 결과, 역설적인 투약 지침 등을 제시한다. 모델이 이런 전제를 그대로 받아들이지 않고 거부하거나 불확실성을 표시하는지가 평가 대상이다.

검증 실패를 숨기지 않는 Fallback

프로덕션의 오류 복구는 한 번의 재시도로 끝나지 않는다. 검증 결과에 따라 응답 방식을 점진적으로 강화(progressive escalation)한다.

[Fallback 체계]
단계 1: 메인 모델 응답 생성
  └─ 검증 실패 시 → 단계 2

단계 2: 프롬프트 재구성 후 재시도 (RAG 컨텍스트 보강)
  └─ 재검증 실패 시 → 단계 3

단계 3: 보수적 모드 응답 (구체적 수치 제외, 일반 원칙만 제공)
  └─ 고위험 판단 시 → 단계 4

단계 4: 전문가 상담 권고 및 관련 기관 안내

이 구조에서 중요한 것은 명시적 실패(explicit failure)다. 시스템이 확신할 수 없다면 애매한 답으로 넘어가지 않고 한계를 분명히 밝힌 뒤 대체 경로를 제시해야 한다. 사용자가 낮은 신뢰도의 응답을 확정적인 사실로 받아들이는 상황을 막기 위해서다.

GPT-5.5 Instant가 환각을 줄인 방식

GPT-5.5 Instant의 고위험 도메인 환각 발생률이 52.5% 감소한 것은 단일 기법의 결과가 아니다. OpenAI가 공개한 기술 보고서는 검색 증강 생성, 지식 경계 인식, RLHF 보상 형성의 개선이 함께 작용했다고 설명한다.

검색 증강 생성(RAG) 통합을 강화하면서 웹 검색 도구의 활용 빈도와 품질이 개선됐고, 고위험 도메인 질의에서는 검색 도구를 더 적극적으로 사용하도록 훈련했다. 이를 통해 응답 생성 과정에서 실시간 사실 검증을 수행한다. 검색 결과는 주장별 근거와 문장 단위 인용으로 연결되므로, 실시간 검색은 답변에 최신 정보를 덧붙이는 기능이 아니라 검증을 통과한 주장만 응답에 남기기 위한 아키텍처의 일부가 된다.

지식 경계 인식(knowledge boundary awareness)을 위한 메타인지 훈련도 강화됐다. 모델이 학습 데이터 컷오프와 도메인 전문성의 한계, 특정 주제에 대한 불확실성을 더 정확히 인식하게 만드는 접근이다.

RLHF 보상은 고위험 분야의 정확성과 신뢰도 표현이 서로 어긋나지 않도록 더 세밀하게 설계됐다. 정확한 답을 생성하는 것뿐 아니라, 그 답에 표시한 확신의 정도까지 함께 최적화한다.

속도·비용과 멀티모달 역량의 위치

GPT-5.5 Instant는 이미지와 STEM 분야의 멀티모달 처리에서도 개선됐다. 수식 인식, 과학 다이어그램 분석, 의료 이미지 설명 능력이 강화됐지만 비디오 처리는 Gemini 3.1보다 제한적이다.

지표	GPT-5.5 Instant	Claude Opus 4.7	Gemini 3.1 Pro
고위험 환각률	1.8%	2.3%	3.1%
SWE-bench	84.1%	87.6%	80.6%
이미지 이해	상	중상	최상
비디오 처리	미지원	미지원	지원
추론 속도	최고	중	중상
API 비용 (입력/출력)	$3/$12	$18/$72	$12/$48

“Instant”라는 이름이 보여주듯 이 모델의 강점은 속도와 비용 효율성이다. 수억 명의 일반 사용자가 접하는 기본 모델 역할에 맞춰져 있다. 코딩 에이전트와 복잡한 멀티스텝 작업에서는 Claude Opus 4.7에 뒤지지만, 고위험 도메인의 신뢰도와 범용 사용성에서는 경쟁력을 갖춘다.

기본 모델은 최고 성능보다 균형이 먼저다

ChatGPT의 기본 모델 교체는 수억 명의 무료 사용자에게 직접 영향을 준다. 이 선택은 OpenAI의 제품 전략에서 단순 성능보다 신뢰성을 앞세우고 있음을 시사한다. 기본 모델에는 특정 벤치마크에서 가장 높은 성능을 내는 모델보다 일상적인 질의를 안전하고 효율적으로 처리하는 균형 모델(balanced model)이 적합하다.

환각 감소가 기본 모델의 핵심 KPI로 떠오른 배경에는 고위험 분야의 잘못된 정보로 인한 사용자 피해 사례 누적과 규제 기관의 신뢰성 요구 강화가 있다. EU AI Act와 FDA의 AI 기반 의료 기기 가이드라인은 고위험 응용에 검증 가능한 정확도 기준을 요구한다. 사실 확인 체인, 불확실성 보정, 다중 검증 레이어와 점진적 Fallback은 이런 요구를 모델과 서비스 아키텍처 양쪽에서 다루는 방식이다.