실험 설계에서 RSM과 최적 설계의 선택 기준

제한된 실험에서 반응 구조를 읽는 방법

고가의 실험이나 공정 최적화에서는 가능한 모든 조합을 시험할 수 없다. 필요한 것은 적은 런으로 반응의 구조를 파악하고, 제약 안에서 실행 가능한 최적 조건까지 좁혀 가는 설계다.

Response Surface Methodology(RSM)는 반응의 국소 구조를 2차 다항 회귀로 근사한 뒤 정지점 탐색과 능선 분석을 수행하는 방법론이다. 코딩된 변수와 중심점, 회전성·직교성 조건을 설계에 활용한다.

최적 실험 설계는 정보행렬(X'X) 또는 예측분산을 기준으로 설계점을 알고리즘적으로 선택한다. D-최적성은 모수 추정 공분산 행렬의 부피를 최소화하고, A-최적성은 평균 분산을 최소화한다. I-최적성은 설계공간에서의 예측분산 적분을, G-최적성은 최대 예측분산을 최소화하는 데 초점을 둔다.

CCD와 BBD 같은 RSM 표준 설계는 일반적인 2차 모형 추정과 곡률 탐지에 강하다. 반면 최적 설계는 제약, 혼합물, 불규칙한 영역, 누락이 불가능한 요인이 있는 환경에서 통계 효율을 높이는 데 적합하다.

설계 행렬부터 진단까지

2차 다항 모형에는 상호작용항과 제곱항이 포함되며, 이 항들로 설계행렬 X를 구성한다. 변수 스케일링과 코딩은 수치 안정성과 회전성 확보에 쓰인다. 중심점 반복은 순수오차 추정과 곡률 검정의 기반이 된다.

RSM에서는 중심합성계획(CCD)과 박스-벤켄 설계(BBD)를 주로 사용한다. CCD는 회전성과 유성을 확보하기 쉽고, BBD는 실험 수를 줄이면서 극단 레벨을 피할 수 있다. 실제 운영에서는 차단(blocking), 랜덤화, 제약 반영까지 포함해야 설계가 현장 조건을 견딘다.

최적 설계는 D/A/I/G-최적성에 맞는 목적함수를 세우고 정보행렬 기반으로 설계 효율을 평가한다. 점집합 탐색에는 Fedorov 교환, 좌표교환, 유전·탐욕 알고리즘을 사용할 수 있으며, 가중·공간적 샘플링과 복제수 최적화도 함께 다룬다.

모형을 적합한 뒤에는 적합성 부족(LOF) 검정, 잔차·이상치·영향도(DFBETAS, Cook’s D) 분석을 수행한다. 다중공선성(VIF)과 예측분산 맵(표면)도 확인 대상이다. 위험이 드러나면 Box–Cox/Box–Tidwell 변환, 강건회귀, 증분 설계로 대응한다.

다응답 문제에서는 Derringer–Suich 소망함수로 여러 반응을 함께 최적화한다. 목표·공차·가중을 설정하고, 불능 조합이나 안전 제한 같은 설계영역 제약, 혼합물 단체(simplex), 공정창(operating window)을 설계에 반영한다.

설계는 진단 결과에 따라 확장된다

문제를 정의할 때는 목표 반응 Y, 제어 요인 X, 교란·노이즈 Z, 운전 영역과 제약, 비용·시간 제약을 먼저 명확히 한다. 요인 선별은 SB/PLS/전문가 판단으로 수행하고, 측정 시스템 분석(GRR), 실험 단위, 랜덤화와 차단 방식을 정한다. 이 단계의 산출물은 운전가능 영역, 후보 점집합, 품질속성과 제약 명세다.

초기 설계는 2수준 요인 설계 또는 최적 스크리닝으로 시작할 수 있으며, 중심점은 곡률 탐지를 준비하는 역할을 한다. 제약·혼합물·불균형이 있으면 D/I-최적 설계를 택한다. 실행 가능한 설계 점집합과 랜덤화·차단을 반영한 실험 순서가 이 단계에서 정해진다.

실험을 수행한 뒤에는 데이터를 수집하고 1차 회귀에서 2차 회귀로 모형을 확장한다. 상호작용항과 제곱항을 포함해 단계적으로 적합하며, 결측이나 실패 런에는 대체 규칙을 적용한다. 이상치는 영향도를 평가한 후 보수적인 유지·제거 기준으로 처리한다.

LOF, 잔차의 정규성·등분산, VIF, 예측분산 지도를 점검한 결과 곡률이 유의하면 CCD 축점을 추가하거나 최적 증분 설계로 보강한다. 가정이 맞지 않으면 변환이나 강건 설계로 전환한다. 그 결과 보강된 설계와 개선된 모델을 얻는다.

최적화 단계에서는 정지점을 극대·극소·안장으로 분류하고, 능선 분석과 소망함수 기반 다응답 최적화를 수행한다. 후보 최적점은 예측 신뢰구간과 민감도·로버스트성 평가를 함께 제시해야 한다. 확인 실험으로 편차 원인을 분석하고 공정창과 관리계획을 연결한다. 요구조건이 충족되지 않으면 가파른 상승·하강 방향으로 설계영역을 옮기거나 제약을 재조정하고 알고리즘을 다시 탐색한다.

⤢✕

설계 유형별로 달라지는 우선순위

설계 유형	성능(추정 효율)	확장성(제약/불균형)	일관성(모델 가정)	안정성(로버스트성)	운영 편의
CCD	2차 추정 효율 우수, 회전성 확보 용이	제약 처리 제한적, 축점 레벨 유연	2차 모형 가정 적합 시 일관성 높음	중심점 반복으로 변동 추정 안정	표준화된 절차, 해석 용이
BBD	실험 수 절감, 극단 레벨 회피	영역 제약에 상대적 유리	상호작용·제곱항 포함 시 균형	극단값 민감도 낮음	표준형 제공, 실행 간편
D-최적	모수 추정 공분산 최소화	복잡 제약·혼합물에 강함	모델 지정 민감, 과소모형 리스크	이상치·누락 런 영향 중간	알고리즘 필요, 구현 용이성 보통
I-최적	예측분산 평균 최소화	예측 중심 과제에 적합	설계영역 커버리지 향상	영역 전반 예측 안정성 우수	지도 기반 의사결정 직관
공간충전(LHD)	전역 탐색·탐사 효율	연속 제약에 유연	회귀모형 추정보다 탐사 적합	국소 최적화 안정성 보통	생성 용이, 사전 탐색에 적합

제약 조건이 설계 선택을 바꾸는 장면

화학·에너지 공정에서는 온도·압력·체류시간에 따른 수율과 불순물을 최적화할 수 있다. 초기 2수준+중심점으로 곡률을 검정한 뒤 CCD 증분 설계를 적용하며, 안전·설비 제약이 있을 때는 D-최적 보강으로 실험 수 40% 절감 사례가 있다.

제약·의약 QbD에서는 배합 비율과 과립 공정 변수를 대상으로 용출과 균일도를 함께 최적화한다. 혼합물-공정 결합 제약에서는 I-최적 설계로 예측 신뢰구간을 최소화하고, 소망함수 기반 다응답 최적점을 관리전략과 연결한다.

반도체·장비 파라미터 튜닝에서는 가스 유량, RF 파워, 챔버 온도에 대한 균일도와 결함 밀도를 다룬다. 장비 한계와 인터락 제약을 포함한 D-최적 설계를 적용하고, 확인 런을 통해 공정창 경계를 다시 정의한 뒤 레시피를 표준화한다.

식품·포뮬레이션 개발에서는 점도·기호도·안정성의 균형이 대상이다. 혼합물-공정 동시 설계에 극단 조합 회피를 위한 BBD와 I-최적 혼합 전략을 적용할 수 있다.

시뮬레이터나 디지털 트윈으로 설계 후보를 먼저 필터링하는 방법도 있다. 실제 실험은 I-최적 검증 점만 실행해 리스크와 비용을 줄인다.

자원 절감과 예측 성능의 범위

전통 OFAT와 비교하면 실험 수는 3060% 감소할 수 있고, 동일 비용에서 유효 정보량은 1.32.0배 확보할 수 있다. I-최적 설계를 적용하면 영역 평균 예측분산은 2040% 감소할 수 있으며, 다응답 소망함수 최적화는 목표치 달성률을 1025%p 향상시킬 수 있다.

순차적 설계-검증 루프를 최적화하면 TtV(Time-to-Value)를 20~35% 단축할 수 있다. 공정창 정의와 가변성 설명력은 감사 추적성을 강화하고 재현성·문서화 수준을 높인다.

상기 수치는 도메인·노이즈 수준·실험 정확도에 따른 변동 존재.

효율을 높이면서 놓치기 쉬운 운영 조건

단순 모형을 전제로 고효율 설계를 선택하면 모형 불일치 위험이 커진다. 단계적 증분 설계는 이 위험을 완화하는 방법이다.

제약이 강해질수록 표준 RSM의 회전성·직교성은 약해질 수 있다. 이 경우 최적 설계로 전환하고 국소 스케일링으로 보정한다. 일괄 처리 제약이 있다면 차단으로 시스템 오차를 분리하되, 차단과 모수 추정 사이의 자유도 트레이드오프를 관리해야 한다.

중심점 복제는 순수오차와 LOF 검정력을 확보하는 데 도움이 되지만, 복제가 과도하면 예측 커버리지가 낮아질 수 있다. GRR과 이상치 대응을 위한 표준 운영절차(SOP)를 마련하고, 재작업·재측정 규칙은 실험 전에 합의해 두는 편이 낫다.

RSM으로 국소 구조를 파악한 뒤 제약과 예측 목표에 맞춰 D/I-최적 설계로 보강하면, 제한된 자원 안에서도 실용적인 최적점을 찾을 수 있다. 진단·증분·검증을 반복하고 다응답 소망함수를 적용하는 흐름이 공정 최적화와 운영 가능한 공정창 설정을 함께 뒷받침한다.