실험 설계로 공정과 서비스의 최적점을 찾는 방법

최적화는 조건을 하나씩 바꾸는 방식에서 벗어날 때 시작된다

제조 공정, 서비스 운영, 소프트웨어 성능을 조정할 때 한 번에 하나의 조건만 바꾸면 요인 사이의 교호작용을 놓치기 쉽다. 실험 설계(Design of Experiments, DOE)는 제한된 실험 자원에서 최대한 많은 정보를 얻기 위해 요인(factor)과 수준(level)의 조합을 통제하고, 반응(response)에 미치는 주효과와 교호작용을 추정하는 방법론이다.

현장에서 자주 쓰는 접근은 전·부분 요인 설계(Factorial Designs), 반응표면법(Response Surface Methodology, RSM), 태그치 방법(DOE, Taguchi)으로 나뉜다. 각각은 스크리닝, 정밀 최적화, 변동 저감이라는 서로 다른 문제에 맞는다.

요인 설계는 영향 요인과 교호작용을 가려낸다

전 요인 설계는 가능한 모든 요인 조합을 실험해 주효과와 교호작용을 완전하게 추정한다. 2수준 k요인 설계의 실험 수는 2^k로 늘어난다. 요인이 많아지면 비용과 시간이 빠르게 커진다는 뜻이다.

부분 요인 설계는 실험 수를 2^(k−p)로 줄이는 대신 일부 효과의 혼합(aliasing)을 허용한다. 어떤 효과를 분리할 수 있는지는 해상도(Resolution) III, IV, V로 나타낸다. 교호작용의 중요도와 예산을 함께 고려해야 하며, 해상도 V 이상이면 주효과와 2차 교호작용을 분리할 수 있다.

실험을 설계할 때는 통제 가능한 제어 요인, 통제가 어려운 노이즈 요인, 배치나 일자처럼 영향을 줄 수 있는 교란 요인을 구분한다. 각 요인의 범위·단위·측정 정밀도도 함께 정해야 한다. 연속 요인을 다루는 RSM 단계에서는 −1, 0, +1로 표준화 코딩하는 방식을 권장한다.

곡률이 나타나면 반응표면법으로 이동한다

RSM은 연속 요인 공간에서 반응을 2차(quadratic) 회귀모형으로 근사해 최적점을 탐색한다. 중심합성설계(CCD)와 Box–Behnken 설계(BBD)가 대표적이다.

초기에는 1차 모형으로 경사 상승을 따라가고, 중심점(center points)을 포함해 곡률을 확인한다. 곡률이 유의하면 2차 모형을 적합한 뒤 정상점을 최대·최소·안장으로 분류하고, 라그랑주 또는 수치해법을 이용해 제약 조건을 포함한 최적화를 수행한다.

분석에서는 분산분석(ANOVA), 효과 추정, 정규확률도와 Pareto 차트로 유의한 효과를 찾는다. 이어서 잔차의 등분산성·정규성·독립성을 확인하고, 이상치나 영향점이 발견되면 재실행 또는 강건 회귀 대안을 검토한다.

태그치 방법은 평균보다 변동에 먼저 대응한다

태그치 방법은 직교배열(Orthogonal Array)을 사용해 주효과를 효율적으로 추정하고, 신호대잡음비(S/N)를 통해 변동을 낮추는 데 초점을 둔다. 내부 배열에는 제어 요인을, 외부 배열에는 노이즈 요인을 배치해 견고성(robustness)을 강화한다.

Larger-the-better, Smaller-the-better, Nominal-the-best 같은 S/N 지표를 극대화하면 평균 성능을 유지하면서 분산을 줄이는 방향을 동시에 찾을 수 있다. 다만 복잡한 교호작용이나 비선형성을 포착하는 데는 한계가 있다.

재현 가능한 실험을 위한 운영 통제

무작위화(randomization), 블로킹(blocking), 반복(replication), 반복측정(repeat)은 목적이 다르므로 구분해 적용해야 한다. 동일한 배치나 일자에 따른 효과는 블록 요인으로 모델링하고, 무작위화로 숨은 편향을 줄인다.

데이터 수집 전에는 측정 시스템 분석(MSA, Gage R&R)을 수행하고, 표준작업서(SOP)와 교정 상태를 확인한다. 결측이 발생하면 완전 사례 분석 또는 EM 대치를 검토할 수 있으며, 실험 실패는 원인을 분석한 뒤 동일 조건으로 재실행하는 방식을 권장한다.

⤢✕

공정부터 인프라까지 이어지는 적용 방식

사출 성형 품질을 높이는 경우 금형 온도, 사출 속도, 보압, 냉각 시간을 4요인 2수준 부분 요인(Resolution V)으로 스크리닝할 수 있다. 여기서 유의한 요인 3개를 선별한 뒤 CCD를 적용하면 휨을 최소화하는 최적점을 도출할 수 있다. 도금 균일도는 중심점을 포함한 전 요인 설계로 곡률을 확인하고, RSM 2차 모형과 두께 범위 제약을 함께 적용하는 방식이 가능하다.

반도체·디스플레이 공정에서는 CVD 증착 균일도를 다룰 때 가스 유량, 온도, 압력, RF 파워, 챔버 상태를 블록 처리할 수 있다. 이후 RSM으로 2차 모형을 만들고 공정 윈도우 맵을 통해 운영 한계를 설정한다.

소프트웨어와 인프라에서도 동일한 사고방식을 적용할 수 있다. 데이터베이스 튜닝에서는 버퍼 크기, 작업자 수, 체크포인트 간격, I/O 스케줄러를 요인으로 잡고 부분 요인 설계로 주효과와 교호작용을 식별한다. RSM은 TPS 최대화에 사용하며, 배경 워크로드 같은 노이즈 요인은 외부 배열에 두어 견고성을 검증한다.

서비스 운영과 콜센터에서는 교대 인력, 스킬 라우팅 규칙, 교육 시간, 스크립트 길이를 요인으로 설정할 수 있다. Taguchi 직교배열과 S/N를 적용하면 피크 변동에 견고한 SLA 준수 정책을 도출할 수 있다.

설계마다 감수해야 할 비용과 얻는 정보가 다르다

방법	성능(추정 정확도)	확장성(요인↑)	일관성(모형 가정)	안정성(노이즈 대응)	운영 편의
전 요인 설계	높음: 주효과·교호작용 완전 추정	낮음: 2^k 급증	높음: 가정 충족 시 강건	중간: 노이즈는 별도 처리 필요	낮음: 실험 수·비용 큼
부분 요인 설계	중간~높음: 해상도 의존	높음: 2^(k−p)로 절감	중간: aliasing 관리 필요	중간	높음: 예산 친화
RSM(CCD/BB)	높음: 2차 모형 근사	중간: 요인 수 증가 시 설계 비용 상승	중간~높음: 진단/변환 필요	중간: 평균 최적화 중심	중간: 단계적 실행 필요
DOE(Taguchi)	중간: 주효과 중심	높음: 직교배열로 효율	중간: 교호작용 포착 제한	높음: S/N로 변동 최소	높음: 설정·해석 단순

부분 요인 설계는 실험 수를 줄이는 대신 교호작용 혼합 위험을 관리해야 하므로 해상도 V 이상이 권장된다. RSM은 연속 요인과 곡률이 존재할 때 강하지만 설계와 해석의 복잡도가 높아진다. Taguchi 방법은 견고성과 실행 효율에 강점이 있으나 복잡한 교호작용과 비선형성에는 제약이 있다.

실험 규모와 품질 지표에서 확인되는 변화

6요인 2수준 전 요인 설계는 64회가 필요하지만, 부분 요인 설계 2^(6−2)는 16회로 75% 줄일 수 있다. 중심점 5회를 추가해도 총 21회 수준이다.

품질과 수율 측면에서는 스크랩률이 3.0%에서 1.5%로 50% 절감되고, 수율이 +1.22.5pp 개선된 사례가 다수다. 공정 변동(Cp/Cpk)은 0.9에서 1.33 이상으로 달성할 수 있다. 실험·가동 손실 비용은 3060% 절감되고, 최적화 리드타임은 24주 단축된다. S/N 개선은 외란에 따른 성능 분산을 2040% 낮추고 SLA 위반 빈도를 줄이는 데 연결된다.

전·부분 요인 설계로 영향 요인을 빠르게 좁히고, 곡률이 감지되면 RSM으로 정밀하게 최적화하며, 변동이 큰 환경은 Taguchi 방법으로 견고성을 강화하는 흐름이 실무에 적합하다. 작은 파일럿에서 데이터 품질과 가정을 검증한 뒤 확장하고, 확증 실험과 표준화까지 연결해야 결과가 운영 조건으로 남는다.