HPLC 이상값 처리는 통계 검정으로 시작하는 작업이 아니라 지정 가능한 원인을 찾는 조사로 시작하는 작업이다. 원인이 특정되면 검정 없이 무효 처리하고, 원인 미상일 때만 사전에 정한 검정법과 유의수준으로 판정한다. 규제 대상 정량에서는 검정 결과만으로 값을 버릴 수 없으므로 재측정 계획과 기록 방식까지 함께 설계해야 한다.
목차
1단계 — 통계보다 먼저 확인하는 지정 가능한 원인
HPLC 이상값 처리에서 가장 흔한 실패는 데이터를 보자마자 통계 검정부터 돌리는 것이다. 통계 검정은 원인을 끝내 특정하지 못했을 때 쓰는 마지막 도구이며, 지정 가능한 원인(assignable cause)이 확인되면 검정 없이도 해당 값을 무효 데이터로 처리한다.
먼저 크로마토그램 원본을 연다. 적분 시작·끝점 이동, 베이스라인 재설정, 유령 피크 혼입, 주입 부피 결손, 배압 스파이크, 바이알 잔량 부족은 육안과 기기 로그로 확인되는 물리적 원인이다.
같은 시퀀스의 시스템 적합성(SST) 데이터도 함께 본다. tailing factor, 이론단수, 표준용액 반복 주입 RSD가 기준을 벗어났다면 그 구간 결과는 이상값 판정 대상이 아니라 애초에 유효하지 않은 데이터다.
이 단계에서 원인이 특정되면 통계 판정은 필요 없다. 원인·근거·조치를 기록하고 재측정으로 넘어가는 것이 가장 방어 가능한 경로다.
2단계 — 데이터 집합 정의와 검정 전제 점검
두 번째 단계는 검정 대상 집합을 확정하는 일이다. 같은 바이알의 반복 주입, 같은 시료의 반복 전처리, 서로 다른 로트의 결과는 포함된 변동 성분이 다르므로 한 집합으로 섞으면 안 된다.
반복 주입 RSD는 기기 정밀도를, 반복 전처리 RSD는 방법 정밀도를 반영한다. 전처리에서 생긴 편차를 기기 이상값으로 오판하면 엉뚱한 부품 교체와 불필요한 재검증으로 이어진다.
Grubbs와 Dixon은 모집단이 정규분포이고 관측값이 서로 독립이라는 전제 위에서 성립한다. n이 3~5로 작으면 검정력이 낮아 실제 이상값도 통과하고, 의심 값이 둘 이상이면 마스킹(masking)과 스웜핑(swamping)이 발생한다.
따라서 집합 크기, 의심 값 개수 가정, 유의수준을 먼저 적고 시작한다. HPLC 이상값 처리 절차서에 이 전제가 명시돼 있어야 사후 해석 논쟁이 생기지 않는다.
집합 구분과 변동 성분
| 데이터 집합 | 반영되는 변동 | 오판 위험 |
|---|---|---|
| 반복 주입 | 기기 정밀도 | 주입·검출 문제를 전처리로 오인 |
| 반복 전처리 | 방법 정밀도 | 전처리 편차를 기기 이상값으로 오인 |
| 로트 간 결과 | 시료 불균질 | 단일 집합 혼합 시 검정 무효 |
HPLC 이상값 처리 3단계 — Grubbs·Dixon·Hampel 선택
검정 도구는 집합 크기와 의심 값 개수로 고른다. Grubbs(ESD)는 평균과 표준편차를 기준으로 최댓값 또는 최솟값 하나를 검정하며, 일반화 ESD는 사전에 정한 개수까지 순차적으로 검정한다.
Dixon Q는 극단값과 인접값의 간격을 전체 범위로 나눈 비율을 쓰므로 표본이 작을 때 계산이 간단하다. USP 일반정보 <1010>은 Z score, ESD(Grubbs), Dixon Q, Hampel 규칙을 분석 데이터의 해석·처리 맥락에서 함께 다룬다.
Hampel 규칙은 중앙값과 MAD를 쓰는 로버스트 방식이라 정규성 가정이 약할 때 상대적으로 안전하다. 다만 판정 경계 상수가 문헌마다 달라 절차서에 값을 고정해 두어야 한다.
유의수준은 두 단계로 나누는 편이 실무에 맞는다. ISO 5725-2 계열의 관행에서는 검정통계량이 5% 임계값을 넘고 1% 임계값 이하이면 straggler, 1% 임계값을 넘으면 outlier로 구분한다. HPLC 이상값 처리 기준을 이렇게 나누면 ‘의심되지만 버리지는 않는’ 회색 구간을 기록으로 관리할 수 있다.
이상값 검정법 선택
| 검정법 | 적용 상황 | 전제 | 비고 |
|---|---|---|---|
| Grubbs(ESD) | 극단값 1개 | 정규성 필요 | 일반화 ESD로 k개 확장 |
| Dixon Q | 소수 표본 | 정규성 필요 | 간격÷범위 비율 사용 |
| Hampel 규칙 | 정규성 약할 때 | 중앙값·MAD | 경계 상수 사전 고정 |
※ 정규성 전제가 흔들리면 로버스트 방식이 상대적으로 안전하다.
HPLC 이상값 처리 4단계 — 버림 판정과 규제 맥락의 한계
검정이 유의하게 나왔다고 자동으로 버릴 수 있는 것은 아니다. FDA의 OOS 조사 가이던스는 화학 분석 결과를 무효화하는 근거로 이상값 검정을 사용하지 말 것을 명시하고, 검정은 해당 값이 평균에서 얼마나 떨어져 있는지 파악하는 정보 목적으로만 쓰도록 한다.
같은 가이던스는 OOS를 유발한 최초 결과를 이후 재시험 결과와 평균 내는 것을 부적절하다고 본다. 개별 값 사이의 변동이 가려지기 때문이다.
다만 메서드 자체가 변동 허용기준과 반복 주입 횟수를 사전에 규정하고 그 평균을 하나의 보고값으로 정의한 경우는 다르다. 변동 기준을 만족한다면 개별 반복값 하나가 그 자체로 보고값을 OOS로 만들지는 않는다.
정리하면 규제 대상 정량에서 HPLC 이상값 처리의 버림 권한은 통계가 아니라 조사에서 나온다. 원인 미상인 채 통계만 근거로 삭제한 값은 감사에서 데이터 무결성 지적 대상으로 남는다.
버림 판정 전 확인 항목
- ✓지정 가능한 원인이 문서로 확인됐는가
- ✓SST 기준을 만족한 시퀀스인가
- ✓검정법·유의수준을 데이터 확인 전에 정했는가
- ✓최초 값과 재시험 값을 평균 내지 않았는가
- ✓버림 근거가 통계가 아닌 원인 조사인가
5단계 — 재측정 설계와 결과 기술 방법
HPLC 이상값 처리 계획서에는 재측정 횟수와 채택 규칙을 조사 착수 시점에 미리 적는다. 재시험 개수, 수행자, 사용할 표준용액 로트, 판정 기준을 정해 두지 않으면 원하는 값이 나올 때까지 반복한 것으로 해석될 수 있다.
원인이 특정된 경우에는 원인을 제거한 뒤 동일 조건으로 재측정하고 최초 값은 무효 처리한다. 원인이 미상이면 최초 결과를 살려 둔 채 재시험 결과를 별도 집합으로 보고하고 두 집합의 분산을 비교한다.
재측정 결과가 최초 값 쪽으로 다시 모이면 단발성 오류가 아니라 시료 불균질이나 방법 정밀도 부족을 의심한다. 반대로 재측정이 좁은 범위로 수렴하면 최초 값이 일회성 오류였을 가능성이 커진다.
시료가 소진돼 재측정이 불가능한 경우도 있다. 이때는 값을 임의로 버리지 말고 불확도를 확대해 보고하거나 결과를 판정 불가로 처리하는 편이 기록상 안전하다.
재측정 계획 수립
- 계획 사전 확정
재시험 개수·수행자·표준용액 로트·채택 기준 문서화 - 조건 재현
원인 제거 후 동일 조건으로 재측정 - 집합 비교
최초 집합과 재시험 집합의 분산·중심 비교 - 결과 기술
무효 처리 또는 불확도 확대·판정 불가로 보고
관련해서 반복 주입 RSD 기준 설정 5단계 — HPLC 정량 신뢰도 판정 글도 참고할 만하다.
정리 — HPLC 이상값 처리 체크포인트
핵심은 순서다. 원인 조사, 집합 정의, 검정, 버림 판정, 재측정 순서를 바꾸면 통계적으로는 깔끔해 보여도 문서상으로는 방어되지 않는다.
검정법과 유의수준, straggler·outlier 구분 기준은 데이터를 보기 전에 절차서에 고정한다. 데이터를 본 뒤 검정법을 바꾸는 행위는 그 자체가 지적 사항이 된다.
버린 값이 있다면 버린 이유가 통계가 아니라 확인된 원인이어야 한다. 검정 결과는 그 판단을 뒷받침하는 보조 정보로만 기록한다.
마지막으로 이상값이 반복적으로 나타나면 개별 값의 문제가 아니라 메서드 강건성이나 전처리 재현성의 문제다. 분기별로 이상값 발생 빈도를 집계해 추세로 관리하는 것이 단발 대응보다 효과가 크다.
