검량선 이상치 판정은 눈대중이 아니라 잔차 분석과 통계 검정, 역산 정확도 기준을 순서대로 적용해 결정해야 한다. 단일 점의 이탈이 회귀 기울기를 왜곡하기 때문에, 진단·판정·재측정을 구분한 절차가 필요하다. 이 글은 실무에서 바로 적용하는 5단계 판정 흐름을 정리한다.
목차
1단계 — 검량선 이상치 판정의 전제: 잔차와 시각 검토
검량선 이상치 판정은 결정계수(R²) 하나만 보고 시작하면 안 된다. R²가 0.999를 넘어도 잔차가 U자·S자 패턴을 그리면 곡선성(nonlinearity)이 숨어 있고, 이때 특정 점을 이상치로 오판하기 쉽다.
따라서 첫 단계는 회귀식을 적합한 뒤 각 표준점의 잔차(관측치-예측치)를 계산하고, 잔차를 농도축에 대해 산점도로 그리는 것이다. 잔차가 0을 중심으로 무작위로 흩어지면 정상이고, 한쪽으로 치우치거나 한 점만 크게 벗어나면 그 점을 후보로 표시한다.
이 단계에서는 아직 폐기하지 않는다. 시각 검토는 어디를 의심할지 좁히는 과정일 뿐이며, 실제 이상치 여부는 다음 단계의 통계 판정으로 넘긴다.
2단계 — 통계적 진단: Grubbs 검정과 표준화 잔차
후보 점이 정해지면 통계적 도구로 진단한다. 가장 널리 쓰이는 Grubbs 검정은 각 관측치의 편차를 표준편차로 나눈 값을 임계치와 비교해 단일 이상치를 가려낸다. 계산된 Grubbs 값이 임계 인자를 넘으면 그 점을 회귀선에서 제외할 근거가 된다.
다만 Grubbs 검정은 데이터가 정규분포를 따르고 이상치가 하나일 때만 유효하며, 한 번의 적용으로 오직 한 점만 판정할 수 있다는 한계가 있다. 표준화 잔차(studentized residual)의 절대값이 2~3을 초과하는지도 함께 확인하면 판단이 견고해진다.
이상치가 여러 개로 의심되거나 비선형 곡선이라면 Grubbs 대신 ROUT 같은 로버스트 회귀 기반 방법을 고려한다. 도구 선택 자체가 검량선 이상치 판정의 신뢰도를 좌우한다.
3단계 — 검량선 이상치 판정 기준과 허용 한계
통계 검정만으로 폐기를 확정하지 않는다. 실무에서는 역산 정확도(back-calculated accuracy)를 함께 본다. 각 표준점을 자기 회귀식으로 역산했을 때 목표 농도의 ±15% 이내(정량한계 LLOQ에서는 ±20% 이내)에 들어야 유효한 점으로 인정하는 것이 통상적 기준이다.
또한 표준곡선당 최소 요구 점수를 정해 둔다. 이상치를 제거한 뒤에도 최소 다섯 농도 수준 이상이 남아야 하며, 남은 점이 부족하면 이상치를 지우는 대신 재측정으로 방향을 바꾼다.
검량선 이상치 판정 기준은 이렇게 통계 유의성, 역산 정확도, 최소 점수라는 세 가지 문턱을 모두 통과할 때만 ‘제거 가능’으로 결론짓는다. 세 문턱 중 하나라도 애매하면 단정하지 않는다.
4단계 — 재측정·폐기 결정과 원인 추적
제거 근거가 확인되어도 곧바로 지우기보다 원인을 먼저 추적한다. 주입 오류, 기포, 칭량·희석 실수, 오토샘플러 카오버 같은 계통 원인이 있으면 그 점만 재측정하는 것이 타당하다.
반대로 원인을 특정할 수 없고 다른 점들이 안정적이라면, 통계 판정에 따라 해당 점을 제외하고 회귀식을 다시 적합한다. 제외 전후의 기울기·절편·R²·잔차 분포 변화를 기록해, 제거가 곡선을 개선했는지 확인한다.
검량선 이상치 판정에서 재측정과 폐기는 서로 다른 결정이다. 재측정은 원인이 밝혀진 국소 오류에, 폐기는 원인 불명이지만 통계·정확도 기준을 명확히 벗어난 점에 적용한다. 어느 쪽이든 판정 근거와 담당자, 일자를 원자료에 남긴다.
관련해서 검량선(Calibration Curve) 제대로 만드는 법과 흔한 실수 글도 참고할 만하다.
5단계 — 검량선 이상치 판정 체크포인트 정리
마지막은 절차를 재현 가능하게 고정하는 단계다. 판정 흐름을 SOP로 문서화하고, 어떤 통계 검정을 어떤 유의수준에서 적용했는지, 허용 한계를 몇 %로 잡았는지 명시한다.
체크포인트는 다음과 같다. 첫째, 잔차 산점도로 패턴과 후보를 먼저 확인했는가. 둘째, Grubbs 또는 ROUT로 통계 진단을 했는가. 셋째, 역산 정확도와 최소 점수 기준을 함께 검토했는가. 넷째, 원인 추적 후 재측정·폐기를 구분해 결정했는가. 다섯째, 근거를 원자료에 기록했는가.
검량선 이상치 판정은 한 점을 지우는 기술이 아니라, 지워도 되는지를 증명하는 기록 절차다. 이 5단계를 지키면 이상치 처리가 임의적 조작이 아니라 방어 가능한 판단이 된다.