검량선 웨이팅 선택은 저농도 정량값의 정확도를 좌우하는 핵심 결정이다. 응답의 분산이 농도에 따라 커지는 이분산성 조건에서 1/x·1/x²·1/y 가중을 비교해 %RE 합이 가장 작은 인자를 고른다. 이 글은 웨이팅의 원리부터 실무 판정 절차, 흔한 실수까지 정리한다.
검량선 웨이팅 선택이 왜 필요한가
HPLC 정량에서 검량선은 최소제곱법으로 직선을 적합하는데, 기본값인 비가중(1/x⁰) 회귀는 모든 표준점의 오차 분산이 동일하다는 등분산 가정을 전제한다. 그러나 실제 크로마토그래피 응답은 농도가 높아질수록 절대 분산이 커지는 이분산성(heteroscedasticity)을 보인다.
이 상태에서 비가중 회귀를 쓰면 고농도의 큰 잔차가 직선을 끌어당겨, 정작 정량값이 절실한 저농도 구간의 적합이 나빠진다. LLOQ 부근에서 회수율이 규격을 벗어나는 전형적 원인이 여기에 있다.
검량선 웨이팅 선택은 이 문제를 정면으로 다룬다. 각 표준점에 분산에 반비례하는 가중치를 부여해 저농도점의 영향력을 회복시키고, 전 농도 구간에 오차를 고르게 분산시키는 절차다.
1/x·1/x²·1/y 가중의 원리와 차이
실무에서 주로 검토하는 가중은 1/x⁰(비가중), 1/x^0.5, 1/x, 1/x²이며 응답 기준의 1/y·1/y²도 같은 계열이다. 선택 기준은 응답 표준편차 σ와 농도 x의 관계다.
σ가 전 구간에서 일정하면 비가중(1), σ²이 x에 비례하면 1/x, σ가 x에 비례하면 1/x²이 이론적으로 타당하다. 즉 1/x²은 저농도의 작은 분산을 가장 충실히 근사해 곡선 하단의 오차를 정규화한다.
1/x과 1/x²의 차이는 하단에서 뚜렷하다. 1/x 가중은 LLOQ까지 곡선을 쓸 수 있게 하지만 적합 품질은 1/x²보다 열등한 경우가 많고, 1/x²이 저농도 정확도를 가장 잘 회복시킨다는 보고가 일반적이다. x 기준(1/x)과 y 기준(1/y)은 응답값을 가중에 쓰느냐 농도값을 쓰느냐의 차이로, 소프트웨어 구현에 따라 결과가 미세하게 갈린다.
검량선 웨이팅 선택의 실무 판정 절차
검량선 웨이팅 선택은 감으로 정하지 않고 데이터로 정한다. 먼저 각 농도 수준에서 반복 주입한 응답의 표준편차를 구해 σ와 x의 관계를 살피거나, 잔차 플롯으로 이분산성 유무를 확인한다.
다음으로 후보 가중(1/x⁰, 1/x, 1/x², 필요 시 1/x^0.5)을 각각 적용해 역산 농도를 구하고, 상대오차(%RE)를 계산한다. 판정 지표는 두 가지다. %RE가 0을 중심으로 좁고 무작위한 수평 밴드를 이루는가, 그리고 전 구간 %RE 절대값의 합(Σ%RE)이 최소인가이다.
Σ%RE가 가장 작은 인자가 최적이며, 값이 비슷하다면 오차를 최소로 줄이는 가장 약한 가중을 택하는 것이 원칙이다. 엑셀만으로도 인자당 수 초면 계산되므로 여러 후보를 모두 시험하는 편이 낫다.
저농도·고농도 신뢰도를 함께 잡는 검증
웨이팅은 저농도를 살리려다 고농도를 희생시킬 수 있으므로, 검량선 웨이팅 선택의 타당성은 양 끝에서 함께 검증해야 한다. 각 표준 수준의 back-calculated 농도가 규격(예: LLOQ ±20%, 그 외 ±15% 수준의 통상 기준) 안에 드는지 전 구간에서 확인한다.
결정계수(r²)만 보고 판단하지 않는 것이 중요하다. r²은 고농도점에 지배되어 하단이 크게 어긋나도 0.999로 나올 수 있어, 저농도 정확도를 보증하지 못한다.
선택한 가중은 메서드 밸리데이션 문서에 근거(σ–x 관계, Σ%RE 비교표)와 함께 고정하고, 이후 배치마다 임의로 바꾸지 않는다. 잘못된 가중을 관성적으로 쓰면 곡선 안정성과 데이터 품질이 함께 저하된다.
관련해서 검량선(Calibration Curve) 제대로 만드는 법과 흔한 실수 글도 참고할 만하다.
정리 — 체크포인트
핵심은 순서다. 이분산성 확인 → 후보 가중 계산 → %RE 밴드와 Σ%RE 비교 → 최약 가중 원칙으로 확정 → 밸리데이션 문서화의 흐름을 지킨다.
검량선 웨이팅 선택에서 기억할 원칙은 세 가지다. 첫째, 대부분의 경우 1/x⁰·1/x·1/x²만 비교해도 결론이 난다. 둘째, 판정은 r²이 아니라 %RE와 그 합으로 한다. 셋째, 저농도가 중요할수록 1/x² 계열이 유리하나 데이터의 분산 구조가 최종 근거다.
이 절차를 표준작업서에 반영하면 저농도와 고농도의 정량값 신뢰도를 동시에 확보할 수 있다.
참고 자료
- Calibration Curves, Part 5: Curve Weighting | LCGC International
- Selecting the Correct Weighting Factors for Linear and Quadratic Calibration Curves in Bioanalytical LC-MS/MS Assays | Analytical Chemistry (ACS)
- Correct weighting for regression analysis in analytical calibration | Crawford Scientific