검량선 가중치 결정은 회귀식의 기울기·절편을 바꿔 저농도 구간 정량값을 직접 흔드는 선택이므로, 관행이 아니라 데이터 근거로 정해야 한다. 핵심은 농도 수준별 분산 구조를 먼저 확인하고, 비가중과 1/x·1/x²·1/y·1/y²를 같은 원시 데이터에 적용해 상대오차 합과 잔차 플롯으로 비교하는 것이다. R²는 고농도점이 지배하는 지표라 단독 합격 근거가 될 수 없으며, 표준점의 역계산 농도가 실질 판정 기준이 된다.
목차
1단계 — 이분산성 진단: 검량선 가중치 결정의 출발점
검량선 가중치 결정은 회귀 모델을 고르기 전에 잔차의 분산 구조를 확인하는 데서 시작한다. 최소자승법은 모든 농도점의 오차 분산이 동일하다는 등분산 가정 위에 서 있는데, 넓은 농도 범위를 쓰는 HPLC 정량에서는 이 가정이 거의 성립하지 않는다.
실무에서는 각 농도 수준을 최소 5~6회 반복 주입해 수준별 응답 표준편차를 구하고, 농도 대비 표준편차를 그려 본다. 표준편차가 농도와 함께 뚜렷하게 증가하면 이분산성이 있다고 보고 가중 회귀로 넘어간다.
정량적으로는 최고 농도 수준의 분산을 최저 농도 수준의 분산으로 나눈 F값을 임계값과 비교하는 방식이 널리 쓰인다. F값이 임계값을 넘으면 비가중 회귀는 고농도점에 끌려가며, 저농도 구간의 역계산 농도가 체계적으로 밀리게 된다.
이 단계를 건너뛰고 관행적으로 1/x²를 넣는 경우가 많지만, 검량선 가중치 결정의 근거를 남기지 않으면 감사나 이관 시 모델 선택 사유를 설명하기 어렵다.
2단계 — 1/x, 1/x², 1/y² 후보 산정과 적용 방식
가중치는 각 데이터점이 회귀식에 기여하는 정도를 조절하는 계수이며, 1/x는 농도에 반비례하는 비중을, 1/x²는 농도 제곱에 반비례하는 비중을 준다. 1/y와 1/y²는 같은 논리를 실측 응답값 기준으로 적용한 것이다.
선택의 실질적 차이는 저농도 구간의 발언권 크기다. 1/x는 완만하게, 1/x²는 강하게 저농도점을 끌어올리므로, 정량 범위가 100배를 넘고 표준편차가 농도에 거의 비례해 커지는 경우 1/x²가 유리한 편이다.
1/y 계열은 x가 아니라 실측 응답을 기준으로 삼기 때문에 이상 응답이 섞이면 가중치 자체가 흔들릴 수 있다. 다만 주입량 편차나 검출기 응답 변동이 오차의 주된 원인일 때는 1/y²가 더 잘 맞는 사례도 보고된다.
검량선 가중치 결정 단계에서는 비가중, 1/x, 1/x², 1/y, 1/y²의 다섯 후보를 동일한 원시 데이터에 모두 적용해 비교표를 만드는 것이 표준적인 접근이다. 후보를 미리 하나로 좁히면 비교 자체가 성립하지 않는다.
3단계 — %RE 합과 잔차 플롯으로 가중치 후보 판정
후보 간 우열은 감으로 정하지 않고 상대오차 기반 지표로 판정한다. 각 표준점의 역계산 농도와 표시 농도의 차이를 백분율 상대오차(%RE)로 구하고, 절대값의 합(Σ|%RE|)이 가장 작은 가중치를 선택하는 방식이 문헌에서 일반적으로 제시된다.
여기에 잔차 플롯을 반드시 병행한다. 농도축에 대해 가중 잔차를 뿌렸을 때 부호가 무작위로 흩어지고 폭이 일정하면 적절한 가중치이고, 나팔 모양으로 벌어지거나 U자 곡선이 남으면 각각 이분산성 미해소와 곡선성 잔존을 뜻한다.
ICH Q2(R2)도 직선성 평가에서 잔차를 분석물 농도의 함수로 그려 시각적으로 확인할 것을 제시하고 있어, 이 플롯은 검량선 가중치 결정의 문서화 근거로도 쓰인다.
Σ|%RE| 차이가 근소할 때는 더 단순한 모델을 택한다. 1/x와 1/x²의 지표가 사실상 같다면 과도한 저농도 가중을 피해 1/x를 남기는 편이 장기 운영에서 안정적이다.
4단계 — R² 해석의 한계와 역계산 농도 기반 판정
R²는 관행적으로 0.99 또는 0.995 이상을 요구하지만, 이 값 하나로 검량선 가중치 결정의 적절성을 판단할 수는 없다. R²는 전 농도에서 오차가 일정하다는 전제를 깔고 계산되며, 절대 응답이 큰 고농도점이 값을 지배하기 때문이다.
실제로 저농도점의 역계산 농도가 20% 이상 밀려 있어도 R²는 0.999 수준으로 남는 경우가 흔하다. 검량 범위가 넓을수록 이 괴리는 커진다.
따라서 합격 판정의 축은 R²가 아니라 각 표준점의 역계산 농도여야 한다. 생체시료 분석 기준(ICH M10)을 준용하면 표준점의 역계산 농도는 표시값 대비 ±15% 이내, LLOQ에서는 ±20% 이내여야 하고, 최소 6개 농도 수준 중 75% 이상이 이 기준을 만족해야 한다.
의약품 함량시험이나 환경 분야 공정시험기준은 적용 범위와 허용 폭이 다르므로, 사내 규격과 해당 시험기준의 문언을 함께 확인해 기준을 확정한다. R²는 보조 지표로 기록하되, 판정 근거는 역계산 농도와 잔차 구조에 둔다.
5단계 — 가중치 변경이 정량값에 미치는 영향 정량화
가중치를 바꾸면 기울기와 절편이 함께 이동하므로 동일한 크로마토그램에서도 보고값이 달라진다. 변경 전후 영향을 수치로 남기지 않으면 데이터 무결성 측면에서 설명이 어렵다.
평가 방법은 단순하다. 최근 배치의 실제 시료 원시 데이터를 그대로 두고 가중치만 바꿔 재계산한 뒤, 농도 구간별 정량값 변화율을 표로 정리한다.
고농도 구간의 변화는 대개 수 퍼센트 이내로 작지만, LOQ 부근에서는 훨씬 크게 벌어질 수 있다. 규격 하한 근처의 시료가 있다면 가중치 하나로 적합·부적합 판정이 뒤집힐 수 있다는 뜻이다.
검량선 가중치 결정을 변경할 때는 메서드 개정 절차로 처리하고, 회수율·정밀도·LLOQ 재확인 범위를 재검증 계획에 반영한다. 확정된 가중치는 데이터 시스템의 처리 메서드에 고정하고, 분석자 임의 변경을 막는 권한 설정을 둔다.
관련해서 검량선 점 개수 결정 5단계 — 3점·5점·7점 신뢰도·비용 판정 글도 참고할 만하다.
검량선 가중치 결정 체크포인트 정리
검량선 가중치 결정 체크포인트는 다섯 가지로 압축된다. 첫째, 농도 수준별 반복 주입으로 분산 구조를 먼저 확인했는가.
둘째, 비가중과 1/x, 1/x², 1/y, 1/y²를 같은 원시 데이터로 비교했는가. 셋째, Σ|%RE|와 잔차 플롯을 함께 판정 근거로 남겼는가.
넷째, R² 단독이 아니라 역계산 농도 ±15%(LLOQ ±20%) 기준으로 합격 여부를 판정했는가. 다섯째, 가중치 변경이 실제 정량값에 미친 영향을 농도 구간별로 정량화하고 재검증 범위를 정의했는가.
주기적으로는 분기 단위로 최근 검량선의 잔차 구조를 다시 확인해 가중치가 여전히 유효한지 점검한다. 컬럼 로트나 검출기가 바뀌어 저농도 노이즈 수준이 달라지면 최적 가중치도 이동할 수 있다.
검량선 가중치 결정은 통계 기법 선택이 아니라 저농도 정확도를 지키기 위한 운영 판단이며, 근거 기록이 남아야 메서드로 성립한다. 검량선 점 개수와 농도 배치까지 함께 정하면 정량 신뢰도의 재현성이 크게 올라간다.
