검량선 비선형성 진단 5단계 — HPLC 다항식 모델 선택

검량선 비선형성 진단은 상관계수가 아니라 잔차 패턴과 상대응답인자(RRF) 추세를 읽는 데서 출발한다. 곡률이 확인되면 원인을 검출기 포화형과 저농도 손실형으로 분리한 뒤, 1차·2차 다항식과 가중치 조합을 후보군으로 놓고 적합결여 검정과 역산 농도 편차로 비교한다. 최종 모델은 데이터를 설명하는 가장 단순한 형태를 택하고, 선택 근거를 검증 문서에 남긴다.

검량선 비선형성 진단의 출발점 — 잔차와 RRF

검량선 비선형성 진단은 R²를 확인하는 일에서 시작하지 않는다. R²는 농도 범위가 넓을수록 커지는 성질이 있어 곡률이 뚜렷한 데이터에서도 0.999를 넘기는 경우가 흔하다.

첫 확인 대상은 잔차 플롯이다. 농도 대 잔차를 그렸을 때 U자 또는 역U자 패턴이 남으면 직선 모델이 응답 패턴을 설명하지 못한다는 뜻이며, 곡선 회귀가 더 적합하다는 신호로 읽힌다.

두 번째 지표는 상대응답인자(RRF)다. 각 표준점의 면적을 농도로 나눈 값이 고농도로 갈수록 단조 감소하면 검출기 포화 방향이고, 저농도에서 값이 낮게 배열되면 손실 방향의 비선형이다.

세 번째는 역산 농도 편차다. 각 표준점을 자기 검량선으로 역산했을 때 편차가 부호를 바꿔가며 곡선 형태로 늘어서면 검량선 비선형성 진단의 직접 근거가 된다. ICH Q2(R2) 개정 방향도 상관계수 단독 판정에서 벗어나 잔차 검토를 요구하는 쪽이다.

곡률 1차 확인 항목

• ✓잔차 플롯 U자 패턴 유무
• ✓RRF 단조 증감 추세
• ✓표준점 역산 편차 배열
• ✓정량하한 부근 편차 크기
• ✓R² 단독 판정 배제

1~2단계: 곡률 원인 분리와 범위 재설정

곡률이 확인되면 곧바로 모델을 바꾸지 않는다. 원인을 모르는 상태에서 2차항을 붙이면 기기 결함을 수학으로 덮는 결과가 된다.

검출기 포화형은 고농도 구간에서 응답 증가폭이 줄어드는 형태로 나타난다. UV 검출에서 흡광도가 높은 영역에 진입했거나 유량셀 광경로 대비 농도가 과한 경우가 전형이며, 시료를 희석해 재측정하면 직선성이 회복되는지로 확인한다.

저농도 손실형은 흡착·휘발·전처리 회수율 저하가 원인인 경우가 많다. 이때는 바이알 재질 변경, 표준용액 신제조, 여과 조건 변경으로 저농도 점이 올라오는지 본다.

적분 방식도 곡률을 만든다. 베이스라인 설정이 농도에 따라 달라지거나 미량 구간에서 피크 겹침이 개입하면 응답이 왜곡된다. 이 두 단계에서 원인이 해소되면 검량선 비선형성 진단은 여기서 종료하고 직선 모델을 유지하는 편이 낫다.

곡률 원인 구분

3단계: 모델 후보군 설정과 가중치 결합

원인 제거 후에도 곡률이 남으면 모델 후보를 명시적으로 나열한다. 실무에서 다루는 범위는 1차 직선, 원점 강제 직선, 2차 다항식 정도이며, 3차 이상은 과적합 위험이 커 특별한 근거 없이는 쓰지 않는다.

다항식 선택과 가중치 선택은 별개의 문제다. 곡률은 모델 차수로, 저농도 구간의 분산 확대는 1/x 또는 1/x² 가중치로 다룬다. 두 문제를 한쪽 수단으로 몰아 해결하면 다른 쪽 오차가 남는다.

따라서 후보 조합은 최소 네 가지가 된다. 1차·비가중, 1차·1/x, 2차·비가중, 2차·1/x 조합을 같은 데이터로 돌려 비교한다.

비교 기준은 결정계수가 아니라 각 표준점의 역산 편차와 잔차 분포다. 특히 정량하한 부근 점의 편차가 개선되는지가 판단의 무게중심이 된다.

모델 후보 설정 절차

1. 후보 나열
   1차·원점강제·2차로 제한, 3차 이상 배제
2. 가중치 분리
   곡률은 차수, 분산은 1/x·1/x²로 처리
3. 조합 구성
   1차·2차 × 비가중·1/x 최소 4조합
4. 비교 실행
   역산 편차와 잔차 분포로 우열 판정

4단계: 검량선 비선형성 진단의 통계 검정

모델 간 우열은 눈으로만 정하지 않는다. 검량선 비선형성 진단의 마지막 근거는 반복 표준점을 이용한 적합결여(lack-of-fit) 검정이다.

적합결여 검정은 선택한 모델의 잔차를 순수오차와 모델오차로 분해해 F 통계량으로 비교한다. 유의한 적합결여가 나오면 해당 모델이 응답 패턴을 다 담지 못한다는 뜻이므로 상위 차수를 검토한다.

이 검정은 각 농도 수준에 반복 측정이 있어야 성립한다. 수준당 단일 측정만 있으면 순수오차를 추정할 수 없어 검정 자체가 불가능하므로, 설계 단계에서 수준당 2회 이상을 확보한다.

2차항 계수의 유의성도 함께 본다. 계수가 통계적으로 유의하지 않고 역산 편차 개선도 미미하다면 직선 모델을 유지한다. 검량선 비선형성 진단은 곡선을 찾는 절차가 아니라 곡선이 필요한지 판정하는 절차다.

5단계: 규제 관점의 모델 확정과 문서화

모델이 정해지면 수용기준으로 최종 확인한다. FDA M10 계열 기준에서는 표준점 역산값이 공칭값 대비 ±15% 이내여야 하고 정량하한만 ±20%까지 허용되며, 표준점의 75% 이상이 이를 만족해야 한다.

같은 기준 체계는 농도-응답 관계를 설명하는 가장 단순한 회귀 모델을 쓰도록 요구한다. 2차 다항식이 허용되지 않는 것은 아니지만, 직선이 기준을 충족하는 상황에서 굳이 곡선을 택할 근거는 약하다.

2차 모델을 채택하면 역함수 계산에서 해가 둘 나올 수 있다는 점을 문서에 명시한다. 정량 범위 안에서 단조 증가 구간만 사용하도록 소프트웨어 설정과 SOP에 제한을 건다.

검증 문서에는 잔차 플롯, RRF 표, 적합결여 검정 결과, 후보 모델 비교표를 함께 남긴다. 검량선 비선형성 진단의 결론보다 그 결론에 이른 경로가 실사에서 더 자주 요구된다.

관련해서 검량선 가중치 결정 5단계 — 1/x·1/x² 선택과 R² 해석 글도 참고할 만하다.

정리 체크포인트 — 검량선 비선형성 진단 요약

검량선 비선형성 진단은 잔차·RRF·역산 편차 세 지표로 곡률을 확인하는 데서 시작한다. R² 단독 판정은 곡률을 가리므로 근거로 쓰지 않는다.

곡률이 보이면 검출기 포화형과 저농도 손실형을 먼저 분리하고, 희석·전처리·적분 조건 조정으로 해소되는지 확인한다. 여기서 해결되면 모델을 바꾸지 않는다.

남은 곡률에 대해서만 1차·2차 다항식과 1/x 계열 가중치를 조합해 후보군을 만들고, 적합결여 검정과 정량하한 부근 편차로 비교한다. 차수와 가중치는 서로 다른 문제를 다룬다는 점을 잊지 않는다.

최종 선택은 수용기준을 만족하는 가장 단순한 모델이며, 2차 채택 시 사용 구간 제한을 명시한다. 이 경로를 그대로 기록으로 남기면 재검증과 메서드 이관에서 반복 작업이 줄어든다.

5단계 판정 요약

※ 역산 편차 ±15%와 정량하한 ±20%는 FDA M10 맥락의 기준이다.

참고 자료

• M10 Bioanalytical Method Validation and Study Sample Analysis (FDA/ICH)
• ICH Q2(R2) Explained: Practical Guidance for HPLC Method Validation
• Linearity of Calibration Curves for Analytical Methods: A Review of Criteria for Assessment of Method Reliability