검량선 R²가 좋아도 정량 결과를 바로 승인할 수 없다

R² 합격은 정량 결과 승인에 필요한 검토의 일부다. 적용 시험법의 검량범위와 모형, 농도점별 잔차·역산 농도, 정확성·정밀성 자료, 시스템적합성 및 배치 검증 결과를 시료와 연결해 확인해야 한다. 미충족 항목이 있으면 원인과 영향 범위를 평가한 뒤 결과 사용 여부와 후속 조치를 결정한다.

R² 합격이 확인해 주는 범위는 제한적이다
승인 검토는 시험법의 기준표에서 시작한다
모형과 농도점별 적합성을 같은 화면에서 확인한다
가상 계산: 높은 R² 안에 남아 있는 저농도 편차
검량선의 적합성과 해당 시료 결과의 유효성을 연결한다
확인 결과를 사용·보류·후속 조치로 남긴다

R² 합격이 확인해 주는 범위는 제한적이다

높은 R²만으로 모형이 데이터에 잘 맞는다고 보장할 수 없다. 통상적인 절편 포함 최소제곱 회귀에서 R²는 응답의 전체 변동 중 모형이 설명하는 비율을 나타낸다. 각 농도점의 상대오차나 실제 시료의 정확성을 직접 나타내는 값은 아니다. NIST는 모형 검증의 주요 도구로 그래프를 이용한 잔차 분석을 설명한다. NIST 모형 검증 지침

이 글은 외부표준법 또는 이에 준하는 검량선 기반 GC/HPLC 정량에서, 검량범위 안의 시료 결과를 승인하는 상황을 다룬다. 비교표는 R² 화면에서 확인할 수 있는 정보와 별도 자료로 확인할 정보를 구분한다. 검량점 누락·오류, 표준용액 제조 이상, 피크 동정 불확실성, 기기·전처리 부적합이 확인되면 해당 문제의 영향을 먼저 평가하는 검토안을 제안한다.

승인 검토는 시험법의 기준표에서 시작한다

NIST는 크로마토그래피 정량에서 적절한 모형을 선택할 때 예상 분석대상 농도, 매질 간섭, 잡음, 드리프트 등 측정시스템에 대한 지식을 고려해야 한다고 설명한다. 측정 프로토콜 설계에서는 불확도에 기여하는 모든 요인을 고려하도록 한다. NIST 크로마토그래피 정량 원칙 분석대상과 시험법이 특정되지 않았으므로 공통 합격 수치는 제시하지 않는다.

식품은 해당 식품공전 시험법, 환경은 해당 매질·항목의 공정시험기준, 의약품은 적용 공정서·각조와 승인 시험법에서 실제 조건을 찾는다. 다른 분야의 허용치를 옮겨 적용하는 근거로 이 글을 사용하지 않는다. Eurachem의 공개 안내는 특정 적용 분야에 초점을 두지 않는 일반적인 접근임을 밝힌다. 의약품의 ICH Q2(R2)는 상업용 원료의약품·완제의약품의 출하 및 안정성 시험 등에 사용되는 분석절차를 적용 대상으로 설명한다. Eurachem 안내, EMA의 ICH Q2(R2) 적용범위

이 글에서 ICH 세부 실험설계나 USP·ISO 표준의 비공개 조항을 판정 근거로 인용하지는 않는다. 공개 HTML에서 직접 확인한 내용과 아래의 검토 권고를 구분한다.

모형과 농도점별 적합성을 같은 화면에서 확인한다

검량범위와 모형을 확인한 다음, 실제 계산 설정이 시험법과 일치하는지 대조한다. 회귀식, 가중 방식, 원점 처리, 응답의 정의와 포함된 검량점을 함께 확인하는 검토안을 권고한다. Agilent OpenLab 문서는 회귀 계산이 가중치와 응답인자 정의에 따라 달라지고, 원점 강제 설정에서는 비중심 결정계수를 사용한다고 설명한다. 설정이 다른 R²를 동일한 의미로 비교하기 어렵다는 뜻이다. OpenLab 회귀 계산, OpenLab 검량선 통계

이어서 농도별 잔차의 부호·크기·배열과 역산 농도 편차를 검토한다. 잔차가 곡선 형태를 이루거나 특정 구간에서 한쪽으로 몰리는 현상은 모형을 재검토할 단서다. 분산이 농도에 따라 달라지는지도 살핀다. NIST는 검량모형 검증에서 잔차의 구조와 이상값, 분산에 관한 가정을 확인하도록 안내한다. NIST 검량모형 검증

OpenLab의 잔차는 검량 모드에 따라 측정 응답 또는 양과 검량선으로 계산한 예측값의 차이로 정의된다. OpenLab 잔차 정의

가상 계산: 높은 R² 안에 남아 있는 저농도 편차

아래 표는 가상(교육용) 데이터다. 표준농도는 1, 5, 10, 50, 100 mg/L이고, 각각의 응답은 0.7, 5, 10, 50, 100 임의 면적단위다. 각 농도점의 단회 응답을 무가중·절편 포함 직선회귀로 계산했다.

계산식은 y = 1.001358x − 0.105077이며 R²는 0.999992다. 그러나 최저 표준의 응답을 같은 식에 역산하면 농도는 0.803985 mg/L, 명목농도 대비 편차는 −19.60%다. 역산에는 x̂ = (y − a)/b, 편차에는 100 × (x̂ − x)/x를 사용했다. 회귀와 역산은 반올림 전 계수로 계산했다. 선형 검량모형의 형태는 NIST 검량모형 설명에 근거하며, 데이터와 계산값은 이 글의 교육용 예제다.

이 예제는 특정 시험법의 합격·불합격을 판정하지 않는다. 높은 R²와 저농도점의 큰 상대편차가 함께 나타날 수 있음을 보여 준다. 실제 승인에서는 해당 시험법의 농도점별 판정기준과 저농도 성능 자료를 대조한다. 서로 다른 농도점의 응답만으로 반복정밀도를 추정하지 않는다.

검량선의 적합성과 해당 시료 결과의 유효성을 연결한다

농도점별 적합성을 확인한 뒤에는 시료의 농도·매질·전처리 조건에 적용할 수 있는 정확성·정밀성 자료를 검토하는 것이 좋다. 검량표준을 같은 회귀식에 역산한 결과는 모형의 적합성을 보는 자료다. NIST의 크로마토그래피 정량 설명도 모형 선택 외에 매질 간섭, 드리프트, 시료 취급, 적분과 대조시료 등을 고려 대상으로 든다. NIST 크로마토그래피 정량 원칙

배치 검토에서는 시스템적합성, 시험법이 요구하는 ICV·CCV 또는 이에 해당하는 검증시료, 공시험과 전처리 QC를 시료의 분석 순서에 연결하는 방식을 권고한다. 이 글에서 ICV는 초기 검량의 정확성을 별도 출처 표준 등으로 확인하는 검증, CCV는 분석 중 검량의 유지 상태를 확인하는 검증을 뜻한다. 이 용어 구분은 제조사의 QC 정의를 참고한 것이며, 실제 표준의 독립성·농도·빈도·허용치는 적용 시험법에서 확인한다. Agilent QC 용어 정의

마지막으로 시료 응답과 계산 농도가 검증된 작업범위에 해당하는지 확인하고, 원시료 환산에 사용한 희석배수와 단위를 대조한다. 시작 시점의 적합 자료만으로 배치 전체를 승인하기보다, 각 시료에 적용되는 검증 자료를 연결해 판단하는 검토안을 제안한다.

확인 결과를 사용·보류·후속 조치로 남긴다

다음은 기관 절차에 맞게 조정해 사용할 승인 검토 체크리스트다. 독립적인 공정시험기준이나 보편적 의무사항을 새로 정한 것은 아니다.

– 적용 시험법의 판본과 대상 성분·매질이 확인되었는가.
– 검량범위와 실제 회귀모형·가중 방식·원점 처리가 시험법에 부합하는가.
– 잔차와 역산 농도를 검토했고, 시험법에 규정된 농도점별 기준을 충족하는가.
– 해당 시료 조건에 적용할 정확성·정밀성 자료가 있는가.
– 시스템적합성과 요구된 ICV·CCV·공시험·전처리 QC가 해당 시료를 뒷받침하는가.
– 시료 응답 범위와 희석배수·단위·최종 계산이 확인되었는가.
– 미충족 사항의 원인, 영향받은 성분·시료·분석 구간과 후속 조치가 기록되었는가.

Eurachem의 공개 안내는 목적 적합성의 중요성과 밸리데이션 연구의 후속조치로서 보고 및 성능 자료의 내부 정도관리 활용을 다룬다. Eurachem 밸리데이션 및 후속 관리 안내

Eurachem의 공개 안내는 분석방법의 문서화를 지침의 내용으로 제시한다. Eurachem 분석방법 문서화 안내