검량선 신뢰도 검증은 표준용액 희석 계열의 조제 오차를 배수 설계·반복성·LOQ·잔차 4단계로 추적해 정량값의 근거를 확보하는 작업이다. 상관계수만으로는 걸러지지 않는 하한 왜곡과 누적 오차를 단계별로 분리한다. 이 글은 각 단계의 판정 포인트와 흔한 실수를 실무 기준으로 정리한다.
목차
표준용액 희석 계열 조제 오차의 발생 지점
검량선의 품질은 기기 상태보다 표준용액 조제 단계에서 이미 절반이 결정된다. 스톡 표준액의 순도 보정, 피펫·플라스크의 부피 오차, 용매 증발과 흡착이 각 농도점에 서로 다른 크기로 실린다.
특히 직렬 희석(serial dilution)은 편리하지만 위험하다. 한 단계의 부피 오차가 이후 모든 저농도점에 그대로 전파되기 때문이다. LCGC의 분석에 따르면 단일 희석의 불확도가 약 0.6%일 때 직렬 희석은 0.9% 수준으로 커지고, 3단계 직렬 희석은 단일 희석 대비 약 2배의 측정 불확도를 만든다.
따라서 검량선 신뢰도 검증의 출발점은 “어느 농도점이 어떤 조제 경로로 만들어졌는가”를 명시하는 것이다. 배수 구조를 모른 채 상관계수만 보면, 하한에서 발생한 계통 오차를 놓치게 된다.
검량선 신뢰도 검증 4단계 — 전체 흐름
검량선 신뢰도 검증은 네 단계로 나눈다. 1단계는 희석 배수 설계와 오차 전파 계산, 2단계는 조제 반복성 확인, 3단계는 LOQ 영향 추적, 4단계는 잔차와 웨이팅으로 직선성을 최종 판정하는 순서다.
이 순서에는 이유가 있다. 배수 구조가 잘못되면 반복성 데이터의 해석이 흔들리고, 반복성이 확보되지 않으면 LOQ 판정이 신뢰를 잃으며, LOQ가 흔들리면 잔차 진단의 기준선이 사라지기 때문이다.
ICH Q2(R2)는 과거처럼 상관계수 r² 컷오프에만 의존하지 말고, 작업 범위(working range) 전체에서 잔차의 경향과 이상점을 함께 볼 것을 강조한다. 검량선 신뢰도 검증도 단일 지표가 아니라 이 4단계의 조합으로 판단한다.
1단계 — 희석 배수 설계와 오차 전파 계산
먼저 각 농도점의 조제 경로를 표로 고정한다. 스톡에서 몇 배로, 몇 단계를 거쳐 만들었는지, 사용한 피펫·플라스크의 등급과 공칭 오차를 함께 기록한다.
큰 희석 배수를 한 번의 이동으로 만들려 하면 소부피 피펫팅에서 상대 오차가 급증한다. 예컨대 1000배 희석을 단일 단계로 처리하는 대신, 중간 스톡을 경유해 배수를 나누되 직렬 전파를 최소화하는 병렬 조제가 유리하다.
가능하면 무게 기반(gravimetric) 조제를 검토한다. NIST 기반 검증에서 무게법은 최저 칭량 조건에서도 최대 0.001% 수준의 불확도로, 부피법보다 재현성이 높게 보고된다. 오차 전파식으로 각 농도점의 예상 불확도를 미리 산출해 두면, 이후 실측 변동과 비교할 기준이 생긴다.
2단계 — 조제 반복성으로 검량선 신뢰도를 흔드는 변동 분리
같은 절차로 표준용액 계열을 독립적으로 2~3벌 조제해 각 농도점의 반복성을 본다. 이 데이터가 검량선 신뢰도 검증의 핵심 증거가 된다.
독립 조제 반복은 단순한 재주입과 다르다. 재주입은 기기 변동만 보지만, 별도의 스톡에서 다시 만든 계열은 조제 오차 자체를 드러낸다. 두 벌의 서로 다른 base 표준액으로 희석을 반복하면 표준액에 실린 실제 불확도를 추정할 수 있다.
농도점별 RSD가 저농도에서만 유독 커진다면 원인은 기기가 아니라 소부피 조제일 가능성이 높다. 이렇게 검량선 신뢰도를 흔드는 변동의 출처를 조제 단계와 측정 단계로 분리하는 것이 2단계의 목적이다.
3단계 — LOQ 영향 추적과 하한 확정
조제 오차는 저농도로 갈수록 상대적으로 커지므로 LOQ 부근에서 가장 뚜렷하게 드러난다. LOQ는 신호대잡음비 약 10, 또는 반복 측정 표준편차의 10배(공정관리 맥락에서는 blank 기반) 방식으로 산출한다.
주의할 점은 조제 오차가 실린 저농도점을 검량선에 그대로 포함하면, 회귀선의 기울기와 절편이 왜곡되어 LOQ가 실제보다 낙관적으로 계산된다는 것이다. 하한점의 반복성이 확보되지 않으면 그 점을 범위에서 제외하거나 재조제해야 한다.
ICH Q2(R2)는 작업 범위 하한(lower range limit)을 별도로 검증하도록 요구한다. LOQ 영향 추적은 결국 “검량선이 정량을 보증하는 최저 농도가 어디까지인가”를 조제 오차까지 반영해 확정하는 절차다.
4단계 — 잔차·웨이팅으로 검량선 신뢰도 최종 판정
마지막으로 회귀 잔차를 농도에 대해 그려 경향과 이상점을 본다. 상관계수 r=0.999 같은 값은 저농도 오차를 가려버리므로, 검량선 신뢰도 검증에서는 잔차 플롯이 상관계수보다 유용하다.
잔차가 고농도에서 부채꼴로 벌어지면 분산의 비균질성(heteroscedasticity)이다. 이때 비가중 최소자승을 쓰면 저농도 정량이 나빠지므로 1/x 또는 1/x² 웨이팅을 적용하고, 웨이팅 전후의 하한 회수율을 비교해 선택을 정당화한다.
최종 판정은 잔차 경향, 각 농도점 회수율, 반복성, LOQ 검증을 함께 종합한다. 어느 하나라도 계통 오차를 가리키면 검량선을 다시 만든다. 검량선 신뢰도 검증은 단일 수치 통과가 아니라 이 근거들의 일관성으로 성립한다.
관련해서 검량선(Calibration Curve) 제대로 만드는 법과 흔한 실수 글도 참고할 만하다.
체크포인트 정리
핵심은 상관계수 한 줄이 아니라, 조제 경로부터 잔차까지의 근거 사슬이다. 아래를 순서대로 확인한다.
첫째, 농도점별 희석 배수와 조제 경로를 기록하고 직렬 전파를 최소화했는가. 둘째, 독립 조제 2~3벌로 농도점별 반복성을 확보하고 저농도 변동의 출처를 조제/측정으로 분리했는가.
셋째, LOQ를 조제 오차까지 반영해 하한을 보수적으로 확정했는가. 넷째, 잔차 플롯과 웨이팅으로 직선성을 판정하고 회수율로 교차 확인했는가. 이 네 가지가 모두 일관될 때 비로소 검량선 신뢰도 검증이 완료되며, 정량값의 근거를 표준용액 단계까지 소급해 방어할 수 있다.