정량값 보고 자릿수는 데이터시스템이 출력한 자릿수가 아니라 측정 한계·반복성·기계 오차로 정해지는 판정 결과다. 반복 주입 RSD와 칭량·희석·검량선 성분을 합성해 확장불확도를 구하고, 그 두 자리 유효숫자에 값의 소수 자리를 맞추는 순서로 결정한다. 이 글은 보고 범위 고정부터 성적서 표기 문구까지를 5단계로 정리한다.
목차
1단계 — 정량값 보고 자릿수의 출발점: 보고 범위와 측정 한계 고정
정량값 보고 자릿수는 계산 결과를 그대로 옮겨 적는 문제가 아니라, 해당 자리의 숫자가 재현되는지를 판정하는 문제다. 크로마토그래피 데이터시스템은 피크 면적을 일곱 자리 이상으로 출력하지만, 반복 주입에서 실제로 살아남는 자리는 그보다 훨씬 적다.
따라서 첫 단계는 보고 범위와 측정 한계를 문서로 고정하는 일이다. LOQ 부근에서는 상대불확도가 급격히 커지므로, LOQ 미만 결과는 수치로 적지 않고 정량한계 미만으로 처리한다는 규정을 함께 둔다.
ICH Q2(R2)는 보고 범위 전 구간에서 특이성·정확성·정밀성이 입증되어야 한다고 보며, 보고 데이터를 산출하는 수학적 처리 과정도 검증·문서화 대상으로 다룬다. 자릿수 규칙은 결과를 확인한 뒤 사후에 정하는 것이 아니라 메서드 문서에 사전 규정되어야 하고, 규격 하한 근처에서도 동일하게 적용되어야 한다.
2단계 — 반복성 RSD로 정밀도 성분 잡기
자릿수를 결정하려면 먼저 흔들림의 크기를 숫자로 알아야 한다. 동일 시료를 6회 이상 반복 주입해 얻은 RSD가 정밀도 성분의 1차 추정치가 된다.
예를 들어 반복성 RSD가 1.0%인 메서드에서 평균 농도가 52.37 mg/L라면 표준편차는 약 0.52 mg/L 수준이다. 이 경우 소수 둘째 자리는 이미 잡음 영역이므로, 그대로 보고하면 실제보다 정밀한 데이터처럼 보이는 과대표기가 된다.
반복성만으로 부족하면 다른 날, 다른 분석자, 다른 컬럼 로트를 포함한 중간정밀도를 함께 구한다. 일상적으로 성적서에 나가는 값이라면 반복성보다 중간정밀도가 정량값 보고 자릿수의 근거로 더 현실적이다.
RSD 자체가 표본수에 민감한 지표라는 점도 감안한다. 반복수가 적을수록 RSD 추정치의 흔들림이 크므로, 한 배치의 결과만으로 자릿수 정책을 바꾸지 않는다.
3단계 — 기계 오차와 전처리 성분을 합성해 표준불확도 구하기
정밀도만으로는 불확도가 완성되지 않는다. 칭량, 부피 플라스크와 피펫의 허용오차, 표준물질 인증값의 불확도, 주입 재현성, 검량선 회귀의 잔차가 각각 독립 성분으로 들어간다.
GUM은 이들 성분을 표준불확도로 환산한 뒤 제곱합의 제곱근으로 합성하도록 규정한다. 허용오차만 주어진 유리기구처럼 분포를 가정해야 하는 항목은 균등분포로 보아 √3으로 나누고, 삼각분포로 보는 경우 √6으로 나누어 표준불확도로 바꾼다.
성분 목록은 원인·결과 도표로 먼저 나열한 뒤 수치화하면 누락이 줄어든다. 합성 결과 기여율이 1% 미만인 성분은 계산에는 남기되 개선 대상에서 빼고, 지배 성분을 줄이는 쪽에 자원을 집중하는 것이 합리적이다.
4단계 — 확장불확도로 정량값 보고 자릿수 확정하기
합성표준불확도에 포함인자 k를 곱해 확장불확도 U를 구한다. 신뢰수준 약 95%를 목표로 할 때 유효자유도가 충분하면 k=2를 쓰고, 반복수가 적어 자유도가 작으면 t분포에서 해당 자유도에 맞는 k를 취한다.
GUM과 Eurachem/CITAC 가이드는 불확도를 최대 두 자리 유효숫자까지 보고하고, 측정값의 소수 자리를 불확도의 소수 자리에 맞추도록 권고한다. 이 권고가 정량값 보고 자릿수를 결정하는 실질적 기준이 된다.
예를 들어 U가 0.63 mg/L로 계산되면 두 자리를 유지해 52.37 ± 0.63 mg/L로 적고, 한 자리로 줄이는 사내 규칙이라면 52.4 ± 0.6 mg/L가 된다. 어느 쪽이든 불확도의 마지막 자리보다 아래에 있는 숫자는 정보가 아니라 잡음이므로 보고하지 않는다.
5단계 — 반올림 순서와 성적서 표기 문구
반올림은 마지막에 한 번만 한다. 중간 계산에서 미리 자르면 오차가 누적되어 최종 자리가 흔들리므로, 희석배수·검량선 계수·회수율 보정은 모두 완전 자릿수로 유지한 상태에서 계산한다.
GUM은 과도한 자릿수를 보고하지 말라고 하면서도 반올림 처리에서는 상식이 우선한다는 취지를 함께 밝힌다. 규칙을 기계적으로 적용해 유효한 정보를 잃는 것보다, 필요하면 한 자리를 더 남기고 그 근거를 기록하는 편이 낫다.
성적서에는 값, 단위, 확장불확도, 포함인자 k, 신뢰수준을 한 묶음으로 적는다. 52.37 ± 0.63 mg/L (k=2, 약 95% 신뢰수준) 형태로 표기하면 수요자가 정량값 보고 자릿수의 근거를 그대로 되짚을 수 있다.
관련해서 희석 오차 누적으로 보는 최종 정량 불확도 계산 5단계 글도 참고할 만하다.
정리 — 정량값 보고 자릿수 체크포인트
다섯 단계는 보고 범위 확정, 반복성·중간정밀도 확보, 성분 합성, 확장불확도 산출, 반올림과 표기로 이어진다. 어느 한 단계라도 건너뛰면 자릿수는 근거 없는 관행으로 되돌아간다.
점검 항목은 단순하다. 자릿수 규칙이 메서드 문서에 사전 규정되어 있는가, 불확도는 두 자리 유효숫자로 정리했는가, 값과 불확도의 소수 자리가 일치하는가, 반올림은 최종 단계에서 한 번만 했는가.
정량값 보고 자릿수는 결국 데이터의 신뢰 구간을 숫자 모양으로 드러내는 장치다. 규격 경계값 근처에서는 불확도 적용 방식이 합부 판정 자체를 바꿀 수 있으므로, 판정 규칙에 불확도 반영 여부와 방법을 함께 명시해 둔다.
