저회수율 정량 신뢰도는 회수율이 70% 이하로 떨어졌다는 사실만으로 결정되지 않으며, 손실이 계통적으로 재현되는지 여부가 판정의 축이다. SANTE 11312/2021은 검증 시 평균 회수율 70~120%·RSDr 20% 이하를 요구하되, 손실 근거가 명확하고 일관성이 입증되면 예외적으로 30~140% 구간까지 수용할 여지를 둔다. 이 글은 원인 분해, 기준 대조, 재현성 입증, 보정 계수 판정, 보고 문구 확정의 5단계로 저농도·난추출 성분의 정량값을 방어하는 절차를 다룬다.
목차
저회수율 정량 신뢰도를 좌우하는 것은 숫자가 아니라 편향의 성격이다
저회수율 정량 신뢰도 평가에서 가장 흔한 실수는 회수율 68%라는 숫자 하나를 보고 데이터를 폐기하거나, 반대로 아무 검토 없이 68로 나눠 보정해 버리는 것이다. 회수율은 정확도(trueness)를 표현하는 지표이며, 그 자체가 합격·불합격 경계선은 아니다.
판정의 축은 손실이 계통적인지 무작위인지에 있다. 계통 손실은 매 분석에서 같은 방향과 비슷한 크기로 발생하므로 원인을 특정할 수 있고 수치적으로 다룰 수 있다. 무작위 손실은 크기를 예측할 수 없어 보정 대상이 될 수 없다.
따라서 저회수율 정량 신뢰도는 원인 규명 → 기준 대조 → 재현성 입증 → 보정 판정 → 보고 방식의 순서로만 확보된다. 이 순서를 뒤집어 보정부터 손대면 이미 내부표준물질이 흡수한 편향을 한 번 더 반영해 정량값이 과대평가된다.
1단계 — 회수율 손실 원인을 단계별로 분해한다
먼저 절대 회수율과 상대 회수율을 분리한다. 절대 회수율은 전처리 손실과 매트릭스 효과를 모두 포함한 값이고, 상대 회수율은 내부표준물질로 보정한 뒤의 값이다. 두 값의 차이가 크다면 손실은 이미 내부표준물질이 상당 부분 흡수하고 있다는 뜻이다.
다음으로 전처리 각 단계에 스파이크 지점을 옮겨가며 회수율을 측정한다. 추출 직전, 여과 직전, 농축 직후, 최종 바이알에 각각 첨가해 구간별 회수율을 구하면 손실이 발생한 단계가 좁혀진다.
매트릭스 효과는 매트릭스 매치 표준용액과 순용매 표준용액의 기울기 비로 따로 산출한다. 이온억제나 UV 흡광 간섭에 의한 신호 저하는 물리적 손실이 아니므로 대응 방법이 전혀 다르다.
마지막으로 분해와 흡착을 확인한다. 전처리 소요 시간만큼 표준용액을 방치한 뒤 재측정해 감소가 보이면 안정성 문제이고, 용기 재질을 유리·PP·실란화 유리로 바꿔 값이 달라지면 흡착 손실이다.
회수율 손실 원인 분해 절차
- 절대·상대 회수율 분리
내부표준 보정 전후 값을 나눠 손실 흡수분을 확인한다 - 단계별 스파이크
추출·여과·농축·최종 바이알 4지점에 첨가해 구간 회수율 산출 - 매트릭스 효과 분리
매트릭스 매치와 순용매 검량선 기울기 비로 신호 저하 확인 - 안정성 확인
전처리 소요 시간만큼 방치 후 재측정해 분해 여부 판정 - 흡착 확인
유리·PP·실란화 유리 용기 교체 시 값 변화 비교
2단계 — 적용 기준과 대조해 허용 범위를 확정한다
회수율 허용 범위는 분야와 농도에 따라 다르므로 자기 시험법이 어느 기준을 따르는지부터 확정해야 한다. SANTE 11312/2021은 초기 검증에서 모든 대상 성분의 평균 회수율이 70~120% 범위에 들고 반복 정밀도 RSDr이 20% 이하일 것을 요구한다.
다만 같은 문서는 예외를 명시한다. 분배 단계에서의 분석물 분포처럼 손실 근거가 잘 확립되어 있고 회수율이 일관되면(RSD 20% 이하) 70~120%를 벗어난 평균 회수율도 수용할 수 있으나, 평균 절대 회수율이 30% 미만이거나 140%를 초과해서는 안 된다고 규정한다.
AOAC는 농도가 낮아질수록 허용 폭이 넓어지는 구조를 취한다. 100 ppm 수준에서는 90~107% 정도로 좁지만, 10 ppm에서는 80~110%로, ppb 영역에서는 60~115% 수준까지 확대되는 식이다.
반면 의약품 분야의 밸리데이션 가이드라인은 회수율 하한을 일률적 수치로 못 박기보다 정확도 항목으로 다루는 경향이 있다. 이 경우 사내 기준을 문서로 먼저 설정하고 그 근거를 남겨야 감사 대응이 가능하다.
회수율 허용 기준 비교
| 기준 | 적용 조건 | 허용 회수율 | 부대 조건 |
|---|---|---|---|
| SANTE 11312/2021 | 초기 검증 일반 | 70~120% | RSDr 20% 이하 |
| SANTE 예외 조항 | 손실 근거 확립·일관성 | 30~140% | RSD 20% 이하 |
| AOAC | 100 ppm | 90~107% | 농도별 차등 |
| AOAC | 10 ppm | 80~110% | 농도별 차등 |
| AOAC | ppb 수준 | 60~115% | 저농도일수록 확대 |
3단계 — 재현성 입증이 저회수율 정량 신뢰도의 실질 관문이다
70% 이하 회수율을 방어할 수 있는지는 결국 RSD가 결정한다. 회수율 45%라도 RSD가 8%로 안정적이면 계통 편향으로 다룰 수 있지만, 회수율 85%라도 RSD가 25%면 그 정량값은 신뢰할 수 없다.
입증 설계는 최소 3개 농도 수준(정량한계 부근, 중간, 상한 부근)에서 각 6회 반복을 기본으로 한다. 여기에 서로 다른 날짜, 다른 분석자, 다른 시료 로트를 포함한 중간정밀도 조건을 추가해야 일회성 우연이 아님을 보일 수 있다.
통계적으로는 평균 회수율 R이 1과 유의하게 다른지 t-검정으로 확인한다. 유의하지 않다면 보정 없이 그대로 보고하고, 유의하다면 다음 단계인 보정 판정으로 넘어간다. 저회수율 정량 신뢰도 문서에는 이 검정 결과와 자유도를 함께 남긴다.
4단계 — 저회수율 정량 신뢰도를 지키는 보정 계수 적용 판정
보정에 앞서 편향 저감을 먼저 시도하는 것이 원칙이다. 매트릭스 매치 검량선, 표준첨가법, 동위원소 표지 내부표준물질(SIL-IS)은 회수율 계수로 나누는 것보다 우선 검토해야 할 수단이며, 이 방법으로 편향이 사라지면 보정 자체가 불필요해진다.
그럼에도 계통 손실이 남으면 검증에서 얻은 평균 회수율로 나눠 보정한다. 이때 Eurachem/CITAC 지침이 강조하는 것은 회수율 R 자체가 불확도를 가진 추정값이라는 점이다. 보정을 적용하면 R의 표준불확도 u(R)을 합성불확도에 반드시 산입해야 하며, 이를 빠뜨린 보정값은 실제보다 정밀해 보이는 착시를 만든다.
실무 운용 구간은 다음과 같이 나눈다. 70~120%·RSD 20% 이하는 무보정 수용, 50~70%는 원인 입증을 전제로 조건부 보정, 30~50%는 예외 승인과 불확도 산입을 동반한 보정, 30% 미만이거나 RSD가 20%를 넘으면 보정 불가로 처리한다.
보정 여부는 시험법 문서에 사전 규정해야 하며, 결과를 본 뒤 유리한 쪽으로 선택하는 사후 판단은 저회수율 정량 신뢰도를 근본적으로 훼손한다.
회수율 보정 적용 판정
| 평균 회수율 | RSD | 보정 적용 | 조치 |
|---|---|---|---|
| 70~120% | 20% 이하 | 불필요 | 무보정 수용 |
| 50~70% | 20% 이하 | 조건부 적용 | 원인 입증 필수 |
| 30~50% | 20% 이하 | 적용+불확도 산입 | 예외 승인 필요 |
| 30% 미만 | – | 불가 | 메서드 재개발 |
| 임의 변동 | 20% 초과 | 불가 | 보정 무의미 |
※ SANTE 예외 조항은 하한 30%·상한 140%를 넘지 않는 범위에서만 적용된다.
관련해서 HPLC 회수율 편차 원인 추적 의사결정 트리 5단계 — 시료·기기·메서드 구분법 글도 참고할 만하다.
5단계 — 보고 문구 확정과 저회수율 정량 신뢰도 체크포인트
보고서에는 보정 전 값, 적용한 회수율 계수, 보정 후 값, 확장불확도를 함께 기재한다. 보정 여부를 표기하지 않은 단일 수치는 수치 자체가 맞더라도 추적성이 없어 시험성적서로서 결함이 된다.
예외 구간을 적용했다면 근거 문장을 정형화해 둔다. 손실이 발생한 단계, 일관성을 뒷받침하는 RSD와 반복수, 참조한 기준 조항을 한 문단으로 고정하면 감사와 이의 제기 대응 시간이 크게 줄어든다.
주기적 재확인도 필요하다. 컬럼 로트, 이동상 배치, 전처리 카트리지가 바뀌면 회수율 계수를 재산출하고, 관리도에 회수율을 올려 추세 이탈을 조기에 포착한다.
정리하면 저회수율 정량 신뢰도는 회수율을 끌어올려서가 아니라 손실을 설명하고 재현성을 입증하며 불확도로 정직하게 표현해서 확보된다. 70% 이하라는 숫자는 폐기 사유가 아니라 추가 입증 의무가 발생했다는 신호로 읽는 것이 맞다.
저회수율 신뢰도 체크포인트
- ✓절대 회수율과 상대 회수율을 분리해 기록했는가
- ✓손실 발생 단계를 스파이크 지점 이동으로 특정했는가
- ✓3농도·6반복·중간정밀도로 RSD를 입증했는가
- ✓보정 적용 시 회수율 계수의 불확도를 산입했는가
- ✓보고서에 보정 전후 값과 계수를 함께 기재했는가
- ✓로트·배치 변경 시 회수율 계수를 재산출했는가
참고 자료
- SANTE/11312/2021 v2 — Analytical quality control and method validation procedures for pesticide residues analysis in food and feed
- AOAC INTERNATIONAL Appendix F: Guidelines for Standard Method Performance Requirements
- EURACHEM/CITAC Guide CG 4 — Quantifying Uncertainty in Analytical Measurement (3rd ed.)
