회수율 계산식: 검량선으로 정량한 순증가량을 첨가량으로 나누는 방법

회수율(%)은 (첨가 시료 정량값 − 무첨가 시료 정량값) ÷ 첨가량 × 100으로 계산한다. 분모에는 기기에 넣은 주입량이 아니라 조제 기록으로 정해지는 첨가량(표준용액 농도 × 첨가 부피, 또는 칭량 질량 × 순도)을 쓴다. 분자에는 피크 면적이 아니라 검량선으로 환산한 정량값을 쓴다. 분자와 분모를 시료, 추출액, 주입 중 같은 단계와 같은 단위에 맞추면 어느 단계에서 계산해도 값이 같다. 단계를 섞거나 배경을 빼지 않으면 같은 데이터에서도 회수율이 크게 달라진다. 검출량을 용매 검량선, 매트릭스 매칭 검량선, 내부표준, 면적 비율 중 무엇으로 구했는지에 따라 회수율에 포함되는 효과가 달라지므로, 보고서에 정량 방식을 함께 적는다.

회수율 식: 분자는 검량선으로 정량한 순증가량, 분모는 첨가한 양
분모에는 주입량이 아닌 첨가량을 쓰고, 분자와 같은 단계로 맞춘다
가상 예제: 5회 반복 회수율의 계산과 보고
검출량을 어떤 정량 방식으로 구했는지에 따라 회수율에 포함되는 효과가 달라진다
첨가량의 불확도도 회수율에 그대로 전달된다
회수율을 계산하기 전에 확인할 항목

회수율 식: 분자는 검량선으로 정량한 순증가량, 분모는 첨가한 양

회수율은 시료에 양을 알고 있는 분석물을 넣은 뒤, 그중 얼마가 정량값으로 돌아왔는지를 비율로 나타낸 값이다.

**회수율(%) = (첨가 시료의 정량값 − 무첨가 시료의 정량값) ÷ 첨가량 × 100**

미국 연방규정 40 CFR Part 136 부록 A의 Method 601(폐수 중 퍼지성 할로겐화 탄화수소)은 매트릭스 스파이크 회수율을 P = 100(A − B)/T로 계산한다. B는 같은 시료를 따로 분석해 얻은 배경 농도이고, A는 첨가 후 측정 농도, T는 첨가한 스파이크의 참값(known true value)이다. 매트릭스 없이 조제한 QC 점검 시료는 배경이 없으므로 같은 방법에서 Ps = 100A/T로 계산한다. 국내 분석법 밸리데이션 비교 총설(노정·명성운, 분석과학 2024)도 정확도를 회수율 = C_M/C_T × 100(측정값 ÷ 참값)과 편향 = (C_M − C_T)/C_T × 100의 두 형태로 정리한다.

세 입력값은 각각 다음 값을 쓴다.

– **분모(첨가량, T)**: 조제 기록으로 정해지는 값이다. 표준용액 농도 × 첨가 부피, 또는 칭량 질량 × 순도로 계산하며, 기기로 측정해서 얻지 않는다. 기기에 넣은 주입 부피나 컬럼에 실린 양(on-column amount)도 아니다.
– **분자 첫째 항(첨가 시료 정량값, A)**: 피크 면적 자체가 아니라 검량선(또는 내부표준 면적비 검량선)으로 환산한 농도나 양이다. 희석배수, 최종 부피, 분취 비율, 시료량을 모두 반영해 분모와 같은 단위로 되돌린 값을 쓴다.
– **분자 둘째 항(무첨가 시료 정량값, B)**: 시료에 원래 들어 있던 분석물의 양이다.

스파이크를 전처리 전에 넣으면 이 식으로 구한 값에는 전처리 손실과 측정 단계의 영향이 모두 들어간다. 전처리 후, 즉 최종 추출액에 넣으면 측정 단계의 영향만 남는다. 어느 경우든 식은 같다. 달라지는 것은 분모의 '알고 있는 양'이 시료에 넣은 양인지 추출액에 넣은 양인지뿐이다.

의약품 분석의 ICH Q2(R2)도 정확도를 밸리데이션 항목으로 다룬다(EMA 게시 기준 2024년 6월 14일 발효). 다만 이 글은 그 세부 조항의 문구를 인용하지 않는다. 국내 공정시험기준을 적용할 때는 해당 고시의 정도보증 조항에 있는 정의식과 기호를 그대로 따른다.

분모에는 주입량이 아닌 첨가량을 쓰고, 분자와 같은 단계로 맞춘다

현장에서 자주 쓰는 '주입량'이라는 말은 기기에 넣은 부피나 컬럼에 실린 양을 가리킨다. 회수율의 분모는 시료(또는 추출액)에 첨가한 양이다. 둘을 섞지 않으려면 분자와 분모를 **같은 단계, 같은 단위**에 놓아야 한다. 단계는 시료 단위(µg/g), 추출액 단위(µg/mL), 1회 주입 단위(ng) 셋 중 하나를 고른다.

아래 설계와 결과는 계산 방법을 보여 주려고 만든 가상(교육용) 데이터다(표 1). 시료 10.00 g에 10.0 µg/mL 표준용액 100 µL를 넣었으므로 첨가량은 1.00 µg이고, 시료 기준 첨가 농도는 0.100 µg/g이다. 최종 추출액이 5.00 mL이므로 100% 회수된다면 추출액 농도는 0.200 µg/mL가 되고, 10 µL를 주입할 때 1회 주입량은 2.00 ng이 된다.

반복 1의 첨가 시료와 무첨가 시료 정량값을 세 단계로 각각 환산해 계산하면 다음과 같다.

– 시료 단위: (0.1050 − 0.0120) µg/g ÷ 0.100 µg/g × 100 = 93.0%
– 추출액 단위: (0.2100 − 0.0240) µg/mL ÷ 0.200 µg/mL × 100 = 93.0%
– 주입 단위: (2.100 − 0.240) ng ÷ 2.00 ng × 100 = 93.0%

세 단계 중 어디서 계산해도 값이 같다. 같은 데이터에서 배경을 빼지 않으면 결과가 크게 달라진다(표 2).

– **배경을 빼지 않은 경우**: 0.1050 ÷ 0.100 × 100 = 105.0%. 무첨가 시료에 원래 있던 분석물이 회수된 것처럼 계산된다.

분모에 주입 단계의 값을 쓰고 싶다면, 첨가량을 주입 단계까지 환산한 '100% 회수일 때 기대되는 주입량'(이 예에서는 2.00 ng)을 쓴다. 이 환산에 쓴 최종 부피와 분취 비율은 분자를 환산할 때도 똑같이 써야 한다. 실제 최종 부피가 명목값과 다르면(농축 과정의 증발, 정용 오차) 그 차이가 회수율에 그대로 들어간다. 따라서 최종 부피를 무게로 확인하거나 내부표준으로 보정한다.

가상 예제: 5회 반복 회수율의 계산과 보고

같은 설계로 첨가 시료를 5회 반복 분석했다고 가정한다(가상 교육용 데이터, 표 3). 무첨가 시료는 3회 분석했고, 평균 0.0120 µg/g(표본표준편차 0.0002 µg/g)을 배경값으로 쓴다.

개별 회수율은 (w_s − 0.0120) ÷ 0.100 × 100으로 구하면 93.0, 95.4, 90.8, 94.1, 92.2%다. 평균은 93.1%, 표본표준편차(n−1)는 1.76%p, 상대표준편차는 1.9%다. 첨가 시료 정량값의 평균 0.1051 µg/g으로 한 번에 계산해도 (0.1051 − 0.0120) ÷ 0.100 × 100 = 93.1%로 같다. 배경과 첨가량이 모든 반복에서 같으면 평균을 먼저 내든 나중에 내든 결과가 같다.

정밀도를 보고할 때는 어느 값의 RSD인지 밝혀야 한다. 첨가 시료 정량값(w_s)의 RSD는 1.7%이고, 회수율의 RSD는 1.9%다. 회수율은 배경을 뺀 첨가분만을 기준으로 하므로 분모가 작아지고 RSD가 커진다. 회수율의 반복성은 회수율 값 자체의 RSD로 보고한다.

이렇게 계산한 숫자가 합격인지는 별도의 판정 문제다. 위 비교 총설은 1 ppm 수준의 회수율 허용 범위를 AOAC 75~120%, 식약처 70~110%, Codex 80~110%, EC/SANTE 70~120%로 정리한다. 이처럼 지침과 농도 수준에 따라 범위가 다르므로, 적용하는 지침의 원문 기준으로 판정한다.

검출량을 어떤 정량 방식으로 구했는지에 따라 회수율에 포함되는 효과가 달라진다

분자의 '정량값'을 어떤 방식으로 구했는지에 따라 회수율 숫자에 포함되는 효과가 다르다. 그래서 같은 추출액이라도 정량 방식이 바뀌면 회수율이 달라진다.

LC-MS/MS 분야에서 널리 쓰는 Matuszewski 방식은 세 시료군의 평균 피크 면적으로 이 효과들을 나눈다. A는 용매 표준용액, B는 전처리 후 바탕 추출액에 첨가한 시료, C는 전처리 전에 첨가한 시료이며, 매트릭스 효과 ME(%) = B/A × 100, 회수율 RE(%) = C/B × 100, 공정 효율 PE(%) = C/A × 100 = ME × RE / 100으로 계산한다. 생체시료 분석 문헌이 인용하는 FDA 정의도 회수율을 '시료 추출·처리 단계를 거쳐 나온 분석물의 비율을, 알고 있는 양에 대한 백분율로 나타낸 추출 효율'로 본다.

가상(교육용) 면적 데이터로 계산하면 A 평균 52,000, B 평균 44,200, C 평균 40,700에서 ME 85.0%, RE 92.1%, PE 78.3%가 나온다(그림 1). 같은 시료라도 용매 검량선으로 정량하면 회수율이 PE에 가까운 값으로 나오고, 매트릭스 매칭 검량선으로 정량하면 RE에 가까운 값으로 나온다(검량선이 원점 근처를 지나는 선형일 때). 보고서에 '회수율 92%'만 적으면 어느 값인지 알 수 없으므로 정량 방식을 함께 적는다.

첨가량의 불확도도 회수율에 그대로 전달된다

분모인 첨가량은 측정값이 아니지만 오차가 없는 값도 아니다. 표준용액 농도와 피펫 부피의 불확도는 회수율에 그대로 전달된다. 위 가상 예제의 측정모델은 R = 100 × (w_s − w_0) × m / (c_std × V_spike)다. 각 성분의 표준불확도에 감도계수를 곱해 %(회수율의 퍼센트포인트) 단위로 바꾼 뒤 제곱합의 제곱근으로 합성했다(표 4).

– w_s와 w_0는 각각 5회, 3회 독립 반복의 평균을 쓰므로 반복성 성분에만 s/√n을 적용했다.
– 표준용액 농도(가정 u = 0.050 µg/mL), 첨가 부피(가정 u = 0.80 µL), 시료 질량(가정 u = 0.0050 g)은 √n으로 줄이지 않았다. 다섯 반복이 같은 표준용액과 같은 피펫을 쓰므로 이 오차는 평균을 내도 줄지 않는다.

합성표준불확도는 1.19%p이고, 포함인자 k = 2를 적용한 확장불확도는 2.4%p다(대략 95% 수준의 포함 구간). 평균 회수율은 93.1 ± 2.4%(k = 2)로 쓸 수 있다. 이 예에서는 첨가 부피 성분(0.74%p)이 반복성 성분(0.79%p)과 비슷한 크기다. 첨가 부피가 작을수록 피펫 오차가 회수율을 흔드는 비중이 커진다. 검량선 자체의 불확도는 반복성에 일부 포함된다고 보고 따로 넣지 않았으므로, 실제 예산에서는 검량선 성분을 별도로 평가할지 검토한다.

회수율을 계산하기 전에 확인할 항목

– 분모가 조제 기록으로 계산한 첨가량(농도 × 부피, 또는 질량 × 순도)인지 확인한다. 주입 부피나 피크 면적이 분모에 들어가면 안 된다.
– 분자가 검량선(또는 내부표준 면적비 검량선)으로 환산한 정량값인지 확인한다.
– 분자와 분모가 시료, 추출액, 주입 중 같은 단계와 같은 단위인지 확인한다. 농축배수, 희석배수, 분취 비율을 양쪽에 똑같이 적용했는지도 본다.
– 무첨가 시료의 정량값을 같은 시료에서 구해 뺐는지 확인한다. 검출되지 않아 0으로 둔 경우 그 근거를 기록한다.
– 첨가 수준이 배경 농도에 비해 충분히 높은지 확인한다. 첨가 수준은 적용하는 방법 원문의 규정을 따른다.
– 최종 부피를 명목값이 아니라 실제 값으로 확인했는지, 또는 내부표준으로 보정했는지 확인한다.
– 정량 방식(용매 검량선, 매트릭스 매칭, 내부표준, 면적 비율)과 스파이크 시점(전처리 전, 전처리 후)을 결과와 함께 기록한다.
– 평균 회수율과 함께 반복 수 n, 회수율의 표본표준편차(n−1)와 RSD를 기록하고, RSD가 회수율의 RSD인지 정량값의 RSD인지 밝힌다.
– 판정은 적용하는 지침 원문의 허용 범위로 한다. 다른 지침이나 다른 농도 수준의 범위를 옮겨 쓰지 않는다.