정량값이 음수일 때 재측정부터 할까 — 검량선·기준선·매트릭스 원인을 먼저 가리는 판단 순서

정량값이 음수라는 것은 시료에 분석물이 음의 양으로 들어 있다는 뜻이 아니다. 계산에 쓴 기준점(검량선 절편, 기준선, 바탕값)이 시료 신호보다 높게 잡혔다는 뜻이다. 그래서 같은 조건으로 바로 재측정하기보다 먼저 두 가지를 본다. 하나는 그 음수가 바탕시료 변동 범위 안에 드는지다. 다른 하나는 범위를 벗어났다면 검량선, 기준선·적분, 시료 매트릭스 가운데 어디서 생겼는지다. 원인이 조정할 수 있는 것이면 바로잡은 뒤 재처리하거나 재분석한다. 시료 특성이 원인이면 전처리를 바꾸거나 검증된 대체 방법으로 확인한다. 원자료의 음수는 그대로 보존한다. 보고값은 시험법의 결과 표시 규정에 따라 정하고, 숫자 음수를 그대로 내거나 임의로 0으로 바꾸지 않는다.

결론: 음수값은 재측정 사유가 아니라 진단 사유다
음수가 계산되는 구조 — 세 기준점
첫 판단 — 바탕 변동 범위 안의 음수인가
원인별 진단 신호와 조치 비교
재측정 신청 전 체크리스트
원자료와 보고값을 분리하는 원칙
내부 절차에 반영할 항목

결론: 음수값은 재측정 사유가 아니라 진단 사유다

농도가 음수일 수는 없다. 그러니 음수 결과는 측정 대상이 아니라 계산 과정에 대한 정보다. 외부표준 정량에서는 시료 응답에서 검량선 절편을 빼거나 바탕값을 빼는데, 그 결과가 0보다 작아졌다는 뜻이다. 그래서 첫 질문은 '다시 돌릴까'가 아니라 '어느 기준점이 어긋났나'여야 한다.

판단은 다음 순서로 한다.

1. 크기 판단: 그 음수가 바탕시료 결과의 흩어짐 안에 드는 작은 값인지, 그 밖의 큰 값인지 가른다.
2. 원인 진단: 범위 밖이면 검량선, 기준선·적분, 시료 매트릭스 순서로 확인한다. 이 순서는 확인 비용 순서이기도 하다. 검량선과 적분은 이미 있는 원자료를 재검토·재처리해서 확인할 수 있다. 매트릭스는 대개 재주입이나 재전처리가 필요하다.
3. 조치 결정: 원인이 조정 가능하면(적분 설정 오류, 기기 미안정 등) 바로잡고 재처리하거나 재분석한다. 원인이 시료 특성이면(매트릭스 간섭) 전처리를 바꿔 재분석하거나 검증된 대체 방법으로 확인한다.

원인을 모른 채 같은 조건으로 다시 주입하면 같은 음수가 반복되기 쉽다. 우연히 양수가 나와도 두 값 중 어느 쪽이 맞는지 판단할 근거가 없다. 음수를 0으로 바꿔 넣거나 음수 숫자를 그대로 보고하는 것도 이 진단을 건너뛰는 처리라는 점에서 같은 문제를 안고 있다.

음수가 계산되는 구조 — 세 기준점

직선 검량선을 쓰면 농도는 x = (y − b) / a 로 계산한다(y: 시료 응답, b: 절편, a: 기울기). 바탕 차감을 하면 시료 결과에서 바탕 결과를 뺀다. 결과가 음수가 되는 경로는 세 가지다.

– 절편 b가 실제보다 크게 잡힌 경우(검량선): 원점을 지나는지는 절편의 표준오차로 검정한다. 근거 없이 원점을 강제하면 저농도에서 오차가 커진다. 반대로 최저 표준보다 낮은 시료 응답을 검량선 아래쪽으로 외삽하면, 절편의 작은 불확실성이 그대로 음수 결과로 나타날 수 있다.
– 응답 y가 작게 잡힌 경우(기준선·적분): 음의 피크, 기준선 드리프트, 적분 시작·끝점 오설정은 피크 면적을 줄이거나 음의 면적을 만든다.
– 응답 자체가 바뀌거나 바탕값이 과대한 경우(시료 매트릭스): 매트릭스가 분석물의 흡광이나 이온화를 바꾸면, 같은 농도라도 표준용액보다 응답이 낮게 나온다. 바탕시료의 겉보기 응답이 과대하면 차감량이 커지고, 시료 결과가 음수로 밀릴 수 있다.

세 경로 중 어느 것인지에 따라 재처리로 끝날지, 재분석이 필요할지, 방법 자체를 바꿔야 할지가 갈린다.

첫 판단 — 바탕 변동 범위 안의 음수인가

분석물이 거의 없는 시료를 반복 측정하면 결과는 0 근처에서 양쪽으로 흩어진다. 음수 결과가 섞이는 것은 이 분포의 자연스러운 일부다. 미국 40 CFR Part 136 부록 B(Revision 2)의 MDL 절차도 이를 전제로 한다. MDLb 계산에 쓰는 방법바탕시료의 수치 결과에는 양수와 음수가 모두 포함되고('ND' 결과는 제외), 평균이 음수이면 평균 대신 0을 쓰도록 정해 두었다. 같은 절차는 스파이크 시료와 방법바탕시료를 각각 최소 7개씩 시험법 전 과정에 걸쳐 처리하도록 요구한다. 이 규정은 그 연방규정의 시험법에 적용되는 것이지만, '바탕 수준의 음수는 버릴 값이 아니라 분포의 일부'라는 관점은 음수를 판단할 때 참고가 된다.

가상(교육용) 데이터 예제: 방법바탕시료 7회 결과(mg/L)가 0.004, −0.002, 0.001, −0.003, 0.002, 0.000, −0.001 이라고 하자. 평균은 0.00014 mg/L, 표본표준편차(n−1)는 0.00241 mg/L다. 여기에 두 시료를 비교한다.

– 시료 A: −0.003 mg/L → (−0.003 − 0.00014) / 0.00241 = −1.30, 즉 바탕 표준편차의 약 1.3배 아래
– 시료 B: −0.045 mg/L → (−0.045 − 0.00014) / 0.00241 = −18.73, 즉 바탕 표준편차의 약 18.7배 아래

시료 A는 바탕시료의 흩어짐으로 설명되는 값이다. 결함의 신호로 보기 어렵고, 음수라는 이유만으로 재측정할 근거도 약하다. 원자료에는 −0.003을 그대로 남긴다. 보고값은 해당 시험법의 결과 표시 규정(예: 정량한계 미만 표기)에 따른다. 시료 B는 바탕 변동으로 설명되지 않는다. 검량선·적분·매트릭스 중 지정 가능한 원인이 있다는 강한 신호이므로 다음 단계의 진단으로 넘긴다.

몇 배를 경계로 삼을지는 이 글이 정할 수 없다. 시험법 밸리데이션 자료와 바탕시료 이력을 근거로 내부 절차에 미리 정해 두어야 하며, 결과를 보고 나서 경계를 고르면 안 된다.

원인별 진단 신호와 조치 비교

원인 영역	확인 신호	확인 방법	조치	재분석 형태
검량선	절편이 표준오차에 비해 0과 뚜렷이 다름, 원점 강제 적용, 최저 표준 부근 잔차가 한쪽으로 치우침, 시료 응답이 최저 표준보다 낮음	회귀 통계·잔차 패턴·가중 여부 재검토	밸리데이션된 범위와 모델 안에서만 정량, 모델 변경은 사전 근거와 함께	재계산 또는 검량선 재작성 후 재분석
기준선·적분	음의 피크, 기준선 드리프트, 적분 시작·끝점 이상, DAD 참조 파장에서 시료 흡수, 아날로그 출력 극성 오류	크로마토그램을 바탕·표준과 겹쳐 비교, 적분 이벤트·처리 방법 이력 확인	적분 파라미터를 표준·시료에 일관 적용, 검출기 예열·이동상 균질화 등 기기 안정화	같은 원자료 재처리(변경 이력·사유 기록) 또는 안정화 후 재주입
시료 매트릭스	시료에서만 음의 피크, 스파이크 회수 저하, 희석 배수에 따라 결과가 달라짐, 바탕시료 겉보기 응답 과대	매트릭스 스파이크, 희석 직선성, 표준첨가 기울기와 검량선 기울기 비교	시료 정제(SPE·LLE), 희석, 내부표준, 표준첨가, 분리 조건 변경, 검출 파장·이동상 조정	전처리 변경 후 재분석 또는 검증된 대체 방법으로 확인

기준선·적분 영역에서 HPLC의 음의 피크는 용출되는 분자가 직전·직후의 이동상보다 빛을 덜 흡수한다는 뜻이다. 대응은 분석물이 이동상보다 더 흡수하는 파장으로 바꾸거나, 이동상 구성을 흡광이 적은 쪽으로 바꾸는 것이다. 굴절률 검출기라면 시료 매트릭스 조성을 이동상에 가깝게 맞춘다. 기준선 드리프트의 흔한 원인으로는 검출기 램프·광학계 온도 미안정, 이동상 불균질, 컬럼 오염, 주변 온습도 변화, 흐름셀 오염이 있다. 검출기 예열 시간은 광학 설계에 따라 다르다. GC에서도 기준선·적분 경로의 구조는 같지만, 검출기별 응답 특성과 점검 항목은 사용하는 기기의 제조사 매뉴얼로 확인한다.

매트릭스 영역에서 MS 검출은 분석물과 매트릭스 성분이 탈용매 과정에서 전하를 두고 경쟁하므로 이온화가 억제되거나 증강될 수 있다. UV 검출에서도 용매 조성이 분석물의 흡광계수를 바꿀 수 있다. 표준첨가법은 시료 자체에 기지량을 더해 기울기를 구하므로, 조건이 충족되면 매트릭스 영향 보정에 활용할 수 있다. 내부표준법은 응답비를 써서 두 성분에 함께 작용하는 매트릭스 변동을 보정한다. 시료에 따라 전처리나 시험법을 바꾸는 경우에는 바꾼 사유와 동등성 근거를 남겨야 한다.

재측정 신청 전 체크리스트

– [ ] 같은 배치의 방법바탕시료·검량 확인 표준·관리시료 결과가 허용 범위 안인가(배치 전체 문제인지 시료 단독 문제인지 구분)
– [ ] 음수 크기를 바탕시료 결과의 흩어짐과 비교했고, 내부 절차에 미리 정한 경계와 대조했는가
– [ ] 시료 응답이 최저 검량 표준보다 낮아 외삽 영역에 있는가
– [ ] 절편 처리(원점 강제 여부)와 가중 방식이 밸리데이션된 조건과 같은가
– [ ] 크로마토그램에서 음의 피크, 기준선 드리프트, 적분 시작·끝점 이상이 보이는가
– [ ] 시료의 적분 파라미터가 표준·바탕에 쓴 것과 같은가(시료만 수동 적분하지 않았는가)
– [ ] DAD 참조 파장 설정, 출력 극성, 검출기 예열 상태를 확인했는가
– [ ] 바탕시료의 겉보기 응답이 커서 차감이 과대하지 않은가
– [ ] 매트릭스 스파이크 회수, 희석 직선성, 표준첨가로 매트릭스 영향을 확인했는가
– [ ] 확인한 원인과 그에 따른 조치(재처리·재분석·전처리 변경·대체 방법)를 판단 근거와 함께 기록했는가

원인 칸을 하나도 채우지 못했다면 재측정은 '원인 미상 상태의 반복'이 된다. 이때는 재측정 회차와 판정 규칙을 미리 정해 둔 조사 절차로 넘기는 것이 맞다.

원자료와 보고값을 분리하는 원칙

음수 처리에서 가장 흔한 실수는 원자료와 보고값을 섞는 것이다.

– 원자료: 계산된 음수를 그대로 남긴다. 0으로 덮어쓰면 바탕 수준의 분포가 사라진다. 그러면 이후 검출한계 재산정, 관리도, 원인 조사에 쓸 정보도 잃는다. 미국 의약품 cGMP의 21 CFR 211.194(a)(4)는 기기의 그래프·차트·스펙트럼을 포함해 각 시험에서 얻은 모든 데이터의 완전한 기록을 요구한다. 211.194(a)(8)은 원기록이 정확성·완전성·확립된 기준 준수 여부에 대해 검토되었음을 보여 주는 두 번째 사람의 이니셜 또는 서명을 요구한다. 재적분이나 재계산을 했다면 처음 값과 바꾼 값, 바꾼 사유를 함께 남긴다.
– 보고값: 숫자 음수를 그대로 낼지 여부와 표시 방식은 적용하는 공정시험기준·시험법의 결과 표시 규정에 따라 정한다. 확인 없이 0으로 바꾸지는 않는다. 원인 진단 결과 바탕 변동 범위 안의 값으로 판단되면, 적용하는 공정시험기준·시험법의 결과 표시 규정(정량한계 미만 표기 등)에 따라 보고한다. 지정 가능한 원인이 확인된 값은 무효 사유를 기록하고, 조치 후의 유효한 결과로 보고한다.
– 설명되지 않는 경우: 21 CFR 211.192는 설명되지 않는 불일치를 철저히 조사하고, 같은 제품의 다른 배치와 관련 제품까지 조사 범위를 넓히며, 결론과 후속 조치를 포함한 서면 기록을 남기도록 정한다. 이 조항은 미국 완제의약품 제조 기록 검토에 대한 규정이다. 다른 분야에서도 '원인을 찾지 못한 이상 결과는 조사 기록으로 남긴다'는 구조를 내부 절차에 옮겨 쓸 수 있다.

환경 분야 시험기관이라면 결과 표시와 바탕시료 운용은 최신 고시본을 기준으로 확인한다. 수질오염공정시험기준은 2025년 12월 26일 국립환경과학원고시 제2025-53호로 개정되었다. 이 개정으로 시약바탕시료 측정방법, 정량한계 단위, 검정곡선 범위 등이 개선되었고, 방법검출한계·정량한계 산정 방법에 바탕시료 관련 내용이 명확해졌다.

내부 절차에 반영할 항목

음수 결과가 나올 때마다 담당자가 판단을 새로 하지 않도록 다음 항목을 절차서에 미리 정해 둔다.

1. 음수 판정 경계: 바탕시료 결과의 흩어짐 대비 몇 배를 '바탕 변동 범위 밖'으로 볼지와 그 근거 자료(밸리데이션, 바탕시료 이력)
2. 재처리 허용 범위: 재적분·재계산을 할 수 있는 조건, 적분 파라미터 변경 시 표준·바탕·시료에 일관 적용하는 규칙, 변경 이력 기록 방식
3. 원인별 조치 경로: 검량선·기준선·매트릭스 각각에 대해 재처리, 재주입, 재전처리, 대체 방법 중 어느 것을 쓸지
4. 대체 방법 목록: 매트릭스 간섭이 의심될 때 쓸 수 있는 검증된 방법(표준첨가, 내부표준, 다른 검출기·전처리)과 각 방법의 적용 근거
5. 조사 전환 조건: 원인을 특정하지 못했을 때 정식 조사로 넘기는 기준과 재측정 회차 제한

이 항목들이 정해져 있으면, 같은 음수가 다시 나와도 재측정 여부를 결과가 아니라 사전에 정한 근거로 결정할 수 있다.