LOD LOQ 산출법은 크게 신호대잡음비(S/N), 표준편차·기울기, 반복측정법 3가지로 나뉘며 각각 적용 조건과 오차 특성이 다르다. ICH Q2와 공정시험기준은 LOD=3.3σ/S, LOQ=10σ/S 및 S/N 3:1·10:1을 제시하지만, 실무에서는 어떤 σ를 쓰느냐에서 값이 크게 갈린다. 이 글은 세 방법의 계산 절차와 자주 틀리는 부분을 정리한다.
목차
LOD LOQ 산출법을 나누는 3가지 축
검출한계(LOD)는 신뢰할 수 있게 검출 가능한 최저 농도, 정량한계(LOQ)는 허용 오차 안에서 정량 가능한 최저 농도를 뜻한다. 두 값을 구하는 LOD LOQ 산출법은 크게 신호대잡음비(S/N), 표준편차·기울기, 반복측정(바탕/저농도 반복)의 세 가지로 정리된다.
ICH Q2는 이 방법들을 모두 허용하되, 방법에 따라 결과가 달라질 수 있으므로 산출 근거를 명확히 기록하도록 요구한다. 즉 어떤 방법을 썼는지가 값 자체만큼 중요하다.
세 방법은 서로 배타적이지 않다. S/N으로 대략의 위치를 잡고 표준편차·기울기로 산출한 뒤 반복측정으로 검증하는 식으로 조합하는 것이 실무적으로 가장 안전하다.
방법 1 — 신호대잡음비(S/N)
신호대잡음비법은 크로마토그램에서 분석물 피크 높이(신호)와 바탕 구간 노이즈의 비로 판정한다. 통상 LOD는 S/N 약 3:1, LOQ는 약 10:1을 기준으로 한다.
장점은 직관적이고 저농도 표준 한두 개만 있어도 즉시 확인할 수 있다는 점이다. 크로마토그래피처럼 바탕 노이즈가 뚜렷한 기법에 특히 잘 맞는다.
단점은 노이즈 계산 구간과 소프트웨어 알고리즘(peak-to-peak vs RMS)에 따라 값이 흔들린다는 것이다. 노이즈 구간을 어디로 잡느냐, 피크 높이를 쓰느냐 면적을 쓰느냐를 통일하지 않으면 같은 데이터에서도 LOD가 2배 이상 벌어질 수 있다.
방법 2 — 표준편차·기울기(검량선 기반)
가장 널리 인용되는 LOD LOQ 산출법은 검량선의 표준편차와 기울기를 쓰는 방식이다. 계산식은 LOD=3.3σ/S, LOQ=10σ/S이며, σ는 응답의 표준편차, S는 검량선 기울기다.
핵심은 σ를 무엇으로 잡느냐다. ICH Q2는 바탕의 표준편차, y절편의 표준편차, 회귀선의 잔차 표준편차(residual standard deviation) 등을 허용하는데, 어떤 σ를 쓰는지에 따라 결과가 달라지므로 반드시 명시해야 한다.
저농도 구간만으로 별도 검량선을 그려 σ를 구하는 것이 이상적이다. 광범위 농도로 만든 검량선의 잔차를 그대로 쓰면 상단 고농도점의 산포가 σ를 부풀려 LOD가 실제보다 높게 나오는 경향이 있다.
방법 3 — 반복측정법과 세 방법의 비교
반복측정법은 바탕시료 또는 예상 LOD 부근의 저농도 시료를 여러 번(통상 7~10회) 반복 측정해 표준편차를 구한 뒤 3배·10배를 적용한다. 바탕의 산포를 직접 반영하므로 매트릭스 영향을 가장 현실적으로 담는다.
세 방법을 비교하면, S/N은 빠르지만 재현성이 약하고, 표준편차·기울기는 문서화가 쉽지만 σ 정의에 민감하며, 반복측정법은 신뢰도가 높지만 시간이 많이 든다.
따라서 규격·공정시험기준 대응 문서에는 표준편차·기울기값을 본값으로 제시하고, 반복측정 결과를 검증 근거로 함께 붙이는 조합이 가장 방어력이 높다. 이 조합이 실무에서 통용되는 LOD LOQ 산출법의 표준 구성이다.
관련해서 분석 메서드 밸리데이션 실무 — 직선성·정밀도·정확도·검출한계 검증 흐름 글도 참고할 만하다.
자주 틀리는 부분 — 정리와 체크포인트
첫째, σ의 출처를 섞어 쓰는 실수다. y절편 표준편차로 구한 값과 잔차 표준편차로 구한 값을 한 문서에 혼용하면 근거가 무너진다. 하나를 정하고 일관되게 적용한다.
둘째, 단위와 환산이다. 검량선 기울기 S의 단위(면적/농도)와 σ의 단위가 맞아야 LOD가 농도 단위로 떨어진다. 또한 계산으로 얻은 LOD·LOQ는 반드시 해당 농도의 실제 시료로 재확인(verification)해야 한다.
셋째, LOQ에서의 정밀도·정확도 확인 누락이다. LOQ는 단순히 LOD의 3배가 아니라, 그 농도에서 RSD와 회수율이 허용 기준을 만족하는지 검증되어야 유효하다. 마지막 체크포인트로 산출법 명시, σ 정의, 단위 정합, 저농도 실측 검증 네 가지를 반드시 기록에 남긴다.