공식으로 얻은 LOD·LOQ는 후보값일 뿐이다. 블랭크로 간섭과 잡음 폭을 먼저 정하고, S/N(2H/h) 방식이나 표준편차·기울기(3.3σ/S, 10σ/S) 방식으로 후보값을 계산한다. 그다음 그 농도를 실제로 반복 주입해 검출 여부와 사전에 정한 정밀도를 확인하고, 만족하지 못하면 농도를 올려 다시 확인한다. 가상(교육용) 데이터로 계산과 역산 확인의 흐름을 처음부터 끝까지 따라가고, 방법서에 남길 근거 항목을 정리한다.
목차
답부터: 공식으로 얻는 값은 후보이고, 확정은 실측 주입으로 한다
LOD·LOQ의 첫 수치는 두 가지 공식 중 하나로 계산한다. 신호 대 잡음비(S/N)를 쓰면 LOD는 S/N이 약 3:1, LOQ는 약 10:1이 되는 농도다. 표준편차·기울기 방식을 쓰면 LOD = 3.3σ/S, LOQ = 10σ/S이다(σ는 반응의 표준편차, S는 검량선 기울기). ICH Q2(R2)는 두 방식을 모두 인정한다. 어느 쪽을 쓸지는 방법서가 따르는 근거 문서와 분석법의 특성(기저선 잡음이 뚜렷한지, 블랭크에 반응이 있는지)으로 정한다.
공식에서 나온 숫자는 아직 '후보값'이다. 그 농도의 시료를 실제로 만들어 반복 주입한 뒤 LOD는 정말 검출되는지, LOQ는 사전에 정한 정밀도·정확도를 만족하는지 확인해야 방법서에 적을 수 있다. 만족하지 못하면 농도를 올려 다시 확인한다. 이 글은 이 반복 과정을 5단계로 나누고, 가상(교육용) 데이터로 처음부터 끝까지 계산한다. 공식끼리의 비교보다는 계산 전에 무엇을 측정해 두는지, 계산 후 어떻게 역산 확인하는지에 초점을 둔다.
계산 전에 확보할 데이터 네 가지
검증 데이터가 이미 있다면 아래 항목 대부분은 그 안에 들어 있다. 계산을 시작하기 전에 빠진 것이 없는지 확인한다.
1. 블랭크 크로마토그램 여러 개: 용매 블랭크와 시약(또는 매트릭스) 블랭크를 구분해 연속으로 주입한 결과다. 잡음 h를 재고, 분석물 머무름 시간에 간섭 피크가 있는지 확인하는 데 쓴다.
2. 예상 한계 부근 저농도 표준의 반복 주입: 피크 높이 H를 얻는다. 한계보다 훨씬 진한 표준으로 외삽하면 오차가 커지므로 예상 LOQ의 몇 배 이내 농도를 쓴다.
3. 한계 부근을 포함하는 저농도 검량선: 기울기 S와 잔차표준편차를 얻는다. 선형성 시험 범위가 주로 높은 농도에 있다면 그 검량선은 σ/S 계산에 맞지 않으므로 저농도 검량선을 따로 만든다.
4. 기기·처리 조건 기록: 검출기 파장·대역폭, 데이터 수집 속도, 필터(시간상수), 컬럼, 크로마토그래피 데이터 시스템(CDS) 버전과 적분 파라미터를 남긴다. 이 조건이 바뀌면 잡음이 달라져 LOD·LOQ도 달라진다. 수치를 재현하려면 이 기록이 반드시 있어야 한다.
1단계: 블랭크로 간섭과 잡음 측정 구간을 먼저 확정한다
S/N 방식은 분석물 머무름 시간 근처에 기저선 잡음만 있다는 것을 전제로 한다. 블랭크에서 그 자리에 피크가 보이면 이 전제가 깨진다. 이때는 오염 원인(시약, 바이알, 이월 오염)을 먼저 없애거나, 블랭크 반응의 표준편차를 σ로 쓰는 방식으로 바꾼다.
잡음은 약전 정의에 맞춰 잰다. USP <621>의 S/N은 2H/h이다. H는 피크 꼭대기에서 외삽 기저선까지의 높이이고, h는 피크 주변 기저선 잡음의 최댓값과 최솟값의 차이다. 잡음 측정 구간은 약전마다 다르다. USP(2023년 4월 1일 시행)와 EP(2024년 1월 1일 시행)는 피크 반높이 폭의 5배 이상으로 바꿨고, JP는 20배를 유지한다. 구간을 넓게 잡을수록 h가 커져 S/N이 낮게 나오기 쉽다. 그래서 방법서에는 어느 약전의 정의를 따르는지를 고정해 둔다.
실무 순서는 다음과 같다. ① 블랭크 크로마토그램에서 분석물 머무름 시간을 중심으로 정한 폭만큼 구간을 잡고, 가능하면 피크 자리의 양쪽에 고르게 걸치게 한다. ② 같은 구간에서 블랭크 여러 개의 h를 재서 평균을 낸다. ③ CDS가 잡음을 최대–최소 폭(peak-to-peak)으로 계산하는지, RMS 같은 다른 정의를 쓰는지 설정 화면에서 확인한다. 정의가 다르면 같은 크로마토그램에서도 S/N이 달라진다. GC에서는 온도 프로그램 중 기저선이 흘러가는(드리프트) 구간이 있으므로, 드리프트가 아닌 단기 변동만 잡음으로 보도록 분석물 머무름 시간대에서 잰다.
2단계: S/N 방식으로 후보값을 계산한다 (가상 예제)
아래 수치는 모두 가상(교육용) 데이터다. HPLC-UV에서 블랭크를 3회 주입해 정한 구간의 잡음 h를 재니 0.038, 0.043, 0.041 mAU였다(평균 0.0407 mAU). 0.050 µg/mL 표준을 3회 주입한 피크 높이 H는 0.355, 0.362, 0.358 mAU였다(평균 0.3583 mAU).
– S/N = 2H/h = 2 × 0.3583 / 0.0407 ≈ 17.6
– 반응이 농도에 비례한다고 보고 S/N이 3이 되는 농도를 구하면: LOD 후보 = 0.050 × 3 / 17.6 ≈ 0.0085 µg/mL
– S/N이 10이 되는 농도를 구하면: LOQ 후보 = 0.050 × 10 / 17.6 ≈ 0.028 µg/mL
이 비례 계산에는 두 가지 가정이 들어 있다. 반응이 원점을 지나는 직선이라는 것과, 더 낮은 농도에서도 잡음이 그대로라는 것이다. 실제로는 저농도에서 적분 오차와 피크 모양 변화가 더해지므로 이 값은 낙관적으로 나올 수 있다. 그래서 4단계의 실측 확인이 필요하다.
3단계: 표준편차·기울기 방식으로 후보값을 계산한다 (가상 예제)
같은 가상(교육용) 분석법에서 0.05~0.80 µg/mL 저농도 검량선 5점을 1회씩 주입했다. 피크 면적은 2.61, 5.02, 10.11, 19.86, 40.12 mAU·s였다. 최소제곱 회귀 결과는 다음과 같다.
– 기울기 S = 50.00 mAU·s/(µg/mL), 절편 = 0.043 mAU·s
– 잔차표준편차 σ = √(Σ잔차² / (n−2)) = √(0.04892 / 3) ≈ 0.1277 mAU·s (자유도 3)
– LOD 후보 = 3.3 × 0.1277 / 50.00 ≈ 0.0084 µg/mL
– LOQ 후보 = 10 × 0.1277 / 50.00 ≈ 0.0255 µg/mL
이 예제에서는 2단계의 S/N 후보(0.0085, 0.028 µg/mL)와 결과가 비슷하게 나왔다. 늘 이렇게 맞지는 않는다. σ로 무엇을 쓰느냐(블랭크 반응의 표준편차, 회귀 잔차표준편차, 여러 검량선 절편의 표준편차)에 따라 값이 달라진다. 검량선 점이 적으면 자유도가 작아 σ 자체도 불안정하다. 두 방식의 차이가 크다면 어느 쪽이 맞는지 따지기 전에 두 후보 농도를 모두 4단계에서 확인하는 편이 빠르다.
4단계: 후보 농도를 실제로 주입해 역산 확인한다
이 단계에서 계산값이 방법서에 적을 값으로 바뀐다. 판정 규칙은 데이터를 보기 전에 정해 둔다. 예를 들어 S/N을 평균으로 판단할지, 모든 주입이 기준을 넘어야 하는지를 미리 정하지 않으면 같은 데이터로도 결론이 갈린다.
LOD 확인 (가상 예제): 두 후보(0.0085, 0.0084 µg/mL)를 조제하기 쉽게 올린 0.010 µg/mL를 6회 주입했다. 모든 주입에서 머무름 시간에 피크가 식별됐고, S/N은 3.4, 2.8, 3.1, 3.6, 2.7, 3.2(평균 3.13)였다.
LOQ 1차 확인 (가상 예제): σ/S 후보에 가까운 0.025 µg/mL를 6회 주입해 정량한 결과는 0.022, 0.028, 0.024, 0.030, 0.021, 0.027 µg/mL였다. 평균 0.0253 µg/mL, 표준편차 0.0036 µg/mL, RSD 14.0%, 평균 회수율 101.3%다. 이 가상 방법서는 LOQ 수준 반복 주입의 RSD 상한을 해설 자료에서 흔히 예로 드는 10%로 미리 정했다고 가정한다. 계산값이 낙관적이었던 셈이다.
LOQ 2차 확인 (가상 예제): 농도를 0.050 µg/mL로 올려 6회 주입한 결과는 0.048, 0.053, 0.049, 0.052, 0.047, 0.051 µg/mL였다. 평균 0.0500 µg/mL, 표준편차 0.0024 µg/mL, RSD 4.7%, 평균 회수율 100.0%다. 따라서 이 예제의 LOQ는 계산값 0.0255~0.028 µg/mL가 아니라 실측으로 확인된 0.050 µg/mL다. 범위를 더 좁히고 싶다면 0.025와 0.050 사이의 농도(예: 0.035 µg/mL)를 한 번 더 확인한다. 그 과정을 거치지 않았다면 확인된 최저 농도를 그대로 쓴다.
계산값이 실측보다 낮게 나오는 데는 이유가 있다. 공식에 들어간 σ는 기저선 잡음이나 검량선 잔차만 반영한다. 실제 저농도 주입에는 주입 재현성, 적분 시작점·끝점의 흔들림, 매트릭스 영향이 더해진다. 같은 이유로 LOQ를 LOD의 일정 배수로 기계적으로 정하지 않고 각각 따로 확인한다.
5단계: 방법서에 근거와 함께 적는다
방법서에는 숫자 하나만 적지 말고 그 숫자를 다시 만들 수 있는 정보를 함께 남긴다.
– σ의 출처 또는 잡음 정의: 블랭크 표준편차인지 회귀 잔차표준편차인지, 잡음 구간이 반높이 폭의 몇 배인지(어느 약전 정의인지), CDS의 잡음 계산 설정은 무엇인지 적는다.
– 원자료 위치: 블랭크와 확인 주입의 크로마토그램 파일, 적분 이벤트, 계산 시트를 연결해 둔다.
– 재확인 조건: 검출기 램프·컬럼 교체, 데이터 수집 속도나 필터 변경처럼 잡음을 바꾸는 변경이 있으면 4단계를 다시 수행한다고 적는다.
FDA 규제 대상 비임상시험(21 CFR Part 58, GLP)에 해당하는 실험실이라면, 데이터 생성에 쓰는 장비는 적절히 시험·교정·표준화해야 한다(§58.63(a)). 데이터를 바꿀 때는 원래 기록을 가리지 않고 사유와 날짜, 담당자를 남겨야 한다(§58.130(e)). 이 조항들이 LOD·LOQ 계산식을 정하지는 않는다. 다만 잡음 측정 구간을 다시 잡거나 적분을 다시 했을 때 그 이력을 남기라는 요구로 연결된다. 국내 환경 공정시험기준을 따르는 시험이라면 계산식을 ICH식으로 바꿔 쓰지 말고 해당 고시 총칙(정도관리)의 정의를 그대로 따른다. 수질오염공정시험기준은 국립환경과학원고시 제2025-53호(2025년 12월 26일 시행)에서 바탕시료 관련 내용을 보강하고 연속된 결과를 쓰도록 명시해 방법검출한계·정량한계 계산 방법을 명확히 했으므로, 현행 고시 원문을 확인해 적용한다.
이어서 볼 글: HPLC 감도 부족 진단·개선 5단계 — LOD/LOQ와 검출기 최적화
근거 자료
- IntuitionLabs — ICH Q2(R2) Guide (ICH Q2(R2) 내용 해설) (ICH Q2(R2), 2023년 11월 채택, 2024년 6월 14일 발효(해설 페이지 기재 기준)) — Detection/Quantitation limit(LOD/LOQ) 설명 부분
- ChemBioCalc — Method validation (ICH Q2) (ICH Q2(R1)·Q2(R2) 공통(페이지 기재)) — LOD = 3.3·σ/S, LOQ = 10·σ/S 및 σ 선택지 설명
- AO Pharma — ICH Q2(R2): validation of analytical procedures (Q2(R2) Step 4(2023-11-01)) — 개요·이력 부분
- MTC Knowledge Base — Signal to Noise Ratio S/N in HPLC Chromatography (USP <621> 정의 인용(페이지 기재)) — USP Formula 부분
- Shimadzu — Compliance with the General chapter of the Pharmacopoeia (USP <621> 2023-04-01 시행, EP 2.2.46 2024-01-01 시행, JP 18 추보 기준) — Calculation method of Signal-to-Noise ratio 항목
- 21 CFR § 58.63 (Cornell LII) (21 CFR Part 58 현행 조문(LII 게재본)) — §58.63(a)
- 21 CFR § 58.130 (Cornell LII) (21 CFR Part 58 현행 조문(LII 게재본)) — §58.130(e)
- 인천광역시 에코피아 자료실 — 수질오염공정시험기준 개정 (국립환경과학원고시 제2025-53호, 2025-12-26 시행) — 주요 개정 내용(개정 143종) 항목
