저농도 피크 정량 신뢰도는 S/N비 하나만으로 결정되지 않으며, RSD와 피크 형태를 함께 봐야 보고 가능 여부를 판정할 수 있다. 이 글은 LOQ 대비 위치 확인부터 적분 재현성 점검까지 5단계 판정 절차를 제시한다. 각 단계의 수용 기준과 실패 시 대응을 실무 관점에서 정리한다.
목차
1단계 — S/N비로 저농도 피크 정량 신뢰도의 하한을 먼저 본다
저농도 피크 정량 신뢰도 판정은 신호대잡음비(S/N)를 확인하는 데서 시작한다. ICH Q2 계열 기준에서 검출한계(LOD)는 S/N 3:1~2:1, 정량한계(LOQ)는 S/N 10:1을 제시한다.
즉 피크의 S/N이 10 미만이면 검출은 되어도 정량값으로 보고하기 어렵다. 많은 실험실이 매트릭스가 복잡하거나 잡음이 큰 조건에서는 S/N 10~20을 내부 수용 기준으로 상향해 운용한다.
이 단계에서는 크로마토그램의 잡음 구간을 피크 인근에서 측정하고, 그 잡음 대비 피크 높이 비율을 산출한다. S/N이 하한을 넘지 못하면 이후 단계로 넘어가지 않고 농축·주입량 조정·감도 개선을 먼저 검토한다.
2단계 — LOQ 대비 피크 위치를 확인한다
S/N을 통과했다면 해당 피크가 검량선의 정량한계(LOQ) 이상에 위치하는지 확인한다. LOQ는 통상 10σ/기울기로 산출하며, 선형성이 입증된 구간의 하단에 해당한다.
피크 응답이 LOQ 미만이면 수치가 나오더라도 정량 구간을 벗어난 외삽값이므로 신뢰할 수 없다. 이 경우 보고값은 ‘LOQ 미만’ 또는 ‘검출됨, 정량 불가’로 처리하는 것이 원칙이다.
LOQ 자체가 정확도·정밀도로 입증된 값인지도 함께 확인한다. LOQ 근처에서는 정확도와 정밀도가 급격히 나빠지므로, 검량선 하단 포인트의 실측 정확도를 근거로 삼아야 한다.
3단계 — RSD로 반복 정밀도를 검증한다
저농도 피크 정량 신뢰도는 단일 주입값이 아니라 반복 측정의 흩어짐으로 최종 판정한다. LOQ 수준의 시료를 반복 주입해 상대표준편차(RSD, %)를 산출한다.
일반적으로 LOQ에서 RSD 20% 이하를 수용 기준으로 삼으며, 규격에 따라 15% 이하를 요구하기도 한다. 저농도일수록 잡음 기여가 커져 RSD가 급증하므로, 이 값이 기준을 넘으면 보고 가능한 정량값으로 인정하기 어렵다.
RSD가 기준을 초과하면 주입 재현성, 적분 파라미터, 시료 안정성을 순서대로 점검한다. 반복성이 확보되지 않은 저농도 값은 평균값이 그럴듯해도 신뢰 구간이 넓어 실무 보고에 부적합하다.
4단계 — 피크 형태로 적분 신뢰도를 점검한다
S/N과 RSD가 수치상 통과해도 피크 형태가 나쁘면 정량값이 왜곡된다. 저농도에서는 테일링(As>1)이나 프론팅(As<1)이 정량 결과에 더 크게 영향을 준다.
비대칭이 심하면 피크 꼬리 부분이 완전히 적분되지 않아 면적이 줄고, 이는 저농도 구간에서 정확도와 정밀도를 함께 떨어뜨린다. 대칭도(As) 또는 테일링 인자(USP T, 5% 높이 기준)를 확인하고, 적분 시작·끝점이 잡음에 흔들리지 않는지 본다.
피크 형태가 불량하면 면적 대신 높이 정량을 검토하거나, 컬럼·이동상·pH 조건을 조정해 형태를 개선한 뒤 재측정한다. 형태가 회차마다 달라지면 적분 재현성이 무너져 저농도 피크 정량 신뢰도를 확보할 수 없다.
관련해서 LOD LOQ 산출법 3가지 비교 — S/N비·표준편차·반복측정 글도 참고할 만하다.
5단계 — 종합 판정과 체크포인트
마지막으로 네 지표를 종합해 보고 가능 여부를 결정한다. S/N 10 이상, LOQ 이상 위치, RSD 기준 이하, 안정적 피크 형태를 모두 만족할 때만 정량값으로 보고한다.
하나라도 미달하면 ‘검출·정량 불가’ 또는 ‘LOQ 미만’으로 구분해 기록하고, 원인 지표를 명시한다. 이렇게 근거를 남겨야 재측정 판단과 감사 대응이 명확해진다.
체크포인트는 다음과 같다. 첫째 잡음 구간을 피크 인근에서 일관되게 측정했는가, 둘째 LOQ가 실측 정확도로 입증되었는가, 셋째 RSD 산출용 반복 횟수가 충분한가, 넷째 적분점이 회차 간 재현되는가이다. 이 4가지를 매번 확인하면 저농도 피크 정량 신뢰도 판정이 흔들리지 않는다.