HPLC 검량선에서 저농도 점만 낮을 때: 응답계수로 흡착·적분·희석 오차를 가려내는 순서와 조치

저농도 표준점만 일관되게 낮다면 오차는 비례 오차가 아니다. 농도와 상관없이 일정량이 빠지거나, 희석 사슬의 특정 단계부터 오차가 들어간 경우다. 회귀 잔차는 일정 손실을 음의 절편으로 흡수해 버리므로 판정 지표로 쓰지 않는다. 대신 응답계수(면적/농도)를 구하고, 결손을 농도 단위의 절대량과 백분율의 상대량으로 나눠 본다. 절대 결손이 일정하면 흡착이나 용기·필터 손실을 의심한다. 특정 희석 단계 아래의 점들이 같은 비율로 낮으면 희석 사슬 오차다. 원자료를 재처리했을 때 결손이 사라지면 적분 문제다. 반복 주입 산포가 결손보다 크면 계통 편향으로 판정할 수 없으므로 정량한계 문제로 넘긴다. 원인은 같은 저농도 용액을 바이알 재질, 희석 용매 조성, 조제 경로만 바꿔 다시 측정해 확정한다. 원인을 없앨 수 없으면 시료도 같은 손실을 겪는다는 것을 입증하거나, 보고범위 조건 안에서 검량 하한을 조정한다. 가중 회귀는 분산 불균일을 다루는 방법일 뿐 계통 손실을 없애지 못한다.

저농도에서만 낮으면 일정량이 빠지고 있다는 뜻이다
계산 예제: 결손을 절대량과 상대량으로 나눠 보기
결손 패턴으로 의심 원인 좁히기
분리 실험 순서: 주입 없이 할 수 있는 것부터
판정 예: 차이를 반복 주입 산포와 비교한다
원인을 없애지 못할 때 고를 수 있는 조치와 그 조건

저농도에서만 낮으면 일정량이 빠지고 있다는 뜻이다

표준원액 농도가 틀렸거나 순도 보정이 빠진 비례 오차는 모든 표준점의 응답을 같은 비율로 바꾼다. 그래서 기울기만 달라지고 저농도 점만 따로 낮아지지는 않는다. 저농도 점만 계통적으로 낮게 나온다면 원인은 둘 중 하나다.

– 농도와 무관하게 일정한 양이 빠진다(절대 손실). 바이알 벽면, 필터, 유로 표면 흡착이 대표적이다. 측정 신호에서 일정량의 면적이 잘려 나가는 적분 절단도 여기에 든다.
– 희석 사슬의 어느 한 단계에서 오차가 생겨 그 아래 표준이 모두 같은 비율로 낮아진다(단계 전파 오차).

검출기 한계는 보통 계통 편향보다 산포로 드러난다. 그래서 먼저 걸러 낼 후보로 둔다.

판정에는 회귀 잔차가 아니라 응답계수(피크 면적 ÷ 공칭 농도)를 쓴다. 일정량 손실은 직선의 절편을 음수로 끌어내리는 것으로 거의 다 흡수된다. 그러면 잔차도 결정계수도 정상처럼 보인다. 이 상태에서 같은 손실을 겪지 않는 시료(다른 용기에 담았거나, 매트릭스가 흡착 자리를 먼저 차지하는 시료)를 정량하면 음의 절편만큼 높게 나온다. 검량선 식으로 농도를 역산하는 기본 계산은 검량선 원리와 미지 농도 계산을 참고한다. 절편이 갑자기 변한 경우의 블랭크·원자료 확인 순서는 검량선 절편 변화에서 다룬다.

계산 예제: 결손을 절대량과 상대량으로 나눠 보기

아래 두 세트는 가상(교육용) 데이터다. 둘 다 0.5, 1, 2, 5, 10, 20 µg/mL를 연속 희석해 만든 검량선이고, 손실이 없을 때의 감도는 10 mAU·s/(µg/mL)로 놓았다.

세트 A(일정량 손실형)의 면적은 4.2, 9.2, 19.2, 49.2, 99.2, 199.2 mAU·s다. 무가중 최소제곱으로 맞추면 기울기 10.000, 절편 −0.800이 나오고 여섯 점이 모두 직선 위에 놓인다. 잔차가 0이므로 회귀 지표만 봐서는 문제를 찾을 수 없다. 응답계수를 계산하면 차이가 드러난다. 응답계수는 8.40, 9.20, 9.60, 9.84, 9.92, 9.96으로 저농도로 갈수록 떨어진다. 절대 결손 D = x − y/b를 구하면 모든 점에서 0.080 µg/mL로 같다. 이는 −절편/기울기 = 0.800/10.000 = 0.080 µg/mL와 일치한다. 상대 결손(D/x)은 최저점 16.0 %에서 최고점 0.4 %로 농도에 반비례한다. 농도와 무관하게 같은 양이 빠지고 있다는 신호다.

세트 B(희석 단계 오차형)는 10 → 5 µg/mL 희석 단계에 −4 % 오차가 있고, 이 오차가 그 아래 표준으로 전파된 경우다. 면적은 4.8, 9.6, 19.2, 48.0, 100.0, 200.0 mAU·s다. 절대 결손은 0.20, 0.08, 0.04, 0.02 µg/mL로 농도에 비례한다. 계단 모양으로 꺾이는 지점이 오차가 들어간 희석 단계를 가리킨다.

세트 B도 무가중 회귀를 하면 절편이 약 −0.787로 음수가 된다. 이때 최저점 역산값은 약 0.557 µg/mL로 오히려 공칭값보다 높게 나온다. 절편의 부호나 최저점 역산 회수율만으로는 두 원인을 구분할 수 없다. 응답계수의 모양, 즉 절대 결손이 일정한지 상대 결손이 일정한지를 봐야 한다.

계산 예제: 결손을 절대량과 상대량으로 나눠 보기 — 검량선 저농도 응답 저하

결손 패턴으로 의심 원인 좁히기

응답계수 계산을 마쳤으면 다음 표로 후보를 좁힌다. 표는 판단 방향만 정리한 것이다. 확정은 다음 절의 분리 실험으로 한다.

관찰 항목	흡착·용기/필터 손실	적분 절단	희석 사슬 오차	검출기 한계(노이즈)
결손의 모양	절대 결손이 거의 일정하고, 상대 결손은 저농도로 갈수록 커짐	작은 피크일수록 면적 손실 비율이 커짐	특정 희석 단계 아래 점들의 상대 결손이 같음	평균 편향보다 반복 주입 산포가 큼
같은 원자료 재처리	변화 없음	적분 이벤트를 바꾸면 결손이 줄거나 사라짐	변화 없음	결과가 흔들리지만 일관된 방향은 없음
같은 용액을 다른 바이알 재질로 옮겨 주입	결손이 달라짐. 체류 시간에 따라 줄어드는 추세가 보일 수 있음	변화 없음	변화 없음	변화 없음
희석 용매 조성 통일	유기용매 비율을 맞추면 결손이 줄 수 있음	변화 없음	변화 없음	변화 없음
원액에서 직접(또는 중량법으로) 다시 조제	같은 용기를 쓰면 결손이 남음	변화 없음	결손이 사라짐	변화 없음

흡착은 저농도에서 더 크게 드러난다. 제조사 기술 자료는 분석물 농도가 낮아질수록 표면 대비 분석물 비율이 커져 흡착 영향이 커진다고 설명한다. 처리하지 않은 유리 표면의 실란올기는 수소결합과 정전기 상호작용을 일으키고, 일반 폴리프로필렌은 실란올 상호작용은 없지만 표면이 더 소수성이다. 그래서 '유리를 플라스틱으로 바꾸면 해결된다'고 일반화할 수 없다. 분석물 성질에 따라 바이알 재질을 직접 비교해야 한다. 문헌 사례에서 티아민 100 nM 표준을 실란화하지 않은 유리 오토샘플러 바이알에 보관했을 때 회수된 양은 19.3 nM이었고, 폴리프로필렌 바이알에서는 88.1 nM이었다. 같은 연구에서 붕규산 유리섬유 필터를 통과한 100 nM 용액의 여액에서는 1 nM만 검출됐다. 연구진은 표준을 정제수로 유리 기구에서 조제하거나 유리 바이알에 보관하면 같은 투입 농도에서 신호가 낮아진다고 지적했다. PFAS 분석 연구도 피크 면적 변동이 검량선 하단에서 특히 문제가 된다고 보고했다.

분리 실험 순서: 주입 없이 할 수 있는 것부터

비용이 적고 시료를 소모하지 않는 단계부터 진행한다. 한 번에 한 조건만 바꾼다.

1. 원자료 재처리(주입 없음): 같은 데이터 파일에서 검출 임계값, 피크 폭, 면적 제외 기준, 베이스라인 처리를 바꿔 저농도 피크 면적이 변하는지 본다. 변한다면 적분 절단이 원인 후보다. 표준과 시료에 같은 처리 방법을 적용해야 한다. 조건 검증 절차는 HPLC 피크 적분 조건 설정을 따른다.
2. 산포와 S/N 확인: 최저 표준을 반복 주입해 표준편차를 구하고 결손과 비교한다. 산포가 결손보다 크면 계통 편향으로 판정할 수 없다. 이 경우는 정량한계 문제로 다루며 이 글의 범위가 아니다.
3. 바이알 재질 비교: 이미 조제한 저농도 용액 하나를 유리 바이알과 폴리프로필렌 또는 저흡착 바이알로 나눠 담고 같은 순서로 주입한다. 같은 바이알에서 시간 간격을 두고 반복 주입해 면적이 줄어드는 추세가 있는지도 본다.
4. 필터 비교: 표준액을 여과한다면 여과 전후 면적을 비교한다. 초기 여액과 후기 여액도 따로 비교한다.
5. 희석 용매 조성 확인: 유기용매 원액을 물로 연속 희석하면 저농도 표준일수록 유기용매 비율이 낮아진다. 각 표준의 최종 용매 조성을 계산해 보고, 모든 농도에서 최종 조성을 같게 맞춘 세트를 따로 만들어 비교한다. 제조사 자료는 아세토니트릴을 첨가하면 분석물과 바이알 표면의 소수성 상호작용이 줄었다고 보고한다.
6. 희석 사슬 우회: 응답계수가 꺾이는 단계를 건너뛰어 원액에서 직접 만든 저농도 표준, 또는 중량법으로 조제한 독립 표준과 비교한다. 결손이 사라지면 희석 사슬 오차다. 조제 단계의 오차 통제는 극저농도 표준용액 제조에서 다룬다.
7. 유로 흡착 확인: 바이알과 용매를 바꿔도 결손이 남으면 시스템 표면을 의심한다. 저농도 표준을 연속 주입했을 때 처음 몇 회만 낮고 이후 안정되는지, 고농도 주입 직후에는 결손이 줄어드는지를 본다.

각 비교의 판정 기준(두 조건의 차이가 반복 주입 산포의 몇 배 이상이면 원인으로 볼지)은 실험 전에 계획서에 적어 둔다.

분리 실험 순서: 주입 없이 할 수 있는 것부터 — 검량선 저농도 응답 저하

판정 예: 차이를 반복 주입 산포와 비교한다

역시 가상(교육용) 데이터다. 세트 A의 0.5 µg/mL 용액을 유리 바이알과 폴리프로필렌 바이알에 나눠 각각 3회 주입했다고 하자.

– 유리 바이알 면적: 4.18, 4.25, 4.17 mAU·s → 평균 4.200, 표본표준편차 0.044, RSD 1.04 % (n = 3)
– 폴리프로필렌 바이알 면적: 4.98, 5.03, 4.99 mAU·s → 평균 5.000, 표본표준편차 0.026, RSD 0.53 % (n = 3)

두 평균의 차는 0.800 mAU·s다. 감도 10 mAU·s/(µg/mL)로 나누면 0.080 µg/mL로, 세트 A의 −절편/기울기와 같다. 차이는 어느 쪽 반복 주입 표준편차보다도 한 자릿수 이상 크다. 따라서 이 예에서는 유리 바이알 흡착이 저농도 결손을 전부 설명한다고 판정한다. 폴리프로필렌 바이알에서도 결손이 일부 남았다면 그 나머지에 대해 4~7단계를 계속 진행한다. 여기서 쓴 판정은 미리 정한 기준과 비교하는 방식을 보여 주는 예다. '몇 배 이상이면 원인'이라는 일반 기준이 아니다.

원인을 없애지 못할 때 고를 수 있는 조치와 그 조건

가장 먼저 할 일은 원인 제거다. 바이알 재질을 바꾸고, 최종 희석 용매 조성을 통일하고, 표준액 여과를 피하거나 여과 방식을 바꾸고, 문제 희석 단계를 다시 설계하고, 적분 조건을 고친다. 제거할 수 없을 때 남는 선택지는 셋이며, 각각 조건이 붙는다.

– 절편 보정에 맡기기: 일정 손실이 음의 절편으로 흡수되면 결과적으로 보정된다. 단, 시료가 표준과 같은 손실을 겪을 때만 성립한다. 같은 용기, 같은 희석 용매, 같은 체류 시간을 쓰고 저농도 첨가 회수율로 이를 입증해야 한다. 입증하지 못하면 시료가 과대 정량될 수 있다.
– 검량 하한 올리기: ICH Q2(R2)는 보고범위가 상·하한 규격 또는 보고한계를 포함하도록 요구한다. 하한을 올린 결과 보고한계가 범위 밖으로 나가면 이 조치는 쓸 수 없다. 직선형 응답을 평가할 때는 범위 전체에 분포한 최소 5개 농도가 필요하고 잔차 평가도 해야 한다. 점을 빼고 나서 이 조건을 다시 확인한다. Q2(R2)는 정량한계를 정확성·정밀성 측정으로 직접 밸리데이션하는 방법도 제시한다.
– 가중 회귀: 가중 최소제곱은 각 수준의 분산에 반비례하는 가중치를 줄 때 가장 정밀한 모수 추정을 준다. 다시 말해 농도에 따라 산포가 달라지는 문제를 다루는 도구다. 가중치는 실제로는 추정값이고, 가중 회귀도 이상점에 민감하다. 세트 A처럼 일정량이 빠지는 경우에는 어떤 가중치를 써도 직선이 같아서 계통 손실이 그대로 남는다. 가중치 선택과 검증 절차는 검량선 가중회귀 선택·검증을 따른다. ICH M10은 생체 매트릭스 중 화학·생물 의약품과 대사체 농도 측정 분석법의 밸리데이션을 대상으로 한다. 원료·제제 QC 시험법에는 그대로 옮기지 말고 근거 자료로만 참고한다.

세 조치 모두 시험법 변경이므로 밸리데이션 영향을 평가하고 문서로 남긴다. 식품의약품안전처 시험방법 밸리데이션 가이드라인은 특이성, 정확성, 정밀성, 검출한계, 정량한계, 직선성, 범위, 완건성 가운데 시험방법의 목적에 맞는 항목을 골라 평가하도록 한다. 하한 변경은 직선성·범위·정량한계, 바이알이나 희석 용매 변경은 정확성과 완건성에 영향을 줄 수 있다. 어떤 항목을 다시 볼지는 이 기준으로 고른다.