시료 희석 배수 결정은 피크 높이·검량선 선형성·검출 감도라는 세 가지가 충돌하는 지점을 맞추는 작업이다. 희석이 부족하면 검출기가 포화되어 선형성이 깨지고, 과하면 정량 하한 근처로 밀려 RSD가 커진다. 이 글은 목표 흡광도 구간과 검량선 중앙 배치를 기준으로 배수를 정하는 4단계 절차를 다룬다.
목차
왜 시료 희석 배수 결정이 트레이드오프인가
시료 희석 배수 결정이 어려운 이유는 하나의 최적값이 존재하지 않고 세 지표가 서로 반대 방향으로 움직이기 때문이다. 희석을 적게 하면 피크가 커져 감도는 좋지만 검출기 응답이 선형 구간을 벗어날 위험이 커진다.
반대로 희석을 크게 하면 신호가 노이즈에 가까워지고 정량 하한(LOQ) 부근에서 재현성이 나빠진다. 즉 배수 하나로 피크 높이·선형성·감도를 동시에 최적화할 수 없고, 어느 지표를 우선할지 정한 뒤 나머지를 허용 범위 안에 묶는 방식이 된다.
UV 검출 기준으로 보면 대개 흡광도 약 2 AU 부근에서 선형성이 무너지기 시작하며, 관례적으로 0.5~1.5 AU를 안전한 정량 구간으로 본다. 이 구간의 중앙에 시료 응답을 놓는 것이 배수 결정의 출발점이다.
1단계 — 검출기 선형 상한과 피크 높이 확인
첫 단계는 사용하는 검출기의 선형 상한을 파악하고, 무희석 또는 소량 희석 시료의 피크가 그 상한에 얼마나 근접하는지 확인하는 것이다. UV/DAD의 경우 흡광도 1.5 AU 이하를 권장 구간으로, 0.5 AU 안팎을 가장 안전한 영역으로 본다.
피크 높이가 검출기 포화 영역에 걸리면 상단이 평평해지거나 응답이 농도에 비례하지 않아 정량값이 실제보다 낮게 나온다. 이때는 면적이 정상처럼 보여도 선형성이 이미 깨진 상태일 수 있으므로 높이 기준으로 먼저 판단한다.
배경 흡광도가 큰 이동상이나 파장을 쓰면 유효 동적 범위가 줄어드는 점도 함께 본다. 배경이 높을수록 실제 사용 가능한 흡광도 여유가 작아져 더 큰 희석이 필요해진다.
2단계 — 검량선 선형 구간 안에 배치하기
시료 희석 배수 결정의 핵심 기준은 희석 후 시료 농도가 검량선 선형 구간의 어디에 오느냐다. 응답인자가 일정하게 유지되는 구간을 확인하고, 시료 예상 농도가 그 중앙 부근에 오도록 배수를 잡는다.
예상 농도가 검량선 상단에 붙으면 배치 내 농도 변동이나 회수율 편차가 선형 이탈로 이어지기 쉽다. 중앙 배치는 위아래 여유를 확보해 이런 변동을 흡수한다.
표준용액을 목표 농도의 여러 비율(예: 100%, 67%, 50%, 33% 등)로 희석해 선형성을 먼저 검증한 뒤, 시료 배수를 그 검증된 범위 안으로 맞추는 순서가 안전하다. 검량선 범위를 벗어난 시료는 배수를 조정해 재주입하는 것이 외삽보다 신뢰도가 높다.
3단계 — 감도·정량 하한과의 균형 잡기
희석을 키우면 선형 상한 문제는 사라지지만 이번에는 감도가 발목을 잡는다. 신호가 작아질수록 S/N비가 낮아지고 LOQ 근처에서는 적분 경계 설정에 따라 정량값이 흔들린다.
따라서 시료 희석 배수 결정은 상한(포화·비선형)과 하한(노이즈·LOQ) 사이에서 여유가 가장 큰 지점을 찾는 작업이다. 주 성분과 미량 불순물을 한 번에 봐야 하는 경우, 하나의 배수로 둘 다 만족시키기 어려우면 농도별로 희석을 달리한 두 계열을 주입하는 편이 낫다.
실무에서는 목표 흡광도를 0.5~1.0 AU 부근에 두면 상·하한 양쪽으로 여유가 생겨 회수율·매트릭스 변동에도 안정적이다. 감도가 부족하면 주입량 조정이나 검출 파장 최적화를 먼저 검토하고, 그래도 부족할 때 배수를 낮춘다.
관련해서 HPLC 인젝션 부피 최적화 5단계 — 컬럼 오버로딩 진단 글도 참고할 만하다.
4단계 — 배수 검증과 체크포인트 정리
마지막 단계는 정한 배수가 실제로 세 지표를 모두 만족하는지 검증하고 기록하는 것이다. 희석 후 시료를 주입해 피크 높이가 선형 상한 아래에 있는지, 응답이 검량선 범위 중앙에 있는지, S/N비가 정량에 충분한지를 함께 확인한다.
희석 조작 자체가 오차원이 되므로, 배수가 클수록 피펫·부피 오차와 매트릭스 희석 효과를 점검한다. 배수를 바꿔도 결과가 비례하지 않으면 선형 이탈이나 매트릭스 효과를 의심한다.
정리하면 시료 희석 배수 결정의 체크포인트는 네 가지다. 검출기 선형 상한 대비 피크 높이 여유, 검량선 중앙 배치, LOQ 대비 감도 여유, 희석 오차의 관리다. 이 네 가지가 모두 초록불일 때 그 배수를 메서드에 고정하고, 하나라도 걸리면 배수를 재조정한다.