검량선 원리는 농도를 아는 표준용액으로 기기 응답과 농도의 관계식을 먼저 세운 뒤, 그 식에 미지 시료의 응답을 넣어 농도를 거꾸로 구하는 것이다. 검출기는 농도를 직접 재지 못하고 피크 면적 같은 신호만 내놓는다. 그 신호가 성분, 기기, 조건에 따라 달라지기 때문에 분석할 때마다 검량선으로 신호를 농도로 바꾸는 기준을 세워야 한다.
목차
검량선이란 무엇이고 왜 필요한가
검량선(calibration curve)은 농도를 아는 표준용액 여러 개를 측정해 얻은 '농도와 기기 응답의 관계'를 그래프와 식으로 나타낸 것이다. 미지 시료의 피크 면적을 이 식에 넣으면 농도가 나온다. 검량선이 필요한 까닭은 크로마토그래피 검출기가 농도를 직접 알려 주지 않기 때문이다.
GC의 FID나 HPLC의 UV 검출기가 내놓는 것은 전류나 흡광도 같은 신호이고, 데이터 처리 프로그램은 이를 피크 면적이나 높이로 바꿔 보여 줄 뿐이다. 같은 1 mg/L라도 성분이 다르면 면적이 다르고, 같은 성분이라도 기기, 컬럼, 주입량, 검출 파장이 바뀌면 면적이 달라진다.
그래서 '면적 1000이면 몇 mg/L인가'라는 질문에는 그날 그 조건에서 표준물질로 세운 기준이 있어야만 답할 수 있다. 검량선은 그 기준을 만드는 절차이고, 정량 결과를 표준물질에 연결하는 고리 역할을 한다.
검량선 원리: 기기 응답을 농도로 바꾸는 식
가장 흔한 형태는 직선 검량선이다. 가로축(x)에 표준용액 농도를, 세로축(y)에 기기 응답(피크 면적 또는 높이)을 놓고 점들을 찍은 뒤, 점들에 가장 잘 맞는 직선 y = ax + b를 구한다. 이렇게 점들에 맞는 식을 찾는 계산을 회귀(regression)라고 하고, 보통 최소제곱법을 쓴다.
여기서 기울기 a는 감도에 해당한다. 농도가 한 단위 늘 때 응답이 얼마나 커지는지를 뜻하며, 기울기가 클수록 같은 농도 차이를 더 큰 신호 차이로 구분할 수 있다. 절편 b는 농도가 0일 때 예상되는 응답이다. 바탕(blank) 신호나 적분 방식의 영향이 여기에 반영된다.
미지 시료를 계산할 때는 식을 거꾸로 풀어 x = (y − b) / a로 농도를 구한다. 이 계산은 표준용액이 덮는 농도 구간 안에서만 믿을 수 있다. 분석 밸리데이션 가이드라인인 ICH Q2(R2)도 응답과 농도의 관계를 '범위(range)' 안에서 평가하는 보정 모델로 다루며, 직선만이 아니라 비선형 모델도 그 대상에 넣는다.
관계가 꼭 직선일 필요는 없다는 점도 기억해 둔다. 검출기 포화나 흡착 때문에 높은 농도나 낮은 농도에서 휘는 경우가 있고, 이때는 구간을 좁히거나 이차식 같은 다른 모델을 근거와 함께 쓴다.
검량선 식의 구성 요소
| 요소 | 의미 | 실무에서 보는 점 |
|---|---|---|
| x(가로축) | 표준용액 농도 | 검량 범위를 정함 |
| y(세로축) | 피크 면적·높이 | 같은 적분 조건 유지 |
| 기울기 a | 감도 | 클수록 농도 차이 구분 쉬움 |
| 절편 b | 농도 0일 때 응답 | 바탕 신호 반영 |
| 역산식 | x = (y − b) / a | 범위 안에서만 사용 |
가상의 예시로 따라 하는 검량선 계산
아래 숫자는 설명을 위한 가상의 예시이며, 계산을 단순하게 하려고 점들이 직선에 정확히 놓이도록 잡았다. 실제 데이터에는 늘 흩어짐이 있다. 표준용액 1, 2, 5, 10, 20 mg/L를 HPLC에 주입해 피크 면적이 각각 1,050, 2,050, 5,050, 10,050, 20,050으로 나왔다고 하자.
회귀하면 기울기 a = 1,000(면적/(mg/L)), 절편 b = 50, 즉 y = 1,000x + 50이 된다. 점검해 보면 10 mg/L에서 1,000×10 + 50 = 10,050으로 측정값과 맞는다. 이제 전처리 때 10배 희석한 시료 용액의 피크 면적이 6,050이라면, 시료 용액 농도는 (6,050 − 50) / 1,000 = 6.00 mg/L다.
여기에 희석배수 10을 곱하면 원래 시료 농도는 60.0 mg/L가 된다. 검량선에서 나온 값은 '주입한 용액'의 농도이고, 희석이나 농축 같은 전처리 배수를 되돌려야 시료 자체의 농도가 된다는 점이 핵심이다.
반대로 다른 시료 용액의 면적이 25,050이었다면 식으로는 25 mg/L가 나오지만, 이는 최고 표준 20 mg/L를 넘는 외삽값이다. 이때는 계산값을 보고하지 않고 시료를 더 묽혀 검량 범위 안으로 들어오게 한 뒤 다시 측정한다.
가상의 예시 검량선 계산
- 표준 측정
1·2·5·10·20 mg/L → 면적 1,050~20,050 - 회귀식 구하기
y = 1,000x + 50 - 시료 역산
(6,050 − 50) / 1,000 = 6.00 mg/L - 희석배수 반영
6.00 × 10 = 60.0 mg/L - 범위 확인
면적 25,050은 외삽 → 희석 후 재측정
검량선 원리가 그대로 통하는 조건과 정량법별 차이
앞의 계산은 표준용액과 시료가 같은 조건에서 같은 응답을 낸다는 전제가 있을 때 맞다. 표준용액을 따로 만들어 응답만 비교하는 방식을 외부표준법(절대검량선법)이라 한다. 주입량이 일정하고 시료 매트릭스(분석 대상 외의 공존 성분)가 응답에 영향을 주지 않을 때 가장 단순하고 널리 쓰인다.
주입량 편차나 전처리 손실이 걱정되면 내부표준법을 쓴다. 표준용액과 시료에 같은 양의 내부표준물질(시료에 없고 거동이 비슷한 물질)을 넣고, 분석 대상 면적을 내부표준 면적으로 나눈 '면적비'로 검량선을 그린다. 주입량이 조금 흔들려도 두 피크가 함께 변하므로 비율은 덜 흔들린다.
매트릭스가 응답 자체를 키우거나 줄이면 순수 용매로 만든 검량선은 시료에 맞지 않는다. 이때는 시료에 표준물질을 단계적으로 더해 시료 안에서 검량선을 만드는 표준물첨가법을 검토한다. 다만 이 방법은 첨가하지 않은 지점까지 직선을 연장해 값을 읽으므로 외삽에 따르는 정밀도 손실이 생긴다.
어느 방법이 맞는지는 시료 종류, 전처리, 검출기와 적용하는 공정시험기준이나 밸리데이션 기준이 무엇을 요구하는지에 따라 정해진다. 한 방법이 모든 분석에 통한다고 보지 않는다.
정량법별 검량선 비교
| 방법 | 검량선 축 | 잘 맞는 경우 | 주의점 |
|---|---|---|---|
| 외부표준법 | 농도 vs 면적 | 주입량 일정·매트릭스 영향 적음 | 주입 편차가 그대로 반영 |
| 내부표준법 | 농도 vs 면적비 | 주입·전처리 편차 보정 필요 | 내부표준물질 선택 |
| 표준물첨가법 | 첨가량 vs 면적 | 매트릭스가 응답을 바꿈 | 외삽으로 정밀도 손실 |
※ 어느 방법을 쓸지는 시료와 적용 시험기준에 따라 정한다.
흔히 틀리는 지점과 검량선이 맞지 않는 경우
첫째, 결정계수 R²가 1에 가깝다고 직선성이 증명된 것은 아니다. 상관계수는 두 값이 함께 움직이는 정도를 볼 뿐, 곡선형 관계에서도 0.99 이상이 쉽게 나온다. 각 점이 회귀선에서 얼마나 벗어나는지, 즉 잔차(측정 응답 − 예측 응답)를 농도별로 그려 한쪽으로 휘는 경향이 없는지를 함께 본다.
둘째, 범위 밖 외삽이다. 최고 표준보다 큰 응답이나 최저 표준보다 작은 응답에 식을 그대로 쓰면, 검출기 포화나 저농도 흡착처럼 확인하지 않은 구간의 거동이 결과에 섞인다. 범위를 넘으면 희석하고, 최저 표준보다 낮으면 검출한계·정량한계와 비교해 보고 방식을 정한다.
셋째, 절편을 습관적으로 0으로 고정하는 것이다. 바탕 신호가 있는데 원점을 지나게 강제하면 저농도에서 계통 오차가 커진다. 원점 통과 모델을 쓰려면 절편이 통계적으로 0과 다르지 않다는 근거를 먼저 확인한다.
넷째, 농도 범위가 넓은데 모든 점에 같은 가중치를 주는 것이다. 고농도 점의 절대 편차가 커서 회귀선이 고농도에 끌려가고 저농도 정확도가 떨어진다. 이때는 1/x, 1/x² 같은 가중 회귀를 검토한다. 마지막으로, 표준물질의 순도와 함수량을 보정하지 않으면 검량선 전체가 한쪽으로 치우쳐 시료 값도 같은 비율만큼 틀어진다.
검량선 흔한 실수 점검
- ✓R²만 보고 잔차 그래프는 확인하지 않았는가
- ✓최고·최저 표준 밖의 값을 외삽해 보고했는가
- ✓근거 없이 절편을 0으로 고정했는가
- ✓넓은 범위인데 가중치 없이 회귀했는가
- ✓표준물질 순도·함수량 보정을 빠뜨렸는가
- ✓희석·농축 배수를 되돌려 계산했는가
관련해서 검량선 점 개수 결정 5단계 — 3점·5점·7점 신뢰도·비용 판정 글도 참고할 만하다.
다음에 확인할 것: 적용 기준의 점 개수와 허용 기준
검량선의 개념을 잡았다면, 다음으로는 지금 쓰는 시험법이 검량선을 어떻게 요구하는지 원문에서 확인한다. 표준용액을 몇 개 농도로 만들지, 바탕시료를 점에 넣는지, 결정계수나 감응계수의 허용 기준이 얼마인지는 의약품 밸리데이션 가이드라인, 환경 분야 공정시험기준, 식품 시험법마다 다르다. 이 글에서는 법정 수치를 적지 않았으므로 해당 기준의 원문 조항에서 직접 확인한다.
함께 볼 것은 검량선을 다시 만드는 주기와 중간 점검 방법이다. 매 분석 배치마다 새로 작성하는지, 기존 검량선을 쓰되 중간 농도 표준으로 확인만 하는지도 기준에 따라 다르다.
실무에서는 점 개수와 간격, 가중치 선택, 비선형일 때의 모델 선택이 이어서 부딪히는 질문이다. 검량선 점 개수를 정하는 판단 기준부터 살펴보면, 그다음 질문인 가중치와 비선형 진단으로 자연스럽게 넘어갈 수 있다.
