검량선 상관계수가 0.999 미만일 때 그대로 쓸지 다시 만들지 판단하는 순서: 기준 대조, 잔차·역계산 확인, 원인 기록

omm
검량선 상관계수 0.999 미만 개념 그림

0.999는 법이나 국제 지침이 정한 고정 하한이 아니다. 시험법·SOP가 정한 합격 기준이거나 실험실 관행이다. 그래서 먼저 해당 기준과 r을 대조하고, 미달이면 그 검량선으로 결과를 내지 않은 채 잔차 패턴, 점별 역계산 회수율, 최저점 응답을 확인한다. 원인이 원자료로 확인되고 SOP가 허용할 때만 해당 점을 제외하고 재계산하며, 그렇지 않으면 검량선을 새로 만든다. r이 올라갈 때까지 점을 골라 빼는 것은 어떤 경우에도 허용되지 않는다.

목차

답: 기준부터 대조하고, 미달이면 결과를 보류한 채 원인을 확인한다

r이 0.999에 못 미쳤다는 사실만으로는 결론이 나지 않는다. ICH Q2(R2)의 직선성 항목은 데이터 플롯, 상관계수 또는 결정계수, y절편, 기울기를 제시하라고 요구하고, 이번 개정에서 잔차 플롯 평가를 더했다. 그러나 r이 얼마 이상이어야 한다는 수치 하한은 두지 않는다. 국내에서는 의약품의 경우 식약처 「의약품등 시험방법 밸리데이션 가이드라인」이 직선성을 밸리데이션 항목으로 다루고, 환경 시료는 수질오염공정시험기준 같은 공정시험기준이 정도관리 항목에 검정곡선(검증)을 둔다. 식품은 해당 공전 시험법의 규정을 확인한다.

판단 순서는 다음과 같다.

1. 기준 확인: 시험법, SOP, 밸리데이션 보고서에서 검량선 적합 기준을 찾는다. r 또는 R² 하한, 점별 역계산 편차, 절편 기준, 점 제외 허용 여부와 그 조건이 대상이다. 시험법에 기준이 명시돼 있으면 실험실 관행보다 그 기준이 우선한다.
2. 결과 보류: r이 그 기준에 못 미치면 그 검량선으로 계산한 시료 농도는 보고하지 않는다. 시료 결과가 규격 안에 들어왔더라도 마찬가지다.
3. r 이외의 지표 확인: 잔차 패턴, 점별 역계산 회수율, 최저점 응답을 본다.
4. 원인 조사: 원인이 원자료와 기록으로 확인되는지 조사한다.
5. 조치 결정과 기록: 원인과 SOP에 따라 점 제외 후 재계산과 전면 재작성 가운데 하나를 고르고 근거를 남긴다.

기준이 r인지 R²인지도 확인해야 한다. 절편이 있는 단순 선형회귀에서 R²는 r의 제곱이다. 따라서 r 0.999는 R²로 0.998001에 해당한다. 숫자 해석 일반론은 ryumanual의 「상관계수(R²)는 얼마면 충분한가」 글에서 다룬다.

r 하나로는 보이지 않는 것: 잔차 패턴, 역계산 회수율, 최저점

r은 회귀선이 데이터를 얼마나 따라가는지를 하나로 요약한 값이다. 농도 차이가 큰 고농도 점의 영향을 크게 받아서, 곡률이나 저농도 쪽 편차가 이 값에 묻힌다. 분석독성학 분야 문헌도 R²는 회귀모형이 적절하다는 가정 위에서 계산되므로 데이터가 선형인지 아닌지는 알려주지 못한다고 지적한다. r이 기준에 못 미쳤을 때는 아래 세 가지를 같이 본다.

– 잔차 플롯: 잔차(실측 응답 − 회귀식 예측 응답)가 0을 중심으로 무작위로 흩어지는지 본다. 양 끝이 음수이고 가운데가 양수인 아치형은 상단 포화나 비선형 응답을, 한 점만 크게 튀는 형태는 그 점의 조제나 주입 문제를 먼저 의심하게 한다.
– 점별 역계산 회수율: 각 표준의 응답을 회귀식에 넣어 구한 농도를 명목 농도로 나눈 값(%)이다. 시험법이 점별 허용 편차를 정했다면 그 기준으로 판정한다. 기준이 없는데 이 글이나 다른 분야의 숫자를 가져와 합격선으로 쓰지 않는다.
– 최저점 응답: 피크 모양, 적분 시작점과 끝점, 기준선, 신호 대 잡음비를 원래 크로마토그램에서 확인한다. 최저점은 응답이 작아서 적분 오류나 절편의 영향이 회수율에 크게 나타난다.

점 사이 분산이 농도에 따라 달라서 가중회귀가 필요한지는 이 판단과 다른 문제다. 이는 검량선 가중치 결정 글에서 다룬다. 시험법이 정한 회귀 방식을 판정 도중에 바꾸는 것은 이 글의 조치에 포함되지 않는다.

계산 예시(가상·교육용 데이터): r 0.9983 검량선을 뜯어보면

아래 값은 판단 흐름을 보이기 위해 만든 가상(교육용) 데이터다. 실제 측정 결과가 아니다. HPLC 외부표준법으로 1, 5, 10, 25, 50 µg/mL 다섯 점을 측정한 상황을 가정한다.

5점 전체 회귀: 기울기 899.69, 절편 879.64, r = 0.9983(R² = 0.9965)이다. 숫자만 보면 0.999에 조금 못 미친 정도다. 그러나 점별로 보면 그림이 다르다(표 1).

– 잔차는 1, 5 µg/mL에서 음수, 10, 25 µg/mL에서 양수, 50 µg/mL에서 다시 음수다. 전형적인 아치형이고, 최고 농도 점이 직선 아래로 처진다는 뜻이다.
– 역계산 회수율은 최저점 17.8%, 5 µg/mL 91.2%, 25 µg/mL 107.7%다. 처진 상단 점이 기울기를 낮추고 절편을 끌어올린 결과다. 절편 879.64는 최저점 응답 1040의 약 85%에 해당한다.
– 즉 이 검량선으로는 저농도 시료를 의미 있게 정량할 수 없다. r 0.9983이라는 숫자는 이 문제를 드러내지 못한다.

원인 확인 후 재계산: 50 µg/mL 크로마토그램에서 피크 상단이 평탄하게 잘린 것이 원자료로 확인되고, 그 농도가 검출기 선형 응답을 넘는다고 가정한다. 이 경우 SOP가 원인이 문서로 확인된 최고점의 제외와 범위 축소를 허용할 때만 제외할 수 있다. 1–25 µg/mL 네 점으로 다시 계산하면 기울기 1003.54, 절편 31.16, r = 0.99998이고 역계산 회수율은 98.6–100.8% 범위로 들어온다(표 2). 잔차의 부호도 번갈아 나타나 아치형이 사라진다(그림 1).

이 예시에서 꼭 읽어야 할 점은 두 가지다.

1. r이 좋아진 것은 원인을 제거한 결과다. r이 좋아졌다는 사실이 제외의 근거가 되지는 않는다. 피크 상단이 잘린 원자료가 없었다면 이 점을 뺄 근거도 없다.
2. 제외하면 정량 범위가 25 µg/mL까지로 줄어든다. 응답이 25 µg/mL 표준을 넘는 시료는 이 검량선으로 보고할 수 없고, 범위 안으로 희석해 다시 주입해야 한다. 시험법이 검증된 범위 전체를 매번 검량선으로 덮도록 요구한다면 최고점 제외 자체가 허용되지 않는다. 이때는 조건을 바로잡아 전면 재작성한다.

명백한 원인으로 인정되는 것과 그 증거

점 제외나 재작성의 사유로 쓸 수 있는 원인은 원자료나 기록으로 보여줄 수 있어야 한다. "그 점이 이상해 보인다"는 판단은 원인이 아니라 조사를 시작할 이유일 뿐이다.

– 표준용액 조제·희석 오류: 칭량 기록, 사용한 피펫과 플라스크, 희석 계산표를 대조한다. 계산 실수나 기록된 조제 이상이 확인되면 원인이 된다. 의심만 되는 경우에는 해당 농도를 새로 조제해 비교한다.
– 오염과 캐리오버: 용매 바탕과 공시료 주입에 같은 머무름 시간의 피크가 있는지, 직전에 고농도를 주입했는지를 시퀀스 기록에서 확인한다.
– 적분 오류: 기준선 설정, 인접 피크와의 분리, 적분 시작점과 끝점을 확인한다. 재적분은 SOP가 정한 사유와 승인 절차를 거쳐야 하고, 감사추적(audit trail)에 남아야 한다. 특정 표준점에만 다른 적분 파라미터를 적용하지 않는다.
– 검출기 포화와 비선형: 피크 상단의 평탄화, 비대칭 변형, 검증된 응답 범위를 넘는 신호를 확인한다.
– 주입 이상: 오토샘플러 오류 로그, 바이알 용량, 기포, 주입량 기록을 확인한다.
– 시스템 변화: 시스템적합성 결과와 시퀀스 중 응답 드리프트를 확인한다. 이 경우는 검량선 한 점이 아니라 실행 전체의 문제일 수 있으므로 정량값 편차 원인 점검 순서를 따른다.

원인을 확인하지 못하면 점을 제외할 근거가 없다. 이때는 표준용액을 새로 조제해 검량선을 다시 작성하고, 원인을 찾지 못한 사실과 조사 범위도 기록한다.

두 가지 조치 비교: 점 제외 후 재계산, 전면 재작성

조치 택할 수 있는 조건 택할 수 없는 경우 남길 기록
점 제외 후 재계산 원인이 원자료로 확인되고, SOP가 제외를 허용하며, 남은 점 수와 범위가 시험법 요건을 충족하고, 재계산 결과가 모든 기준을 충족 원인 미확인, SOP에 제외 규정 없음, 제외 후 점 수·범위 요건 미달, 시료 응답이 남은 범위 밖 제외한 점, 원인 증거, 근거 SOP 조항, 제외 전후 회귀 결과, 검토·승인자
전면 재작성 원인 미확인, 여러 점에 문제, 표준원액 자체가 의심됨, 제외가 허용되지 않거나 제외 후 요건 미달 해당 없음(기준 미달 시 기본 조치) 원래 검량선과 판정, 조사 내용, 새 표준 조제 기록, 재주입한 시료 목록

전면 재작성으로 가면 기존 검량선으로 계산한 시료 결과는 사용하지 않는다. 새 검량선과 같은 실행에서 시료를 다시 주입하되, 시료 용액을 다시 쓰려면 용액 안정성이 시험법에서 확인돼 있어야 한다. 중간 농도 한 점만 기준을 벗어난 경우의 판정은 검량선 중간 점이 부적합할 때 글에서 따로 다룬다.

허용되지 않는 처리와 그 이유

– 기준 미달 검량선으로 결과 보고: 시료가 규격 안에 들어왔다는 이유로 미달 검량선을 쓰면, 판정 기준을 결과에 맞춰 바꾸는 셈이다.
– r이 기준을 넘을 때까지 점을 하나씩 빼 보기: 다섯 점 가운데 어느 점을 빼야 r이 올라가는지 시험해 보고 고르는 것은 원인이 아니라 결과를 보고 데이터를 선택하는 행위다. 앞의 예시에서도 제외 근거는 r 개선이 아니라 피크 상단이 잘린 원자료였다.
– 원래 계산과 그래프를 지우거나 덮어쓰기: 미국 cGMP 21 CFR 211.194(a)(4)는 각 시험 과정에서 얻은 모든 데이터를 기기의 그래프·차트·스펙트럼까지 포함해 완전하게 기록하도록 요구한다. 제외 전 검량선도 원자료다.
– 근거 없는 재적분이나 재주입 결과 골라 쓰기: 21 CFR 211.160(a)는 문서화된 시험 절차에서 벗어난 모든 사항을 기록하고 그 정당성을 남기도록 요구한다. 재주입이나 재적분 자체가 금지된 것은 아니다. 다만 SOP에 정한 사유 없이 하거나, 결과 가운데 마음에 드는 것만 채택하는 것은 허용되지 않는다.

국내 의약품 시험실은 국내 GMP 기준과 자체 데이터 완전성 SOP를, 식품·환경 시험실은 해당 정도관리 규정을 확인해야 한다. 원자료 보존과 이탈 사유 기록이라는 원칙은 같다.

판정 체크리스트와 기록 항목

검토자가 검량선 하나를 판정할 때 다음 순서로 확인한다.

1. 적용 시험법·SOP의 검량선 기준(r 또는 R² 구분, 점별 편차, 절편, 점 제외 규정)을 확인했다.
2. 산출한 r(또는 R²)을 그 기준과 대조했고, 미달이면 시료 결과 보고를 보류했다.
3. 잔차 플롯에서 아치형, 나팔형, 단일 이탈점 여부를 확인했다.
4. 점별 역계산 회수율을 계산했고, 시험법 기준이 있으면 그것으로 판정했다.
5. 최저점과 최고점의 크로마토그램(피크 모양, 적분, 포화 여부)을 원자료로 확인했다.
6. 조제 기록, 바탕 주입, 시퀀스·오류 로그, 시스템적합성 결과로 원인을 조사했다.
7. 원인이 문서로 확인되고 SOP가 허용하는 경우에만 점을 제외했고, 제외 후 점 수와 범위가 요건을 충족하는지 확인했다.
8. 제외 후 정량 범위를 벗어나는 시료는 희석해 재주입하도록 표시했다.
9. 원인 미확인이거나 제외 조건 미충족이면 새로 조제해 전면 재작성했다.
10. 원래 검량선, 판정, 원인 증거, 조치, 제외 전후 회귀 결과, 검토·승인자를 기록하고 원자료를 보존했다.

참고: 생체시료 분석 가이드의 점별 기준은 옮겨 쓰지 않는다

점별 역계산 기준이 숫자로 정해진 대표적인 예는 생체시료 분석이다. ICH M10은 검량 표준의 역계산 농도가 명목값의 ±15% 이내(정량하한은 ±20% 이내)여야 하고, 최소 여섯 개 농도 수준을 포함한 검량 표준의 75% 이상이 이를 충족해야 한다고 정한다. 이 기준은 혈장 같은 생체 매트릭스 분석법에 적용되며, 원료의약품·완제의약품 품질시험이나 식품·환경 시험의 합격 기준이 아니다. 점별 기준이 어떤 모양인지 이해하는 참고로만 쓰고, 해당 시험법·SOP에 점별 기준이 없다면 이 숫자를 가져와 판정하지 않는다. 기준이 필요하다고 판단되면 시험법 개정이나 밸리데이션 절차를 통해 정한다.

근거 자료

Related Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다