검량선의 기울기와 절편은 어떻게 구하나? 최소제곱 손계산과 엑셀 계산

omm

절편을 계산하는 비가중 선형회귀에서 기울기는 a=Σ(xi−x̄)(yi−ȳ)/Σ(xi−x̄)², 절편은 b=ȳ−ax̄이다. 농도와 응답을 짝지어 평균·편차곱·제곱합을 계산하면 두 값을 직접 구할 수 있다. 미지 응답은 x=(y−b)/a에 대입하되, 내부표준법에서는 역산된 x가 농도인지 농도비인지 구분한다.

목차

기울기는 편차곱의 합을 농도 편차제곱합으로 나눈 값이다

검량식을 y=ax+b로 정한다. x는 표준용액 농도, y는 해당 표준의 피크면적·피크높이 또는 시험법에서 정한 응답비다. a는 기울기, b는 y절편이다. 자료에 따라 a와 b의 기호를 반대로 쓰기도 하므로 문자보다 식에서 맡는 역할을 확인한다.

절편을 계산하는 비가중 최소제곱 선형회귀의 계산식은 다음과 같다.

x̄=Σxi/n
ȳ=Σyi/n
a=Σ(xi−x̄)(yi−ȳ)/Σ(xi−x̄)²
b=ȳ−ax̄

각 농도와 응답에서 평균을 뺀 값을 편차라고 한다. 기울기의 분자는 농도 편차와 응답 편차를 서로 곱한 뒤 더한 값이다. 분모는 농도 편차를 제곱한 뒤 더한 값이다. 이렇게 구한 a와 b는 관측응답 yi와 예측응답 axi+b 사이의 차이를 제곱해 더한 값을 최소로 만든다. NIST 최소제곱 설명

모든 x가 같으면 분모가 0이 되어 이 식으로 기울기를 계산할 수 없다. 계산에 들어가는 x와 y는 같은 표준용액에서 얻은 값끼리 대응해야 한다. 한쪽 열만 정렬하면 다른 데이터를 회귀하게 된다.

표준 데이터에서 평균·편차곱·제곱합을 계산한다

표준 데이터 표는 가상(교육용) 데이터다. 농도 단위는 mg/L, 응답은 설명을 위한 임의의 면적단위로 둔다. 서로 다른 농도 수준의 데이터 쌍 5개를 사용하며, 이 개수는 시험법의 필수 검량점 수를 뜻하지 않는다. 동일 농도의 반복측정 자료도 아니다.

표의 x 합계는 15 mg/L, y 합계는 165 면적단위다. 따라서 x̄=3 mg/L, ȳ=33 면적단위다. 각 행에서 xi−3과 yi−33을 구한 뒤 편차곱과 농도 편차의 제곱을 계산한다.

편차곱의 합은 103 (mg/L)·면적단위, 농도 편차제곱합은 10 (mg/L)²다.

a=103/10=10.3 면적단위/(mg/L)
b=33−10.3×3=2.1 면적단위

따라서 이 예제의 검량식은 y=10.3x+2.1이다. 기울기의 단위는 응답 단위를 농도 단위로 나눈 것이며, 절편의 단위는 응답 단위와 같다. 계산은 NIST의 직선 최소제곱식을 가상 데이터에 적용한 결과다.

표의 예측응답 ŷi는 10.3xi+2.1, 잔차 ei는 yi−ŷi로 계산했다. 잔차는 회귀식이 각 관측응답에서 얼마나 벗어나는지 보여준다. 잔차에 곡선 형태나 농도에 따른 퍼짐의 변화가 있는지 살피는 일은 계수를 계산하는 일과 별개다. 이 예제만으로 직선성이나 시험법 적합성을 판정하지 않는다. NIST 검량모형 평가

엑셀에서는 응답 범위를 먼저 지정한다

가상 표준 데이터의 농도를 A2:A6, 응답을 B2:B6에 입력한다. 기울기를 넣을 E2에는 =SLOPE(B2:B6,A2:A6), 절편을 넣을 E3에는 =INTERCEPT(B2:B6,A2:A6)를 입력한다. 결과는 각각 10.3과 2.1이다. 두 함수 모두 인수 순서가 y 범위, x 범위다. SLOPE 공식 도움말, INTERCEPT 공식 도움말

=LINEST(B2:B6,A2:A6,TRUE,FALSE)로도 기울기와 절편을 구할 수 있다. 여기서 TRUE는 절편을 계산한다는 뜻이고, 마지막 FALSE는 추가 회귀통계량을 반환하지 않는다는 뜻이다. 절편 인수를 FALSE로 바꾸면 절편을 0으로 고정하면서 기울기도 다시 계산한다. 기존 기울기를 유지한 채 절편만 지우는 계산과 다르다. LINEST 공식 도움말

응답 38.15 면적단위인 가상 미지 시료를 E5에 입력하면 농도 계산식은 =(E5-$E$3)/$E$2다. 결과는 (38.15−2.1)/10.3=3.50 mg/L다. 이는 농도를 x로 두고 응답을 y로 회귀한 식을 역으로 푼 결과다. x와 y를 바꿔 새로 회귀하는 계산으로 대체하지 않는다. NIST 검량 역산 설명

실제 계산에서는 그래프에 짧게 표시된 회귀식을 다시 타이핑하기보다 계수가 저장된 셀을 참조한다. 중간 계수를 조기에 반올림하지 않고 최종 보고 단계에서 시험법이나 보고 규칙에 맞춘다. 이 예제의 3.50은 교육용 표시 자릿수이며 공통 보고 규칙이 아니다. FAO 계산·반올림 설명

내부표준법에서는 역산한 x의 뜻을 먼저 확인한다

외부표준법의 x가 분석대상 농도이고 y가 피크면적이라면, x=(y−b)/a의 결과는 그 농도 단위를 갖는다. 내부표준법은 분석대상과 내부표준의 피크면적비를 응답으로 사용할 수 있다. 농도비를 x로 사용하는 방식도 있으므로 응답비만 확인해서는 부족하다. Shimadzu 외부표준법·내부표준법 설명

비교표에서 C_A는 분석대상 농도, C_IS는 내부표준 농도, A_A와 A_IS는 각각의 피크면적이다. 표준과 시료에서 같은 정의로 x와 y를 구성한다.

x=C_A/C_IS로 회귀했다면 역산값은 무차원의 농도비다. 시료의 분석대상 농도는 C_A=((y−b)/a)×C_IS로 구한다. 이때 C_IS는 해당 시료 용액의 내부표준 농도다.

반대로 내부표준 농도를 일정하게 유지하고 x=C_A, y=A_A/A_IS로 검량한 방식이라면 역산값 자체가 C_A다. 여기에 내부표준 농도를 다시 곱하면 중복 계산이 된다. 어느 방식을 사용하는지는 적용 시험법과 소프트웨어의 농도·Amount 정의에서 확인한다. 앞 절의 10.3과 2.1은 외부표준 면적 데이터에서 얻은 값이므로 응답비 데이터에 재사용하지 않는다.

소프트웨어와 값이 다르면 회귀에 들어간 조건을 대조한다

같은 원시 데이터라도 회귀 설정이 다르면 기울기와 절편이 달라진다. 이 글의 손계산과 비교할 조건은 비가중 직선회귀, 절편 계산, 축 변환 없음이다. 실제 시험법이 다른 모형을 지정했다면 그 모형을 따라 계산한다. 크로마토그래피의 검량모형 선택은 측정계와 예상 농도, 간섭 등의 특성을 고려하는 문제다. NIST 크로마토그래피 정량 설명

DataApex Clarity 공개 도움말은 원점 처리를 Ignore Origin, Compute with Origin, Curve passes through Origin으로 구분한다. 원점을 계산점으로 추가하는 것과 회귀선을 원점에 강제로 통과시키는 것은 다른 설정이다. 같은 도움말은 검량모형, 가중치, 축 변환도 별도 항목으로 다룬다. 이 명칭은 해당 제품의 예이며 다른 제조사 메뉴에 그대로 대응한다고 가정하지 않는다. Clarity 검량 설정 도움말

가중회귀를 사용한 결과는 이 글의 비가중 공식과 직접 비교하지 않는다. 원점 통과나 비선형 모형도 시험법 또는 검증 근거에 따라 별도로 적용한다. 계수가 서로 맞는지만 확인해서 검량모형의 적합성이 입증되는 것은 아니다.

계산 기록에서 확인할 항목

다음은 계산 재현을 위한 확인 목록이다. 개별 시험법의 합격 기준을 대신하지 않는다.

– 적용 시험법의 문서명·판본·대상 성분·매트릭스와 검량모형을 기록했는가.
– 표준 농도와 응답이 같은 행에서 대응하며, 농도 단위와 응답 종류가 통일되어 있는가.
– 반복 주입을 개별 점으로 넣었는지, 농도별 평균으로 넣었는지 소프트웨어와 스프레드시트가 같은가.
– 외부표준·내부표준 구분과 x축의 농도 또는 농도비 정의가 일치하는가.
– 절편 계산·원점 통과·원점 추가, 가중치, 축 변환, 제외된 점이 같은가.
– 저장된 계수로 예측응답과 잔차를 재현할 수 있는가.
– 역산식이 참조하는 계수와 응답이 같은 검량모형에 속하며, 표시 자릿수와 계산 정밀도를 구분했는가.

시험법의 성분·매트릭스·검출기가 특정되지 않았으므로 여기서는 특정 공정시험기준이나 식약처 고시의 검량모형을 지정하지 않는다. 의약품 분석법 검증에서는 ICH Q2(R2)의 적용 범위를, 일반 분석법 검증에서는 Eurachem 검증 지침 안내를 관련 문서로 확인할 수 있다. 수질 분야의 선형 검량함수 표준으로는 ISO 8466-1:2021의 공개 서지정보가 있다.

이들 안내·서지 HTML에서 확인되지 않는 세부 실험 횟수나 판정 한계는 인용하지 않았다. 본문의 계산식과 잔차 확인 원칙은 내용을 직접 읽을 수 있는 NIST HTML 원문에 근거한다.

근거 자료

Related Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다