GLM에서 설명변수에 대한 검정 - GLM part. 3 기본 콘텐츠로 건너뛰기

GLM에서 설명변수에 대한 검정 - GLM part. 3

 GLM 적합 후에 여러 가지를 검정해야 하는데, 이번에는 설명변수에 대한 검정을 살펴보도록 하겠다.


표본이 큰 경우에 GLM의 ML 추정량들은 근사적으로 정규분포를 따른다.


설명변수가 한 개인 GLM을 생각해보자.


(1) 왈드검정 Wald

귀무가설 β=0 을 검정하기 위한 왈드 검정통계량은 다음과 같다.

$$ z=\hat{\beta}/SE $$

귀무가설 하에서 z는 근사적으로 표준정규분포를 따른다.

$$ z^{2} \sim \chi^{2} (df=1) $$

이항모수 𝛑에 대하여 SE는 다음과 같다.

$$ SE=\sqrt{\hat{\pi}(1-\hat{\pi})/n} $$



(2) 가능도비 검정 Likelihood ratio

l 0 = 귀무가설 하에서의 가능도함수의 최댓값

l 1 = 완전모형 하에서의 가능도함수의 최댓값

$$ 2log(l_{1}/l_{0})=2[log(l_{1})-log(l_{0})]=2(L_{1}-L_{0}) $$

L0 = 귀무가설 하에서의 로그 가능도함수의 최댓값

L1 = 완전모형 하에서의 로그 가능도 함수의 최댓값

(로그변환과 두 배를 하면 대략적으로 카이제곱 표본분포를 따르게 됨)

귀무가설 β=0 하에서 2(L1-L0) 이 검정통계량은 근사적으로 자유도가 1인 카이제곱분포를 따른다.

가능도비 검정은 일반적으로 왈드검정보다 statistical power가 더 높다고 평가 받는다.



(3) 스코어 검정 score test

왈드 검정과 달리 추정된 표준오차값이 아닌, 귀무가설이 참일 때 타당한 표준오차값(SE0)을 이용한다.

왈드 검정에서 SE는 다음과 같다.

$$ SE=\sqrt{\hat{\pi}(1-\hat{\pi})/n} $$

z검정에서 사용하는 표준오차 즉, 스코어 검정에서 SE0는 다음과 같다.

$$ SE_{0}=\sqrt{\pi_{0}(1-\pi_{0})/n} $$


댓글

이 블로그의 인기 게시물

민감도와 특이도 - 예측력 측도

민감도와 특이도   Predicted Total Pos Neg Actual Pos a b a+b Neg c d c+d 민감도 sensitivity 는 조건부확률로 실제 양성일 때, 양성으로 판정할 확률이다. $$ Sensitivity = P(Y=1|X=1) , Specificity = P(Y=0|X=0) $$ 이를 위 표에 적용해보면 민감도는 $$ \frac{a}{a+b} $$ 특이도 specificity 는 실제 음성일 때 음성으로 판정할 확률이다. 위 표로부터 구한 특이도는 다음과 같다. $$ \frac{c}{c+d} $$ 따라서 민감도와 특이도가 높을수록 예측력이 좋다고 할 수 있다.

범주형 변수 ; Categorical Variables

 범주형 변수 (categorical variables)의 정의와 예시에 대해 살펴보고 다음 글부터 범주형 변수의 분석 방법에 대해 다루고자 한다. ✅범주형 변수 의 정의: 측정 단위가 여러 범주들의 집합으로 구성되어 있는 변수 범주형 변수는 질적 변수 (qualitative variables) 라고도 일컬어 진다. 📋범주형 변수의 예시 ex 1) 영화장르: 액션 - 로코 - 코미디 - 드라마 ex 2) 백신 접종 여부: 예 - 아니오 ex 3) 최종 학력: 중졸 - 고졸 - 전문대졸 - 대졸 - 대학원졸 ex 4) 행복 수준: 없음 - 가끔 - 꽤 행복 - 항상 행복 범주형 변수는 하위 세 가지 타입의 변수를 갖는다. 1. 이항변수 (Binary variables)        ⇨ 위 예시 2번이 해당       ⇨ [예 or 아니오] 혹은 [찬성 or 반대] 두 가지의 범주만을 갖는 변수들 2. 명목형변수 (Nominal variables)        ⇨ 위 예시 1번이 해당      ⇨ 3개 이상의 범주를 갖고 변수들 사이에 순서에 대한 의미가 없는 변수들 3. 순서형변수 (Ordinal variable)        ⇨ 위 예시 3번과 4번이 해당     ⇨ 범주들이 일정한 순서를 갖는 변수들 (순서에 의미가 있음)  범주형 변수들을 어떻게 분석할 것인가?     ⇨ GLM (Generalised Linear Model) 일반화 선형모형 이용함. 자세한 분석 방법들은 다음 글들에서 다루고자 한다.

Odds Ratio and Relative Risk ; 오즈비와 상대위험도 part. 2

 지난 글에서 2X2 분할표에서 많이 사용되는 오즈비와 상대위험도의 개념에 대해서 살펴보았다. 그 중에서도 지난 글에서는 오즈비를 사용할 수밖에 없는 경우에 대해 살펴보았다.  상대위험도가 직관적으로 이해하기 쉽고 위험비에 대한 쉬운 해석을 가능하게 하지만, 그럼에도 불구하고 보건 or 의학 계열에서 오즈비를 많이 사용 할 수밖에 없는 이유에 대해 살펴보았다. 또한 오즈비와 상대위험도는 가끔 동일하게 해석되기도 한다. (자세한 내용은 이전 글로..) 그럼 이번 글에서는 오즈비와 상대위험도를 동일하게 해석할 수 있는 경우 에 대해 살펴보도록 하겠다. 먼저 다음과 같은 오즈비의 특성을 이해해야 한다. 오즈비의 중요 특성: 상대적인 위험도를 과장하는 측면 이 있다. 이는 굉장히 중요한 오즈비의 특성인데, Relative Risk 값보다 항상 큰 값을 가진다. 그리고 이는 해당 Event가 흔하게 일어날 수록 더욱 더 과장 된다. 📋예를 들어 보자. 따듯한 차를 마셨을 때와 방안 온도의 차를 마셨을 때 체온이 상승하는지 아니면 그대로 유지되는지에 대해 조사하고 다음과 같은 분할표를 얻었다.   체온 상승 유지 Total Warm tea 90 10 100 Normal temp 20 180 200 먼저 Relative Risk 상대위험도 를 구해보자. $$ \frac{90/100}{20/200} = 9 $$ 이번엔 Odds Ratio 오즈비 를 구해보자. (유도과정은 이전 글 참고) $$ \frac{90 * 180}{20 * 10} = 81 $$ 이번엔 방금 구한 상대위험도와 오즈비를 해석해보자. 📉 RR : 상대위험도는 9로, 이는 따듯한 차를 마신다면 체온이 상승할 확률이 방안 온도의 차를 마셨을 때보다 체온이 상승할 확률...