[Statistics] 가설 검정(유의수준, 유의확률, p-value, 자유도, 기각역)

https://jhcandoit.tistory.com/6

[Statistics] 통계 분석 방법(기술 통계, 추론 통계)

 

해당 게시글에 이어서 가설 검정에 관한 내용을 추가적으로 정리해보고자 한다.

 

 

 

 

 

가설 검정(Hypothesis test)

모집단의 특정 현상에 대한 예상이나 주장이 옳은지 그른지를 표본을 이용하여 판단하는 것.

 

 

1.  가설

1) 귀무가설(Null Hypothesis, H0)

보통 효과가 없다, 차이가 없다, 연관성이 없다 등 실험의 목적과 반대되는 가설이다.

2) 대립가설(Alternative Hypothesis, H1)

귀무가설과 반대로, 실험 결과에 특정 효과나 차이가 있다는 주장을 나타내는 가설이다.

 

 

 

2. 검정 방법

1) 단측검정 : '~보다 작다', '~보다 크다'와 같이 모수에 대한 대립가설이 특정한 방향을 가지면, 귀무가설을 기각하는 영역이 한 쪽에 생기게 된다. 굳이 나누자면 좌측검정(~보다 작다, 기각역이 왼쪽)과 우측검정(~보다 크다, 기각역이 오른쪽)이 있다.

 

2) 양측검정 : '~가 아니다', '~과 다르다'와 같이 모수에 대한 대립가설이 특정한 방향을 갖지 않으면, 귀무가설을 기각하는 영역이 양쪽으로 생기게 된다.

 

 

 

 

3. 주요 용어 정리

1) 유의수준(Significance Level, α) : 가설검정에서 귀무가설을 기각할 기준이 되는 임계값. '1-신뢰수준'으로 계산할 수 있다.

일반적으로 0.05나 0.01로 설정되며, p-value가 유의수준보다 작으면 귀무가설을 기각할 수 있다.

2) p-value(유의확률) : 가설검정에서 귀무가설을 평가하는데 사용되는 중요한 지표. 귀무가설이 사실이라고 가정했을 때, 통계치가 관측될 확률을 의미한다.

3) 임계치(Critical Value) : 유의수준에 따라 결정되며, 해당 분포의 백분위수로 계산된다.

신뢰구간과 기각역을 구분하는 x값? 신뢰구간에서 기각역으로 넘어가는 기준이라고 생각하면 쉬울 것 같다.

 

4) 기각역(Rejection Region) : 귀무가설을 기각할 때 사용되는 영역. 유의수준에 해당하는 임계값을 기준으로 결정된다.

검정 통계량이 기각역에 속하면, 귀무가설을 기각하고 대립가설을 채택한다.

단측검정일 땐 '기각역=유의수준'이고, 양측검정일 땐 '기각역=(유의수준/2)'이다. 즉 '유의수준=∑기각역'이다.

 

5) 자유도(Degrees of Freedom) : 전체 표본 수(n) 중에서 자유롭게 선택할 수 있는 값의 개수. '자유도 = (표본의 개수 - 제약 조건의 수)'로 정의할 수 있다.
예를 들어, 숫자 5개의 평균이 3으로 정해져있다고 했을 때, 숫자 4개는 자유롭게 정할 수 있지만 마지막 숫자 1개는 평균 3을 따르기 위해 나머지 4개의 숫자에 의해 자동으로 결정된다.
이처럼 추정하려는 모수가 평균 1개일 때는 단순히 자유도가 n-1로 계산 가능하지만, ANOVA처럼 다수의 집단을 고려할 때에는 자유도가 'n-집단개수(j)'가 되는 등.. 복잡해진다....

 

6) 검정 통계량(Test Statistic) : 가설 검정에서 사용되는 통계량. '검정 통계량=(표본평균-모평균)/표본 표준편차'로 계산한다.

검정 통계량이 확률분포상 어디에 위치하는지에 따라 귀무가설을 기각하거나 기각하지 않는다.