Linear Regression (선형회귀모델) - 3 (파라미터 구간 추정, 가설 검정)

• 파라미터 추정 알고리즘

- Least Square Estimation Algorithm (최소제곱법)

- Estimator (추정량) : 샘플의 함수 (a function of the samples)

cf) Eestimates : estimator(=function)에 input 값이 들어가서 얻어진 값

 

- 추정량의 용도 : 알려지지 않은 파라미터를 추정 -> $\beta_{0}$, $\beta_{1}$

 

- 추정량의 종류 :

1) 점 추정 (point estimator) : 하나의 값으로 추정

2) 구간 추정 (interval estimator) : 구간으로 추정

 

 

• 파라미터에 대한 점 추정 (point estimator) (파라미터 총 3개 존재)

 

 

• 최소제곱법 추정량의 성질

 

 

• 파라미터에 대한 구간 추정

 

 

• 기울기($\beta_{1}$)에 대한 신뢰구간

 

 

• Y 절편($\beta_{0}$)에 대한 신뢰구간 (-> 중요하게 간주되지 않으니 참고만)

 

 

• 기울기($\beta_{1}$)에 대한 가설 검정 (-> 특히 중요. X가 Y에 영향을 미치는지 안 미치는지 확인하는 검정)

- P-value가 작으면(0.05, 0.01이 대부분 기준) 즉, 0에 가까우면 귀무가설 기각

 

 

• 선형회귀 모델 예제

 

 

 

 

[참조] 김성범 교수님의 https://www.youtube.com/watch?v=uqfWFIcIF6s&t=732s 를 요약한 것입니다.