다중공선성 = 독립변수들 사이에 강한 선형관계가 존재하는 현상. 해결책은 상관관계 높은 변수 제거, 주성분회귀, 능형(Ridge)회귀.
↓ 기출 1번 연결 ↓
QUESTION 01
다중공선성 설명으로 옳지 않은 것
43회 기출
관련 문제
다음 중 다중공선성에 대한 설명으로 옳지 않은 것은?
① 다중공선성 여부는 분산팽창요인(VIF)으로 진단할 수 있으며, 일반적으로 VIF 값이 10을 넘으면 심각한 다중공선성을 의심한다.
② 다중공선성이 발생한 경우, 독립변수를 추가하여 모형을 더 복잡하게 만들면 문제가 해결될 수 있다.
③ 다중공선성은 독립변수들 사이에 강한 선형 관계가 존재할 때 발생하는 현상이다.
④ 다중공선성이 심하면 회귀계수 추정의 분산이 커져 개별 회귀계수의 통계적 유의성이 떨어질 수 있다.
정답 ②
다중공선성(Multicollinearity)은 다중 회귀 분석에서 독립변수 간에 강한 선형 상관관계가 존재하는 현상이다. 다중공선성은 회귀 계수의 표준 오차를 증가시켜 통계적 유의성(p-값)을 낮추고, 계수 추정치의 해석을 어렵게 만든다. 다중공선성을 제거하기 위해서는 상관관계가 높은 독립변수 중 일부를 제거하거나, 변수를 새롭게 조합하는 등의 방법을 사용해야 하며, 독립변수를 더 추가하는 것은 문제 해결에 도움이 되지 않고 오히려 악화시킬 수 있으므로 옳지 않은 설명이다.
핵심 암기 · 다중공선성 해결 = 변수를 "줄이는" 방향 (추가 아님)
CONCEPT 02
모델 전체의 유의성 — F-statistics
2 / 4
F-statistics모델 "전체"가 유의미한지 평가 — 독립변수들이 종속변수에 미치는 집합적 영향 검정
t-statistics개별 "변수" 하나하나의 유의성 평가
p-valueF·t 검정 결과의 유의성을 판단하는 기준
AIC모델 적합도를 비교하는 지표(작을수록 좋음)
↓ 기출 2번 연결 ↓
QUESTION 02
모델 전체 유의성 평가 통계량
35회 기출
관련 문제
선형회귀모형에서 모델 전체의 유의성을 평가하는 데 가장 적절한 통계량은 무엇인가?
① F-statistics
② T-statistics
③ P-value
④ AIC
정답 ①
F-statistics는 전체 모델이 유의미한지 평가하는 데 사용되며, 회귀모형에서 독립변수들이 종속변수에 미치는 집합적 영향을 검증한다. T-statistics는 개별 변수의 유의성을 평가하고, P-value는 F-statistics 결과의 유의성을 판단하고, AIC는 모델 적합도를 비교하는 지표로 사용된다.
핵심 암기 · F = 모델 전체 / t = 변수 하나하나
CONCEPT 03
Cook's Distance — 영향력 진단
3 / 4
Cook's Distance란데이터 포인트 하나가 회귀 모델 전체에 미치는 영향력을 평가하는 지표
판단 기준값이 1보다 크면(또는 기준값 초과) 그 데이터가 모델에 과도한 영향을 주는 것으로 간주
활용높은 Cook's Distance 데이터는 이상치로 판별되어 모델 적합성에 영향을 줄 수 있음
↓ 기출 3번 연결 ↓
QUESTION 03
Cook's Distance 설명
41회 기출
관련 문제
Cook's Distance에 대한 설명으로 옳지 않은 것은?
① Cook's Distance에서는 거리가 기준값인 1보다 작을 경우 영향치로 간주한다.
② Cook's Distance는 데이터 포인트가 모델에 미치는 영향을 평가한다.
③ 높은 Cook's Distance를 가지는 데이터는 모델에 큰 영향을 미친다.
④ Cook's Distance는 회귀 모델에서 이상치를 탐지하는 데 사용된다.
정답 ①
Cook's Distance는 데이터 포인트가 회귀 모델에 미치는 영향을 평가하는 지표로, 값이 1보다 큰 경우 해당 데이터가 모델에 과도한 영향을 미치는 것으로 간주된다. 높은 Cook's Distance를 가지는 데이터는 이상치로 판별될 가능성이 있으며, 회귀 모델의 적합성에 영향을 줄 수 있다.
핵심 암기 · Cook's Distance는 "클수록" 위험 (작으면 안전)
CONCEPT 04
잔차의 정규성 검정
4 / 4
Q-Q Plot잔차가 정규분포를 따르는지 시각적으로 확인
잔차 히스토그램잔차 분포의 형태를 시각적으로 확인
Shapiro-Wilk 검정정규성 여부를 통계적·수치적으로 검정
정규성을 만족하지 않으면 로그 변환 등 변수 변환이나 비선형 모델을 고려하는 것이 일반적 — "종속변수와 상관계수 높은 독립변수를 제거"하는 것과는 직접 관련이 없다.
↓ 기출 4번 연결 ↓
QUESTION 04
잔차의 오차 정규성 검정
34회 기출
관련 문제
오차의 정규성은 모델의 신뢰도를 평가하는 데 있어 필수적인 요소이다. 다음 중 잔차 분석의 오차 정규성 검정에 대한 설명으로 옳지 않은 것은?
① Q-Q Plot을 통해 잔차가 정규 분포를 따르는지 시각적으로 확인할 수 있다.
② 잔차의 히스토그램은 잔차의 분포 형태를 보여주어 정규성 여부를 판단하는 데 도움을 준다.
③ Shapiro-Wilk 검정과 같은 통계적 검정을 통해 잔차의 정규성을 수치적으로 확인할 수 있다.
④ 정상성을 만족하지 않을 때는 종속변수와 상관계수가 높은 독립변수를 제거한다.
정답 ④
잔차의 정규성 검정을 위해 Q-Q Plot, 히스토그램, Shapiro-Wilk 검정과 같은 방법을 사용하며, 잔차가 정규성을 따르지 않는 경우에는 변수 변환(예: 로그 변환)이나 다른 비선형 모델을 고려하는 것이 일반적이다. 종속변수와 상관계수가 높은 독립변수를 제거하는 방식은 오차 정규성과 직접적인 연관이 없다.