01 · Lesson overview

많은 변수를 소수의 핵심 축으로 요약하기

학습목표 → 전체 지식 지도 → 일상적 사례 순서로 이해합니다.

교재 p.332

한눈에 보는 PCA의 지식 구조

핵심 한 문장 — PCA는 변수들의 선형결합으로 만든 새로운 축을 이용해 전체 분산을 최대한 보존하며 차원을 줄이는 기법입니다.

학습목표 3가지

1
주성분분석 이해
주성분·차원 축소·분산 보존의 의미를 설명한다.
2
다중공선성의 영향 이해
상관이 높은 입력변수의 중복을 주성분으로 다루는 이유를 이해한다.
3
PCA와 요인분석 구별
분산 요약과 잠재요인 설명이라는 목적 차이를 말한다.

관광연구 예시 · 가상

관광객 설문에서 만족도·추천의도·재방문의도처럼 서로 비슷하게 움직이는 응답이 있으면, PCA는 응답의 변동을 요약하는 축을 찾을 수 있습니다. 단, 서로 다른 개념을 무조건 합치는 것은 아닙니다.

02 · Four-panel comic 1

섹션 만화 ① 주성분분석이 뭐예요?

변수가 많을 때, 비슷한 정보를 묶고 핵심 방향만 남기는 과정을 4컷으로 이해합니다.

만화 슬라이드

핵심 메시지

PCA는 많은 변수를 몇 개의 핵심 주성분으로 요약하는 방법

1컷 : 변수(키, 몸무게, 성적 등)가 너무 많으면 한눈에 보기 어렵습니다.
2컷 : 서로 비슷한 정보는 같은 묶음으로 정리할 수 있습니다.
3컷 : 그중에서도 가장 중요한 방향이 제1주성분, 그다음 방향이 제2주성분입니다.
4컷 : 변수 수는 줄지만, 정보의 핵심 패턴은 최대한 남깁니다.

수업에서 바로 설명하기

“PCA는 복잡한 정보더미에서 핵심 줄거리만 뽑는 요약 정리 도구예요.”라고 설명하면 학생들이 쉽게 이해합니다.

한마디로, 많은 변수 → 비슷한 정보 묶기 → 중요한 방향 찾기 → 적은 주성분으로 요약의 흐름입니다.

03 · Main theory

주성분은 원래 변수의 선형결합

어떤 축을 선택하느냐에 따라 담아낼 수 있는 변동이 달라집니다.

교재 p.332

주성분의 정의

PCA는 원래 변수 X₁, X₂, …, Xₚ를 가중합하여 새로운 변수인 PC1, PC2, …를 만듭니다.

PC₁ = a₁X₁ + a₂X₂ + ··· + aₚXₚ

a₁, a₂, …는 각 변수가 주성분 축에 기여하는 가중치입니다. 보통 변수는 먼저 평균 중심화하고, 척도가 다르면 표준화합니다.

① 첫 번째 주성분(PC1)

원래 데이터에서 분산이 가장 큰 방향을 찾아냅니다.

② 두 번째 주성분(PC2)

PC1에 직교하며, 남은 방향 가운데 분산이 최대가 되도록 선택합니다.

③ 차원 축소

PC1~PCm만 남기면 p개의 변수 대신 m개로 자료를 표현합니다. 일반적으로 m < p입니다.

그림으로 보는 주성분의 방향

주성분 벡터

서로 다른 축은 직교합니다. 표본에서 PC 점수끼리의 공분산은 0입니다.

차원 축소

전체 축 대신 일부 축만 사용하면 일부 정보 손실을 감수하고 단순화합니다.

04 · Four-panel comic 2

섹션 만화 ② 제1주성분과 제2주성분

데이터가 가장 크게 퍼진 방향이 PC1, 그다음 중요한 방향이 PC2라는 점을 직관적으로 봅니다.

만화 슬라이드

핵심 메시지

PC1은 가장 큰 변동, PC2는 그다음 변동

1컷 : 점들이 길게 퍼진 모양을 보면 “어느 방향이 제일 중요할까?”를 묻게 됩니다.
2컷 : 가장 많이 퍼진 방향이 바로 제1주성분입니다.
3컷 : 그다음 중요한 방향을 찾는데, PC1과 겹치지 않도록 직교하게 잡습니다.
4컷 : 그래서 PCA는 중요한 방향을 순서대로 뽑는 방법입니다.

PC1가장 큰 분산

PC2다음 분산

직교겹치지 않는 방향

의미중요한 축의 순위

05 · Interactive experiment

축을 움직이면 보존되는 분산이 달라집니다

가상 산점도에서 후보 축을 회전시키고 PCA가 찾는 가장 좋은 방향을 확인해 보세요.

교재 p.332 확장

원자료 2차원 → 1차원으로 투영

후보 축의 각도0°

보라색 점선은 후보 축에 자료를 수직으로 내려 찍은 위치입니다. 아래 비율은 이 가상 데이터에서 직접 계산합니다.

후보 축이 담는 정보

원자료 총분산 중 후보 축의 분산 비율

—

축을 회전해 보세요

선택한 축에 보존된 분산버려지는 분산

실험의 결론
PCA는 축을 임의로 정하는 것이 아닙니다. 투영 후 분산이 가장 커지는 방향이 PC1입니다.

이 산점도는 2개 변수에서 1개의 축을 고르는 상황입니다. 실제 p차원 PCA도 같은 원리를 더 많은 차원에 적용합니다.

두 축이 직각이라는 사실과 두 축의 점수가 비상관이라는 사실은 구별해야 합니다. PCA가 찾은 고유벡터 축에서 주성분 점수가 비상관이 됩니다.

06 · Four-panel comic 5

섹션 만화 ⑤ 차원축소는 뭐예요?

복잡한 3차원·4차원 정보를 2차원처럼 더 적은 축으로 줄여 보는 개념을 보여 줍니다.

만화 슬라이드

핵심 메시지

복잡한 여러 축을 더 적은 축으로 줄여 쉽게 보는 것

1컷 : 3차원, 4차원 자료는 사람 눈으로 이해하기 어렵습니다.
2컷 : 그래서 중요한 축만 남기고 덜 중요한 축은 줄입니다.
3컷 : 3차원 자료를 2차원으로 줄여도 비슷한 구조가 남을 수 있습니다.
4컷 : 덕분에 시각화와 해석이 쉬워집니다.

차원축소의 목적은 ‘모든 정보를 완벽히 복사’하는 것이 아니라, 핵심 구조를 덜 복잡하게 표현하는 데 있습니다.

07 · Eigenvalues & explained variance

고유값으로 몇 개의 주성분을 남길까?

평균고유값방법(Kaiser 기준), 설명분산비율, 누적 설명력을 구분합니다.

교재 p.332 연계 개념

가상의 표준화된 변수 5개 분석 결과

평균고유값방법: 표준화된 p개 변수의 상관행렬을 사용하는 PCA에서는 고유값의 합이 p이고 평균은 1이므로, 고유값이 1보다 큰 주성분을 선택하는 경험적 방법입니다. 유일한 정답 기준은 아닙니다.

남길 주성분 수를 선택해 보세요

주성분을 몇 개 남길까요? (가상 수치)

누적 설명분산비율

74.0%

5차원 → 2차원

남기지 못하는 분산 26.0%

주성분	고유값 λ	설명비율
PC1	2.55	51.0%
PC2	1.15	23.0%
PC3	0.62	12.4%
PC4	0.42	8.4%
PC5	0.26	5.2%

계산 공식 설명비율 = λᵢ ÷ Σλ × 100%
누적 설명비율 = 선택한 주성분들의 설명비율 합계

시험·연구에서 함께 기억하기 — 고유값 1 기준은 상관행렬(표준화 PCA)에서 주로 쓰는 간편 규칙입니다. 실제 연구에서는 스크리 도표, 누적 설명력, 평행분석, 연구 목적 및 해석 가능성을 함께 확인합니다.

08 · Four-panel comic 6

섹션 만화 ⑥ 평균고유값방법

고유값이 1보다 큰 주성분만 남기는 Kaiser 기준을 막대그래프로 쉽게 익힙니다.

만화 슬라이드

핵심 메시지

고유값이 1보다 큰 주성분만 선택

1컷 : 여러 주성분 가운데 무엇을 남길지 고민합니다.
2컷 : 평균고유값방법에서는 기준선을 1로 둡니다.
3컷 : 1보다 큰 성분만 남기고, 1보다 작은 성분은 보통 제외합니다.
4컷 : 예시에서는 제1주성분, 제2주성분만 선택됩니다.

정확한 해석을 위한 보충

고유값 > 1은 표준화된 변수의 상관행렬 PCA에서 사용하는 경험적 기준입니다. 표준화한 변수가 4개라면 고유값의 합은 4, 평균은 1입니다. 예를 들어 고유값이 2.2, 1.2, 0.4, 0.2이면 합은 4이고 PC1·PC2를 선택합니다.

그림 안내: 만화의 2.4, 1.5, 0.8, 0.3은 합이 5인 개념 설명용 숫자이며, 표준화 변수 4개의 실제 고유값 결과로 해석하지 않습니다.

09 · Concept distinction

PCA와 요인분석은 무엇을 찾는지가 다릅니다

둘 다 변수들 사이의 패턴을 다루지만, 목적과 통계모형이 다릅니다.

교재 p.332

PCA · 주성분분석

데이터 변동을 요약하는 새 축

만족도추천의도재방문의도

↓ 선형결합 ↓

PC1 · 자료가 가장 크게 퍼진 축

질문: "다수의 변수를 적은 수의 축으로 요약할 수 있는가?"

전체 분산을 큰 비중으로 보존하고 차원을 축소하는 데 초점.

FA · 요인분석

관측변수 뒤의 잠재요인

잠재요인 · 관광지 애착

↓ 측정모형 ↓

정서적 유대장소 동일시장소 의존

질문: "여러 문항이 공통으로 반영하는 잠재구성개념은 무엇인가?"

공통분산과 고유분산·오차를 구분하는 모형으로 상관 패턴을 설명.

핵심 비교표

구분	주성분분석 PCA	요인분석 FA
주요 목적	차원 축소·분산 보존	잠재요인 탐색·관측변수 공분산 설명
기본 접근	원변수의 선형결합인 주성분 구성	공통요인과 고유요인을 포함한 측정모형
주로 설명하는 변동	원변수의 전체 분산	변수들 사이의 공통 분산·공분산 구조
활용 예	많은 평가 지표를 몇 개 점수로 요약	관광지 애착 등 이론적 잠재구성개념의 구조 탐색

연구에서는 목적을 먼저 결정해야 합니다. 설문 척도의 잠재구성개념 타당화가 목적이라면 PCA와 공통요인분석을 같은 것으로 취급하지 않습니다.

10 · Four-panel comic 7

섹션 만화 ⑦ 주성분분석과 요인분석의 차이

둘 다 변수를 줄이지만, PCA는 요약이고 요인분석은 설명이라는 목적 차이를 시각적으로 정리합니다.

만화 슬라이드

핵심 메시지

PCA는 데이터 요약, 요인분석은 숨은 요인 해석

1컷 : 둘 다 여러 변수를 적게 줄인다는 점에서는 비슷합니다.
2컷 : PCA는 원래 데이터의 분산(정보)을 최대한 보존하면서 줄입니다.
3컷 : 요인분석은 관측변수 뒤에 숨어 있는 공통된 원인을 찾습니다.
4컷 : 결국 PCA = 요약, 요인분석 = 설명으로 기억하면 됩니다.

PCA분산 보존

새 변수주성분

FA잠재요인

목적숨은 구조 설명

11 · Frequent trap

다중공선성을 줄이지만 ‘독립’을 보장하진 않습니다

기출 61번이 묻는 핵심: 원본 변수와 주성분, 그리고 주성분끼리의 관계를 구별하세요.

교재 pp.332–333

상관이 높은 변수들의 문제

원래 변수가 서로 비슷한 정보를 담으면 회귀계수 해석이 불안정할 수 있습니다. PCA 주성분 점수는 서로 공분산 0이 되도록 만들어 중복된 방향을 구분합니다.

활용: 주성분 점수를 회귀의 설명변수로 사용하면 입력변수 사이의 다중공선성을 완화할 수 있습니다. 다만 원변수별 계수 해석은 어려워질 수 있습니다.

자주 틀리는 두 가지 구별

① 주성분끼리: 비상관(Uncorrelated)

표본 주성분 점수들의 상관계수는 0입니다(표준적인 PCA, 서로 다른 고유축 선택). 반드시 확률적으로 독립(Independent)인 것은 아닙니다.

② 원본 변수와 주성분: 선형결합 관계

주성분은 원본 변수들로부터 계산됩니다. 원자료와 아무 관련 없는 외부의 독립변수가 아닙니다.

③ 정보 손실: 차원 감소의 대가

p개 중 m개만 남기면 제외한 주성분에 해당하는 분산이 사라집니다. 완전 무손실은 일반적으로 성립하지 않습니다.

비상관두 변수의 선형적 공변동이 없음
Cov(PC1, PC2) = 0

독립한 변수의 값이 다른 변수의 확률분포에 영향을 주지 않음
보다 강한 조건

예외: 공동 정규분포와 같은 추가 조건 아래에서는 비상관으로부터 독립을 결론낼 수 있습니다.

12 · Four-panel comic 3

섹션 만화 ③ 다중공선성이 뭐예요?

서로 비슷한 변수들이 정보를 겹쳐서 말하는 상태를 쉬운 비유로 보여줍니다.

만화 슬라이드

핵심 메시지

다중공선성은 변수들이 너무 비슷해서 정보가 겹치는 상태

1컷 : 키·몸무게·체중처럼 함께 움직이는 변수들이 있습니다.
2컷 : 결국 같은 이야기를 여러 번 반복하는 셈이 됩니다.
3컷 : 이런 중복이 많으면 회귀나 해석이 복잡해집니다.
4컷 : PCA는 이런 비슷한 변수들을 묶어 하나의 주성분으로 요약합니다.

학생에게는 “친구 세 명이 거의 같은 답을 동시에 말하면, 내용을 한 번만 정리해도 되는 것”이라고 비유하면 좋습니다.

13 · Four-panel comic 4

섹션 만화 ④ PCA는 겹치는 정보를 어떻게 줄일까요?

선형결합을 통해 여러 변수를 몇 개의 축으로 묶는 과정을 장면으로 정리합니다.

만화 슬라이드

핵심 메시지

비슷한 변수들을 몇 개의 주성분으로 바꾸어 중복을 줄인다

1컷 : 건강 관련 변수들이 너무 많으면 헷갈립니다.
2컷 : 비슷한 변수들을 선형결합하여 하나의 축(예: 건강 주성분)으로 묶습니다.
3컷 : 여러 개 변수 대신 몇 개의 주성분만 남기면 구조가 간단해집니다.
4컷 : 그 결과, 분석과 시각화가 훨씬 쉬워집니다.

연결 설명

이 만화는 61번·62번 기출의 핵심 표현인 차원 축소, 선형결합, 주요 패턴 유지를 그림으로 묶어 줍니다.

14 · Four-panel comic 8

섹션 만화 ⑧ 결과해석은 어떻게 하나요?

결과표를 보고 설명력과 적재량을 읽어 각 주성분의 의미를 정하는 과정을 4컷으로 정리합니다.

만화 슬라이드

핵심 메시지

설명력과 변수 묶음을 보고 주성분의 의미를 붙인다

1컷 : 먼저 결과표에서 고유값, 설명력, 적재량을 봅니다.
2컷 : 각 주성분이 전체 분산을 얼마나 설명하는지 확인합니다.
3컷 : 어떤 변수들이 특정 주성분에 강하게 묶였는지 보고 이름을 붙입니다.
4컷 : 숫자를 해석 가능한 의미(예: 학습 주성분, 건강 주성분)로 바꿉니다.

시험에서는 보통 설명력 확인 → 적재량 확인 → 주성분 의미 해석 순서로 읽으면 가장 안정적입니다.

15 · Previous exam question

기출 61번 · 적절하지 않은 설명 고르기

왼쪽에서 선택지를 클릭해 채점하고, 오른쪽 이론 도식을 보며 근거를 확인합니다.

교재 p.333 · 34회

61번주성분분석 · 개념 판별

주성분분석에 대한 설명 중 적절하지 않은 것은 무엇인가?

선택 후 이유가 표시됩니다. 위 문항의 ④는 충분한 설명분산이 소수 주성분에 집중된 상황을 전제로 하는 일반적 목적 서술입니다.

이 문제의 핵심 이론

PC₁ = a₁X₁ + a₂X₂ + … + aₚXₚ

주성분은 원래 변수의 선형결합입니다. 따라서 원본 변수와 관계없는 완전히 새롭고 독립적인 외부 데이터가 아닙니다.

헷갈리는 ‘비상관 vs 독립’ 시각화

PC1 ⟂ PC2서로 직교하는 축

Cov = 0점수끼리 비상관

≠ 자동 독립독립은 더 강한 조건

원변수의 함수PC는 X들로부터 계산

단, 특정 확률분포 조건에서는 비상관과 독립이 함께 성립할 수 있습니다. ‘PCA이면 언제나 독립’이라고 일반화할 수 없다는 점이 핵심입니다.

기억할 판단 순서

① PCA가 차원을 줄이나? → 예.

② 전체 분산을 최대한 보존하나? → 예.

③ 주성분이 원래 변수에서 계산되나? → 예.

④ 원래 변수와 무관한 독립변수인가? → 아니요.

16 · Previous exam question

기출 62번 · 설명에 맞는 분석법 찾기

‘차원 축소 + 선형결합 + 주요 패턴 유지’라는 세 표현을 한꺼번에 연결합니다.

교재 p.333 · 38회

62번통계 분석 기법 구분

다음 설명을 가장 잘 나타내는 기법은 무엇인가?

• 데이터 변수를 축소하면서 정보 손실을 최소화하는 방법
• 기존 변수들의 선형결합을 통해 새로운 변수를 생성함
• 축소된 차원으로도 주요 패턴을 유지하며 분석이 가능함

문제의 단서 3개

차원 축소p개 → m개

→

선형결합새 주성분

→

분산 보존핵심 패턴

세 단서가 함께 제시되면 주성분분석(PCA)이 대표적인 답입니다.

다른 선택지는 왜 다른가요?

방법	핵심 질문
군집분석	서로 비슷한 관측치를 어떤 그룹으로 나눌까?
회귀분석	설명변수로 결과변수를 어떻게 설명·예측할까?
주성분분석	원변수들의 변동을 몇 개의 축으로 요약할까?
판별분석	이미 정해진 집단을 구분하는 판별 함수를 어떻게 만들까?

시험 문장 완성

“PCA는 여러 원변수의 선형결합으로 서로 비상관인 주성분을 만들고, 분산을 최대한 보존하며 차원을 축소한다.”

17 · Review & exam checklist

최종 암기 5개 키워드와 정답 정리

개념·수식·헷갈리는 표현을 마지막 한 장에 모았습니다.

교재 pp.332–333

차원 축소 (Dimensionality Reduction)

p개의 변수를 m개 주성분으로 요약. 단, 정보 손실을 일반적으로 0으로 만들지는 못함.

선형결합 (Linear Combination)

주성분은 원본 변수의 가중합. 외부에서 독립적으로 생겨나는 변수가 아님.

분산 최대화 (Variance Maximization)

PC1은 분산이 가장 큰 방향, PC2는 PC1과 직교한 방향에서 남은 분산 최대화.

비상관 (Uncorrelated)

서로 다른 주성분 점수의 공분산은 0. ‘확률적 독립’을 보편적으로 보장하지 않음.

평균고유값방법 (Kaiser Criterion)

상관행렬 PCA에서는 평균 고유값 1을 기준으로 고유값이 1보다 큰 성분을 선택하는 경험적 기준.

기출문제 정답

34회 · 61번

③

원본과 독립이라는 표현이 부적절

38회 · 62번

③

차원 축소 + 선형결합 + 분산 보존

정답만 외우기보다 각 선택지에 쓰인 분석 개념을 구분하면 유사 문항도 풀 수 있습니다.

시험 직전 10초 점검

① 가장 큰 변동의 방향?

PC1

② 다른 주성분과 어떤 관계?

직교 / 주성분 점수끼리 비상관

③ PCA와 요인분석의 핵심 차이?

PCA는 전체 분산 요약, 요인분석은 잠재요인과 공통분산 구조를 설명

④ 주성분 개수를 선택할 때?

고유값, 누적 설명비율, 스크리 도표 및 연구 목적 검토

최종 핵심 — ‘선형결합 → 분산 최대화 → 비상관인 주성분 → 차원 축소’ 순서로 기억하세요. 관광연구에서 척도의 잠재구조 탐색이 목적이라면 요인분석과의 차이도 반드시 검토해야 합니다.