1컷상황 발견
💬“어? 질문이 스무 개나 있네!”
변수가 많으면 한눈에 보기 어려워요.
01 / 개념 도입 · 학습 목표
4장 통계 분석 · PCA & SVD
복잡한 데이터를
핵심 방향으로
줄이는 방법
주성분분석(PCA)은 여러 변수에 담긴 중복 정보를 정리해 소수의 새 변수로 표현합니다. 특이값분해(SVD)는 그 원리를 이해하고 구현하는 중요한 행렬 도구입니다.
주성분분석 목적 설명
공분산과 행렬 이해
고유벡터와 고유값 구분
SVD 기출문제 풀이
많은 변수 → 적은 주성분핵심 정보 유지
예시: 표준화된 두 변수의 상관계수가 0.85인 경우 첫 주성분이 총분산의 92.5%를 설명합니다.
이론 목적 → 공분산 → 고유벡터·고유값 → 응용 → SVD 기출 63번 → 정답 해설
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
여러분, 여행객 한 사람에게 여행 만족도를 스무 가지 질문으로 조사했다고 생각해 봅시다. 자료에는 숫자가 스무 줄이나 생기겠죠. 그런데 자세히 보면 비슷한 내용을 묻는 질문들이 함께 움직일 수도 있습니다. 그러면 숫자는 많은데 새로운 정보는 생각보다 적을 수 있어요.
주성분분석, 즉 PCA는 이렇게 겹치는 정보를 잘 설명하는 새로운 방향을 찾는 방법입니다. 스무 질문 중 몇 개를 무작정 지우는 것이 아니라, 질문들이 함께 움직이는 패턴을 새로운 축으로 표현하는 것이죠. 오늘은 그 축을 어떻게 찾는지, 그리고 SVD가 왜 연결되는지 알아보겠습니다.
💬 학생에게 질문“설문 문항이 20개라면, 서로 완전히 다른 정보도 반드시 20개일까요?”
설명 포인트: 아닙니다. 문항 간 상관이 높으면 정보가 중복될 수 있습니다.
01 / 주요 원리 · 4컷 개념 만화
왜 복잡한 데이터를 줄여야 할까?
많은 변수 → 중복 발견 → 주성분 축 생성 → 핵심 정보 요약
2컷문제 확인
💬“둘이 비슷한 얘기를 하네!”
변수에 서로 겹치는 정보가 있을 수 있어요.
3컷원리 이해
💬“새로운 기준으로 방향을 잡자!”
PCA는 변동이 큰 새 축을 찾습니다.
4컷결과 적용
💬“핵심 축만 남겨도 보이네!”
적은 주성분으로 요약하되 설명력을 확인해요.
★ 핵심 원리
주성분분석은 원래 변수를 단순히 버리는 것이 아니라, 서로 직교하는 새 축을 찾아 차원을 줄이는 방법입니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷에서는 설문 문항이 너무 많아서 당황합니다. 둘째 컷에서는 여러 문항이 사실 비슷한 이야기를 하고 있다는 것을 발견하죠. 여러분도 ‘교통이 편하다’와 ‘이동이 수월하다’가 비슷하게 답해질 수 있다는 걸 떠올려 보세요.
셋째 컷에서 PCA는 자료가 많이 퍼져 있는 방향으로 새 축을 잡습니다. 마지막 컷에서는 그 축들 중 중요한 몇 개만 남겨 자료를 간단하게 만듭니다. 여기서 기억할 말은 하나예요. ‘무작정 삭제’가 아니라 ‘새 기준으로 요약’입니다.
💬 학생에게 질문“왜 PC1, PC2라는 이름을 새로 붙일까요?”
설명 포인트: 원래 변수의 이름이 아니라, 여러 변수를 결합해 만든 새로운 축이기 때문입니다.
02 / 주성분분석 목적
여러 개의 비슷한 정보를, 적은 수의 새 축으로
비슷하게 움직이는 변수들이 있다면 완전히 같은 정보를 반복할 필요가 없습니다. 변동이 큰 방향부터 새로운 축(PC1, PC2, …)을 찾습니다.
📦 핵심 원리 그림
원래 변수 X, Y
비슷한 대각선 방향으로 함께 변함
→
새 축 PC1, PC2
PC1에 정보가 집중되고 PC2는 변동이 작음
왜 쓰나요?
1
차원 축소 — 변수의 수를 줄여 주요 패턴을 간결하게 파악
2
다중공선성 완화 — 서로 직교하는 주성분을 회귀 입력으로 활용
3
군집·시각화 — 복잡한 데이터를 소수 차원에 배치해 구조 탐색
4
센서 상태 모니터링 — 정상 데이터와 다른 패턴이 생기는지 살펴봄
한 줄 암기: PCA = ‘변수를 버리는 것’만이 아니라 ‘새로운 축을 만드는 것’
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
교실 바닥에 학생들이 한 줄로 비스듬히 서 있다고 상상해 보세요. 가로 방향으로만 봐도, 세로 방향으로만 봐도 학생들이 얼마나 길게 늘어섰는지 한 번에 알기 어렵습니다. 그런데 학생들이 늘어선 대각선 방향으로 눈금자를 놓으면 전체 퍼짐을 잘 보여 줄 수 있겠죠?
PCA의 첫 번째 주성분 PC1이 바로 그런 눈금자입니다. 데이터가 가장 크게 퍼지는 방향을 먼저 고르고, 그 방향과 직각인 다음 방향이 PC2가 됩니다. 필요한 축만 남기면 그림을 더 간단히 볼 수 있지만, 남기지 않은 축의 정보는 그만큼 줄어든다는 점도 기억해야 합니다.
💬 학생에게 질문“학생들이 길게 늘어선 방향과 직각인 방향 중, 어느 쪽이 더 많은 퍼짐을 보여 줄까요?”
설명 포인트: 길게 늘어선 방향입니다. 이것이 PC1이 선택되는 기본 원리입니다.
02 / 주요 원리 · 4컷 개념 만화
주성분은 어떻게 만들어질까?
상관된 변수의 점 구름 → 퍼짐이 가장 큰 방향 → PC1 → 정보의 간결한 표현
1컷상황 발견
💬“X와 Y가 함께 변하네!”
두 변수가 비슷한 방향으로 움직여요.
2컷문제 확인
💬“점들이 대각선으로 길게 모였어.”
정보가 특정 방향에 집중되어 있어요.
3컷원리 이해
💬“가장 길게 퍼진 축을 찾았어!”
분산이 최대가 되는 방향을 PC1로 선택해요.
4컷결과 적용
💬“PC1만으로도 많이 설명되네!”
일부 성분을 남기면 정보 손실이 생길 수 있어요.
★ 핵심 원리
PC1은 데이터의 분산을 가장 크게 설명하는 방향이며, PC2는 PC1과 직교하면서 남은 분산을 가장 크게 설명합니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷의 X와 Y는 서로 비슷하게 움직이고 있습니다. 둘째 컷의 점들이 대각선으로 길게 퍼진 것이 그 증거예요. 여기까지는 ‘점들이 어떻게 모여 있지?’를 보는 단계입니다.
셋째 컷에서는 그 긴 방향에 PC1이라는 새로운 자를 놓습니다. 넷째 컷에서는 각 점을 그 자 위에 내려놓아, 원래 2차원에서 보이던 큰 차이를 한 줄로 간단히 표현합니다. 단, 한 줄만 남기면 원래 위치를 완벽하게 되찾을 수 없는 경우가 있다는 점까지 설명해 주세요.
💬 학생에게 질문“PC1만 남겼는데도 원래 점 위치를 완벽히 알 수 있을까요?”
설명 포인트: 일반적으로는 아닙니다. PC2 방향의 변동을 버리면 정보 손실이 생깁니다.
03 / 핵심 도구 ① 공분산·공분산행렬
두 변수가 함께 움직이는 방향을 찾아라
아래는 각각 분산이 1이 되도록 표준화한 가상 자료입니다. 상관계수 ρ를 바꾸면 공분산의 부호와 점들의 기울기가 함께 바뀝니다.
상관관계를 직접 바꾸기
+0.75
양의 공분산: X가 커질수록 Y도 커지는 경향
공분산행렬 (Covariance Matrix)
두 변수의 분산은 대각선에, 두 변수의 공분산은 비대각선에 담습니다.
1.00+0.75+0.751.00
Cov(X,Y) = Σ[(xᵢ − x̄)(yᵢ − ȳ)] / (n − 1)
이 예시에서는 표본분산이 모두 1이므로 공분산 = 상관계수입니다.
대칭Cov(X,Y) = Cov(Y,X)
양(+)두 변수의 함께 변하는 방향
공분산은 변수의 측정 단위에 영향을 받습니다. 단위·척도가 다르면 보통 표준화 후 상관행렬을 사용하는 PCA를 고려합니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
날씨가 더워질수록 아이스크림 판매량도 함께 늘어난다면 두 숫자는 같은 방향으로 움직이는 경향이 있겠죠. 이런 동반 움직임을 공분산으로 생각할 수 있습니다. 반대로 바깥 기온이 올라갈수록 난방 사용량이 줄면 음의 공분산이 나타날 수 있습니다.
아래 슬라이더를 오른쪽과 왼쪽으로 움직여 보세요. 점이 오른쪽 위로 모이면 양의 관계, 오른쪽 아래로 모이면 음의 관계에 가깝습니다. 공분산행렬은 이런 관계를 표처럼 모아 둔 것입니다. 대각선에는 각 변수 자신의 분산, 나머지 칸에는 두 변수의 공분산이 들어가죠. 이 예시에서는 두 변수를 표준화했기 때문에 공분산 숫자와 상관계수 숫자가 같습니다.
💬 학생에게 질문“슬라이더를 0으로 맞추면, 두 변수가 서로 완전히 무관하다고 말해도 될까요?”
설명 포인트: 아닙니다. 선형 상관이 0일 뿐, 곡선 형태의 관계는 있을 수 있습니다.
03 / 주요 원리 · 4컷 개념 만화
두 변수의 움직임을 어떻게 읽을까?
양의 공분산 → 음의 공분산 → 0에 가까운 공분산 → 공분산행렬
1컷상황 발견
💬“X가 오를 때 Y도 오르네!”
양(+)의 공분산: 같은 방향으로 움직이는 경향
2컷문제 확인
💬“이번엔 Y가 내려가!”
음(−)의 공분산: 반대 방향으로 움직이는 경향
3컷원리 이해
💬“한쪽으로 기울지 않는군.”
공분산 0은 선형 연관성이 없음을 뜻해요.
4컷결과 적용
💬“관계를 표에 담으니 대칭이네!”
Cov(X,Y)=Cov(Y,X), 대각선은 분산
★ 핵심 원리
공분산의 부호는 두 변수가 함께 변하는 선형 방향을 나타냅니다. 공분산행렬은 대칭이며, 대각선에는 각 변수의 분산이 들어갑니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷을 보세요. X가 커질 때 Y도 함께 커지니 양의 공분산입니다. 둘째 컷에서는 한쪽이 커질 때 다른 쪽이 줄어드니 음의 공분산이죠. 셋째 컷에서는 뚜렷하게 위나 아래로 기울지 않아 공분산이 0에 가깝습니다.
마지막 컷에서는 이 관계를 네 칸짜리 표에 넣습니다. 여기서 표의 왼쪽 위와 오른쪽 아래는 각 변수의 ‘자기 퍼짐’, 오른쪽 위와 왼쪽 아래는 두 변수의 ‘함께 움직임’입니다. 두 변수의 순서를 바꿔도 공분산은 같아서 표가 대칭이 됩니다.
💬 학생에게 질문“공분산행렬의 대각선에 들어가는 것은 무엇인가요?”
설명 포인트: 각 변수의 분산입니다. 나머지 칸은 변수 사이 공분산입니다.
04 / 핵심 도구 ② 고유벡터와 고유값
고유벡터는 방향, 고유값은 그 방향의 분산 크기
기준은 분산이 1인 두 변수의 공분산행렬입니다. 변수 간 상관의 크기를 조절해 주성분의 방향과 설명력을 관찰하세요.
주성분 축을 움직이는 그림
+0.85
긴 축(청록) = 첫째 주성분, 짧은 축(주황) = 둘째 주성분. 두 축은 직교합니다.
계산으로 비교하기
1.85λ₁: 첫째 주성분 분산(고유값)
0.15λ₂: 둘째 주성분 분산(고유값)
PC1 분산 설명률92.5%
PC2 분산 설명률7.5%
A v = λ v
v (Eigenvector): 변환 후에도 원래 방향과 평행한 벡터
λ (Eigenvalue): 변환에 따른 벡터의 배율이며, PCA에서는 해당 주성분의 분산
이 예시에서 λ₁=1+|ρ|, λ₂=1−|ρ|, 총분산=2입니다.
고유값이 같을 때(ρ=0) 첫째 주성분 방향은 유일하게 정해지지 않습니다. 주성분은 서로 상관이 없지만, 일반적으로 통계적으로 독립이라고 단정하지 않습니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
운동장에 모인 사람들이 긴 타원 모양으로 퍼져 있다고 상상해 보세요. 그 타원의 긴 방향을 가리키는 화살표가 있다면 ‘어느 방향으로 많이 퍼졌는지’를 알 수 있겠죠. PCA에서는 그 방향을 고유벡터로 나타냅니다.
그렇다면 얼마나 많이 퍼졌는지는 무엇으로 알까요? 고유값입니다. PCA에서 고유값은 해당 주성분 축을 따라 나타나는 분산의 크기예요. 아래 상관계수 슬라이더를 조절하면서 긴 축과 짧은 축의 차이가 어떻게 변하는지 봅시다. 고유값 1.85와 0.15를 더하면 전체 분산은 2이고, 첫 축의 설명률은 1.85 나누기 2, 즉 92.5%입니다.
💬 학생에게 질문“고유벡터가 알려주는 것과 고유값이 알려주는 것은 각각 무엇이죠?”
설명 포인트: 고유벡터는 방향, 고유값은 그 방향의 분산 크기입니다.
04 / 주요 원리 · 4컷 개념 만화
방향과 중요도를 어떻게 구분할까?
점 구름의 길쭉한 방향 → 고유벡터 → 고유값 → 분산 설명률
1컷상황 발견
💬“점이 이쪽으로 길쭉하게 퍼졌어!”
데이터의 퍼짐 방향을 먼저 살펴봐요.
2컷문제 확인
💬“방향을 나타내는 화살표야!”
고유벡터는 방향을 나타냅니다.
3컷원리 이해
💬“긴 축 쪽 숫자가 더 크네!”
고유값은 해당 축의 분산 크기예요.
4컷결과 적용
💬“설명률은 고유값의 비율이구나!”
설명률 = 해당 고유값 ÷ 모든 고유값의 합
★ 핵심 원리
고유벡터(Eigenvector)는 주성분 축의 방향, 고유값(Eigenvalue)은 그 축이 설명하는 분산 크기를 의미합니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷에서 데이터가 길게 퍼진 모습을 먼저 봅니다. 둘째 컷의 화살표는 그 퍼짐의 방향을 알려 주니까 고유벡터라고 생각하세요. 셋째 컷의 숫자는 그 방향으로 얼마나 크게 퍼져 있는지 보여 주는데, PCA에서 이 숫자가 고유값입니다.
넷째 컷에서는 전체 고유값 중 첫째 고유값이 차지하는 몫을 계산합니다. 예를 들어 전체가 10인데 첫째 고유값이 8이라면, 첫 주성분은 전체 분산의 80%를 설명합니다. 방향과 크기를 구분하면 고유벡터와 고유값이 훨씬 덜 헷갈립니다.
💬 학생에게 질문“설명률을 구할 때 분모에는 무엇이 들어가나요?”
설명 포인트: 모든 주성분 고유값의 합, 즉 전체 분산이 들어갑니다.
05 / 다중공선성과 PCA 실무 해석
비슷한 설명변수를 직교하는 주성분으로 바꾼다
회귀분석에서 설명변수 간 강한 선형 연관성이 있으면 계수 추정이 불안정해질 수 있습니다. PCA를 이용한 주성분회귀(PCR)는 이를 다루는 하나의 방법입니다.
회귀모형 입력의 변화
X₁ · X₂ · X₃서로 높은 상관
→PCA축을 회전해 변환
→PC₁ · PC₂서로 직교하는 점수
Y = β₀ + β₁PC₁ + β₂PC₂ + ε
새 입력변수 사이의 표본 공분산이 0이므로, 원변수들의 다중공선성 문제를 완화할 수 있습니다.
PCA는 종속변수 Y를 보지 않고 설명변수 X의 분산 방향을 찾습니다.
시험에서 반드시 구분
| 구분 | 정확한 이해 |
|---|---|
| 직교 | 주성분끼리 공분산 0 |
| 독립 | 일반적으로 보장되지 않음 |
| 설명률 | 원자료 분산의 보존 정도 |
| 예측력 | 차원 축소만으로 향상 보장 X |
| 분석 전 | 표준화 여부와 성분 수 검토 |
원자료의 작은 분산 방향에도 Y를 예측하는 중요한 정보가 있을 수 있습니다. 주성분 수는 누적 설명률 + 검증 데이터 성능을 함께 고려합니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
여러분이 관광객 만족도를 예측하는데, ‘교통이 편리하다’와 ‘이동이 수월하다’라는 질문을 동시에 설명변수로 넣었다고 생각해 봅시다. 두 문항의 점수가 거의 똑같이 움직이면, 회귀모형은 어떤 변수의 몫인지 따로 구분하기 어려울 수 있습니다. 이것이 다중공선성 문제입니다.
PCA를 거치면 이와 같이 함께 움직이는 변수들로부터 서로 직교하는 새 주성분을 만들 수 있습니다. 이렇게 얻은 주성분 점수로 회귀하는 방법이 주성분회귀, PCR입니다. 다만 PCA는 결과변수 Y를 보지 않고 X만 요약하기 때문에, 주성분을 적게 남겼다고 예측이 반드시 더 좋아지는 것은 아닙니다. 실제 데이터로 꼭 검증해야 하죠.
💬 학생에게 질문“PCA에서 분산이 작은 방향이면 Y를 예측하는 데도 반드시 중요하지 않을까요?”
설명 포인트: 그렇지 않습니다. 작은 분산 방향도 Y 예측에 중요할 수 있습니다.
05 / 주요 원리 · 4컷 개념 만화
닮은 설명변수가 많으면 무엇이 문제일까?
서로 강하게 상관된 X → 계수 불안정 가능 → 직교 주성분 → 회귀에 활용
1컷상황 발견
💬“X₁과 X₂가 거의 똑같네!”
원설명변수 간 강한 상관이 있어요.
2컷문제 확인
💬“누가 영향을 주었는지 헷갈려!”
회귀계수 추정이 불안정해질 수 있어요.
3컷원리 이해
💬“PC1과 PC2는 서로 직각이야!”
주성분 점수끼리는 표본 공분산이 0이에요.
4컷결과 적용
💬“이 축으로 회귀해 보자.”
PCR을 적용하고 예측력은 별도로 검증해요.
★ 핵심 원리
주성분회귀(PCR)는 상관이 높은 설명변수를 직교하는 주성분 점수로 변환해 회귀에 사용합니다. 예측 성능 향상은 검증이 필요합니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷에서는 두 설명변수가 너무 닮아 있습니다. 둘째 컷에서 회귀계수들이 서로 ‘내가 설명했어!’라고 다투는 모습을 떠올려 보세요. 실제로 강한 다중공선성은 계수의 불안정성을 키울 수 있습니다.
셋째 컷에서는 이 변수들을 PC1, PC2라는 서로 직각인 새 축으로 표현합니다. 넷째 컷은 그 주성분을 이용해 회귀분석을 하는 장면이죠. 핵심은 회귀계수를 더 안정적으로 추정하려는 접근이지, 성능이 무조건 좋아진다는 약속은 아닙니다.
💬 학생에게 질문“직교하는 주성분을 쓴다는 말이 서로 독립이라는 뜻인가요?”
설명 포인트: 일반적으로는 아닙니다. 주성분 점수 사이 공분산이 0이라는 뜻입니다.
06 / 실제 활용 분야
데이터를 줄이면 무엇이 가능해질까?
교재가 소개한 군집분석, 기계 센서 데이터, 회귀분석의 흐름을 실제 수업 사례로 정리했습니다.
🧭
관광객 군집분석
관광 선호·서비스 평가 등 다수 문항을 PC1·PC2로 요약한 뒤 비슷한 응답 패턴의 집단을 찾습니다.
설문 변수 15개 → PCA 3개 → 군집분석
도움: 시각화·연산 부담 감소 / 주의: 군집 품질 향상은 보장되지 않음
⚙️
기계 센서 이상탐지
온도·진동·압력 등 여러 센서의 정상 변동을 요약한 다음 평소와 다른 점수·재구성오차를 감시합니다.
센서 기록 → PCA → 이상 패턴 탐색
주의: PCA 단독으로 실제 고장 시점이나 원인을 확정할 수는 없음
📊
주성분회귀 (PCR)
상관이 높은 원설명변수 대신 직교한 주성분을 넣어 계수의 불안정성을 줄이는 방식을 검토합니다.
상관 높은 X → 직교 PC → 회귀 Y
주의: 변수의 원래 의미 해석이 어려워질 수 있음
핵심 암기: 차원 축소는 공통 원리, 군집·회귀·센서 분석은 대표 활용 상황입니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫 번째 활용은 관광객 설문입니다. 여행 선호를 묻는 문항 15개를 몇 개 주성분으로 요약한 뒤, 비슷한 응답 패턴을 가진 관광객을 묶는 군집분석에 활용할 수 있습니다. 학생들끼리 비슷한 취향의 팀을 찾아 보는 것과 비슷하죠.
두 번째는 기계 센서입니다. 평소 온도와 진동이 일정한 패턴으로 움직이다가 갑자기 다른 방향으로 튀는 경우를 찾아볼 수 있습니다. 세 번째는 방금 본 주성분회귀입니다. 단, 차원을 줄이면 분석이 간단해질 수 있다는 뜻이지, 군집 정확도나 고장 판정, 예측력이 자동으로 좋아진다는 뜻은 아닙니다.
💬 학생에게 질문“우리 관광 분야에서 PCA로 요약해 보면 좋을 자료에는 무엇이 있을까요?”
설명 포인트: 관광객 설문, 방문 동기, 서비스 평가 문항 등 상관된 다변량 자료를 예로 들 수 있습니다.
06 / 주요 원리 · 4컷 개념 만화
차원 축소는 어디에서 사용할까?
설문 변수 축소 → 군집 탐색 → 센서 이상 탐지 → 주성분회귀
1컷상황 발견
💬“관광객 설문 문항이 너무 많아!”
여러 평가 문항을 소수 성분으로 요약해요.
2컷문제 확인
💬“여행 취향이 비슷한 사람끼리!”
PCA 점수로 군집 구조를 탐색할 수 있어요.
3컷원리 이해
💬“센서 점이 평소와 다르네!”
정상 패턴과 다른 신호를 살펴봐요.
4컷결과 적용
💬“회귀 입력에도 쓸 수 있겠네!”
상관 높은 X → 직교 PC → Y 예측
★ 핵심 원리
PCA는 군집분석, 상태 모니터링, 회귀의 입력을 간결하게 만들 수 있습니다. 성능 개선이나 고장 판정이 자동으로 보장되지는 않습니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷은 설문 문항을 간단히 요약하는 장면입니다. 둘째 컷은 요약한 점수로 취향이 비슷한 관광객 집단을 찾는 장면이에요. 셋째 컷에서는 기계 센서의 점 하나가 평소 데이터 무리에서 벗어나 이상 징후를 의심하게 합니다.
넷째 컷에서는 상관이 높은 설명변수를 주성분으로 바꾸어 회귀모형에 넣습니다. 네 가지 장면은 달라 보이지만 공통점이 있습니다. 많은 변수 속에서 중요한 방향을 찾아 분석을 단순하게 만드는 것입니다. 다만 이후의 분석 결과는 별도로 확인해야 합니다.
💬 학생에게 질문“이 네 장면을 하나로 연결하는 공통 원리는 무엇이죠?”
설명 포인트: 많은 변수의 정보를 소수의 주성분으로 요약하는 차원 축소입니다.
07 / 특이값분해(SVD) 개념
행렬을 세 개의 행렬 곱으로 나눈다
특이값분해(Singular Value Decomposition, SVD)는 행렬의 주요 패턴을 중요도 순서로 분리하는 방법입니다. 임의의 실수 행렬 A에 대해 적용할 수 있습니다.
A=U·Σ·Vᵀ
U · 왼쪽 특이벡터
데이터 공간의 직교 방향
Σ · 특이값
대각에 있는 비음수 크기, 큰 값부터 정렬 가능
Vᵀ · 오른쪽 특이벡터
변수 공간의 주요 직교 방향
PCA와 어떻게 연결될까?
X = UΣVᵀ
중심화된 데이터 X의 공분산행렬
C = XᵀX / (n−1)→ V의 열이 주성분 방향
→ λᵢ = σᵢ² / (n−1)
여기서 σᵢ는 특이값, λᵢ는 공분산행렬의 고유값입니다. X는 행=관측치, 열=변수로 놓았습니다.
SVD의 대표 사용 분야
- 데이터·이미지 압축 — 큰 특이값 위주로 복원
- 이미지 복원·잡음 감소 — 주요 구조만 유지
- 추천 시스템 — 사용자와 아이템의 잠재 패턴 추출
시험 함정! 암호화는 위 세 분야와 달리 SVD의 일반적인 대표 응용으로 분류하지 않습니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
행렬은 숫자들이 담긴 큰 표라고 생각해 보세요. 이 표를 그대로 보면 어떤 패턴이 중요한지 파악하기 어려울 수 있습니다. SVD는 그 표를 U, Σ, V의 전치행렬이라는 세 부분의 곱으로 표현합니다. 쉬운 비유로는 ‘패턴이 나타나는 방향’, ‘각 패턴의 중요도’, ‘변수 쪽 패턴 방향’을 따로 살펴보는 방법입니다.
중간에 있는 Σ의 특이값이 클수록 해당 성분의 기여가 큽니다. 그래서 큰 성분만 골라 자료를 근사하거나 이미지를 압축할 수 있어요. 또한 평균을 뺀 데이터 행렬에 SVD를 적용하면 오른쪽 특이벡터를 통해 PCA의 주성분 방향을 구할 수 있습니다. PCA는 분석 목적, SVD는 그것을 계산하는 중요한 수학적 도구 중 하나라는 차이를 기억합시다.
💬 학생에게 질문“세 행렬 중 특이값을 모아 둔 곳은 어디일까요?”
설명 포인트: 가운데 행렬 Σ(시그마)입니다.
07 / 주요 원리 · 4컷 개념 만화
큰 행렬을 어떻게 세 부분으로 나눌까?
원행렬 A → U·Σ·Vᵀ → 큰 특이값 → 주요 패턴과 PCA 연결
1컷상황 발견
💬“숫자로 가득 찬 행렬 A네!”
행렬 속에는 여러 패턴이 섞여 있어요.
2컷문제 확인
💬“세 부분으로 나눌 수 있구나!”
A = U · Σ · Vᵀ
3컷원리 이해
💬“큰 특이값부터 살펴보자!”
큰 특이값은 주요 데이터 변동과 관련돼요.
4컷결과 적용
💬“이걸로 PCA도 계산할 수 있어!”
SVD와 PCA는 밀접하게 연결되어 있어요.
★ 핵심 원리
SVD는 A = UΣVᵀ로 분해합니다. 중심화된 데이터에 적용하면 V의 열은 PCA 방향이고, 고유값은 σ²/(n−1)로 연결됩니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷의 숫자 표가 원래 행렬 A입니다. 둘째 컷에서는 A를 U, Σ, V의 전치행렬로 표현합니다. 마치 큰 이야기를 서로 역할이 다른 세 묶음으로 정리해 보는 셈이죠.
셋째 컷의 특이값은 성분이 얼마나 크게 기여하는지를 보여 줍니다. 큰 값부터 살펴보면 전체 자료를 간단하게 설명할 때 무엇을 우선 남길지 판단할 수 있어요. 넷째 컷에서는 SVD가 PCA와 연결되는 모습을 보여 줍니다. 평균을 뺀 데이터라면 V의 열벡터가 주성분 축입니다.
💬 학생에게 질문“SVD에서 큰 특이값부터 남기는 이유는 무엇인가요?”
설명 포인트: 원행렬의 큰 변동 패턴을 우선 보존하기 위해서입니다.
08 / SVD 이미지 압축 실험
특이값을 몇 개만 남기면 어떻게 될까?
실제 28×28 흑백 예시 이미지에 SVD를 적용한 결과입니다. 보존할 성분 수 k를 바꾸어 압축·복원 차이를 직접 확인합니다.
원본과 저차원 복원 비교
원본 이미지
기준 이미지 · 성분 전체
k개 성분으로 복원
오차 38.3%
1 / 28
여기서는 평균 밝기를 별도로 보존하고, 평균을 뺀 이미지 행렬의 SVD를 계산했습니다. 표시한 오차는 중심화된 행렬의 상대 Frobenius 오차입니다.
무슨 일이 일어날까요?
1
원본 행렬에서 밝기 패턴이 서로 중첩되어 나타납니다.
2
특이값이 큰 성분부터 남기면 큰 윤곽이 우선 보존됩니다.
3
k를 늘릴수록 이 예시의 수학적 재구성 오차는 줄어듭니다.
1보존한 특이 성분 수
38.3%중심화 이미지 상대오차
핵심: 큰 특이값은 원자료의 큰 패턴에 대응합니다. 실제 저장 용량은 이미지 크기·인코딩·보존 성분 수 등에 따라 달라집니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
사진을 아주 작은 칸들로 나눈 흑백 모자이크를 떠올려 보세요. 모든 칸의 밝기를 그대로 저장하면 정보가 많습니다. 그런데 사진에는 전체 윤곽처럼 반복되는 큰 패턴이 있겠죠. SVD는 그런 패턴을 성분별로 나누어 다룰 수 있습니다.
지금 슬라이더를 k=1에 놓고 그림을 보세요. 가장 큰 성분 하나만 남겨 모양이 흐릿합니다. k를 5, 10처럼 늘려 보면 성분이 더해져 원본에 가까워집니다. 이 화면의 오차는 수학적인 재구성 오차예요. 실제 파일 크기가 같은 비율로 줄어든다는 뜻은 아니므로, 저장 방식과 화질도 함께 고려해야 합니다.
💬 학생에게 질문“k를 늘릴수록 재구성 오차는 어떻게 변하나요?”
설명 포인트: 상위 성분을 순서대로 추가하면 오차는 증가하지 않고 보통 감소합니다.
08 / 주요 원리 · 4컷 개념 만화
특이값을 덜 남기면 그림은 어떻게 될까?
원본 이미지 → 적은 성분(k) → 성분 추가 → 정확도와 크기의 균형
1컷상황 발견
💬“원본 그림에는 정보가 많아!”
많은 픽셀 패턴이 겹쳐 있어요.
2컷문제 확인
💬“k=1이면 윤곽이 흐릿해!”
가장 중요한 성분 하나만 남겨 봐요.
3컷원리 이해
💬“k를 늘리니 모양이 또렷해져!”
여러 성분을 더하면 재구성 오차가 감소해요.
4컷결과 적용
💬“어디까지 남기는 게 좋을까?”
화질·오차와 필요한 성분 수를 비교해요.
★ 핵심 원리
상위 k개 성분의 저랭크 근사는 k가 커질수록 원행렬에 더 가까워집니다. 실제 저장 효율은 인코딩 방식도 함께 고려해야 합니다.
이론 화면과 만화 화면을 번갈아 보며 학습하세요.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
첫째 컷은 원본 그림입니다. 둘째 컷에서는 중요한 성분 하나만 남겨서 흐릿한 모양이 나타납니다. 셋째 컷에서는 다섯 개의 성분을 사용하니 모양이 더 또렷해지죠.
마지막 컷은 ‘몇 개까지 남겨야 할까?’를 묻습니다. 모든 성분을 쓰면 원본을 더 정확하게 표현할 수 있지만, 적은 성분으로 간단하게 나타내려는 목적과는 균형이 필요합니다. 즉, SVD 이미지 압축의 핵심은 보존할 성분 수와 재구성 오차를 함께 보는 것입니다.
💬 학생에게 질문“무조건 k가 작을수록 좋은 압축 결과라고 할 수 있을까요?”
설명 포인트: 아닙니다. 정보 손실과 필요한 품질을 함께 고려해야 합니다.
09 / 제20회 기출 · 교재 p.334
63번. 특이값분해의 주요 응용 분야가 아닌 것은?
먼저 정답을 선택한 다음, 아래의 정답 확인 버튼을 누르세요. 다음 화면에는 보기별 해설과 4컷 개념 만화가 있습니다.
다음 중 특이값분해(Singular Value Decomposition, SVD)의 주요 응용 분야가 아닌 것은?
정답을 하나 선택해 보세요.
기억 키워드: SVD = 차원 축소 · 주요 패턴 · 데이터 압축 · 이미지 · 추천
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
이제 교재 334쪽 기출 63번을 풀어 보겠습니다. 여기서 핵심은 ‘SVD를 어디에 가장 일반적으로 활용하는가’입니다. 앞에서 본 내용을 기억해 봅시다. SVD는 큰 행렬의 주요 패턴을 꺼내서 적은 성분으로 표현하는 방법이었죠.
네 가지 보기를 읽고 각각이 ‘패턴을 요약하거나 복원하는 일’과 가까운지 생각해 보세요. 아직 정답은 이야기하지 않겠습니다. 먼저 각자 한 개를 고른 다음 정답 확인 버튼을 누르고, 다음 해설 화면에서 선택 이유를 비교해 보겠습니다.
💬 학생에게 질문“어떤 보기가 SVD의 ‘대표적인’ 활용과 가장 거리가 먼가요? 먼저 선택해 보세요.”
설명 포인트: 선택과 판단 근거를 들은 뒤, 정답 확인 버튼으로 확인합니다.
10 / 기출 63번 해설 · 개념 만화
정답은 ③ 암호화
③
암호화는 정보를 비밀스럽게 보호하는 기술입니다. 반면 SVD의 대표 응용은 주로 행렬의 구조 추출, 저차원 근사, 압축·복원, 잠재요인 분석에 있습니다.
1컷대표 활용
💬“큰 특이값만 챙겨 가볍게!”
① 데이터 압축: 대표 활용 O
2컷대표 활용
💬“선택한 성분들을 합쳐 복원!”
② 이미지 복원: 대표 활용 O
3컷시험 정답
💬“암호화의 목적은 비밀 보호야.”
③ 암호화: 일반적인 대표 활용 X
4컷대표 활용
💬“숨은 취향을 찾아 추천!”
④ 추천 시스템: 대표 활용 O
헷갈림 방지: PCA는 차원 축소 분석법, SVD는 행렬을 분해하는 수학적 도구입니다. SVD로 PCA를 계산할 수도 있습니다.
엄밀하게는 SVD를 활용하는 특수한 암호기술 연구도 있을 수 있습니다. 다만 본 기출에서 묻는 ‘일반적인 주요 응용’ 기준으로는 ③을 선택합니다.
💬 쉽게 풀어보는 이야기
설명 흐름: 친숙한 상황 → 핵심 개념 → 그림 해석 → 수업 질문
정답은 ③ 암호화입니다. 왜일까요? SVD는 데이터에서 중요한 패턴을 골라 내는 데 강점이 있습니다. 그래서 ① 데이터 압축에서는 큰 성분만 남기고, ② 이미지 복원에서는 선택한 성분을 합쳐 그림을 가깝게 되살리며, ④ 추천 시스템에서는 사람과 상품 사이에 숨어 있는 취향 패턴을 찾는 데 활용할 수 있습니다.
반면 암호화의 주목적은 정보를 허가받지 않은 사람이 읽지 못하도록 보호하는 것입니다. 물론 SVD를 활용한 특수 연구가 없다는 뜻은 아니에요. 다만 이 문제의 ‘일반적인 주요 응용 분야’라는 기준에서는 암호화가 정답입니다. 마지막으로 PCA는 차원을 축소하는 분석법이고, SVD는 행렬을 나누어 분석하는 수학적 도구라는 차이도 함께 기억하세요.
💬 학생에게 질문“압축과 암호화는 둘 다 정보를 다루지만 무엇이 다를까요?”
설명 포인트: 압축은 정보 표현을 간결하게 하는 것이 주목적이고, 암호화는 정보를 보호하는 것이 주목적입니다.