ADsP 핵심개념 · 비계층적 군집분석

K-means 군집분석

K-평균 군집분석 · K-medoids 비교 · Elbow 방법 · 기출문제

가까운 중심점으로 배정 → 평균으로 중심점 갱신 → 반복

원리와 5단계 절차

군집 개수 k 설정, 데이터 할당, 중심점 재계산, 수렴

인터랙티브 군집 시뮬레이션

특징 · 장점 · 단점

연속형 변수, 빠른 계산, 초기 중심점 및 이상치 민감성

핵심 공식 SSE

K-means vs. K-medoids

평균 중심점과 실제 관측값 중심점의 차이, 이상치 대응

비교·선택형 빈출

Elbow 방법과 기출

군집 내 제곱합의 감소 추세와 15회 기출 46번

정답 확인형 퀴즈

아래 [다음] 또는 키보드 ← → 로 페이지를 넘길 수 있습니다.

01 · ALGORITHM

K-means의 5단계 작동 원리

군집 수 k를 먼저 정하고, 가장 가까운 중심점에 할당한 뒤 평균으로 갱신

교재 457쪽

STEP 01k 및 seed 설정원하는 군집 수와 초기 중심점 선택

STEP 02가까운 군집 할당각 데이터와 중심점 간 거리 비교

STEP 03중심점 갱신군집별 데이터의 평균으로 이동

STEP 04반복 · 수렴할당이 안정될 때까지 2~3 반복

STEP 05최종 군집 결정군집 내 제곱합이 더 이상 크게 감소하지 않음

직접 따라가는 K-means

가상 데이터 18개, k = 3. [한 번 반복]을 클릭하면 할당과 중심점 갱신이 한 차례 진행됩니다.

초기 상태 · 0회 반복

SSE: 계산 전

중심점(큰 × 표시)은 처음에 임의의 위치에서 시작합니다.

실제 알고리즘은 군집 할당과 중심점 갱신을 반복하여 국소 최적해에 수렴할 수 있습니다. 항상 전역 최적해가 보장되는 것은 아닙니다.

02 · EXAM POINTS

핵심 특징과 장단점

빠르고 단순하지만 시작 중심점·이상치·비볼록 군집에 주의

교재 457–458쪽

WCSS / SSE = ∑_{j = 1}^k ∑_{x ∈ C_j} ‖x − μ_j‖²

군집 내 제곱합(Within-Cluster Sum of Squares): 각 데이터와 소속 군집 중심점 사이의 거리 제곱을 더한 값

장점 활용성이 높은 이유

알고리즘이 단순하고 계산이 빠름
상대적으로 대규모 데이터 분석에 적합
데이터 내부 구조에 대한 사전 정보가 적어도 군집 탐색 가능
군집 중심점(평균)을 통해 결과를 설명하기 쉬움

단점 시험에서 주의할 점

군집 개수 k를 사전에 지정해야 함
초기 seed에 따라 결과가 달라질 수 있음
잡음 및 이상치에 민감함
U자형 등 비볼록(Non-convex) 군집에 불리
척도 차이가 크면 거리계산 왜곡 → 표준화 검토

데이터 유형

기본 K-means는 수치형·연속형 변수에 특히 적합합니다.

탐욕적 알고리즘 (Greedy)

반복할수록 목적함수가 증가하지 않지만, 전역 최적은 보장하지 않음.

초기화 전략

초기 seed를 일렬로 두는 설정 등은 주의하며, k-means++가 대표적 개선 방식입니다.

표현 바로잡기: 최소화하는 대상은 ‘군집 간 거리 차이의 분산’이 아니라 각 군집 내부에서 데이터와 해당 중심점 사이의 거리 제곱합(SSE)입니다.

03 · COMPARISON

K-means vs. K-medoids

중심점이 ‘평균값’인가, 실제 데이터인 ‘대표 관측값’인가?

교재 457쪽 · 참고

비교 기준	K-means (K-평균)	K-medoids (K-중앙객체)
중심점	군집 내 산술평균 · 실제 관측값이 아닐 수도 있음	실제 데이터 중 대표값(medoid) 선택
중심점 갱신	배정된 점들의 좌표 평균으로 이동	다른 점들과의 총거리가 작은 실제 관측값 선택
이상치 영향	크다 · 평균이 멀리 끌려갈 수 있음	상대적으로 작다 · 이상치에 견고
계산 부담	상대적으로 가벼움	후보 대표점을 비교하므로 대체로 더 큼
대표 알고리즘	Lloyd 알고리즘, k-means++ 초기화	PAM (Partitioning Around Medoids)

이상치가 포함된 한 군집의 예시

관측값 1, 2, 3, 4, 25의 평균은 7, 거리의 합을 최소로 하는 대표 관측값은 3입니다.

문제풀이용 구분 공식

K-means 군집 중심은 좌표의 평균이므로 실제 데이터가 아닐 수 있습니다.

K-medoids 중심은 반드시 실제 데이터에서 선택합니다.

같은 군집 수 k라도 두 방법의 결과는 다를 수 있으며, K-medoids는 통상 이상치에 더 강합니다.

04 · SELECTING k

Elbow(엘보) 방법으로 k 결정하기

k를 늘리면 SSE는 보통 감소합니다. 감소 폭이 둔화하는 ‘팔꿈치’를 찾습니다.

교재 458쪽

시뮬레이션 예시

k = 3

SSE = 147

여기서는 k=3 부근에서 SSE 감소 폭이 뚜렷하게 완만해집니다.

해석 순서

① k를 1, 2, 3… 증가
② 각 k의 SSE 계산
③ SSE 곡선의 굴절점 확인
④ 적절한 k 후보 선택

주의: Elbow는 휴리스틱입니다. 팔꿈치가 명확하지 않을 수 있으며 실루엣 계수 등과 함께 판단하면 좋습니다.

* 그래프의 수치는 설명을 위한 가상 데이터입니다. 교재에서 제시한 핵심 예시처럼 k=3을 적절한 후보로 보여줍니다.

05 · EXAM & REVIEW

15회 기출 46번 + 핵심개념 확인

출제 핵심: 중심점 갱신 · 수렴 기준 · 이상치 · 최적 k (제공 교재: 2025년 4문제 출제 표기)

교재 458쪽

15회 기출 · 46번 교재 제시 정답 ④

K-means 군집분석에 대한 설명으로 틀린 것은?

선지를 선택하고 확인하세요.

정답 ④ — K-means의 종료 조건은 군집 할당 또는 중심점의 변화가 없어지거나, 변화가 설정된 허용오차보다 작아지는 등 수렴 조건입니다. ‘95% 이상의 개체 할당’은 종료 기준이 아닙니다. 실무에서는 최대 반복 횟수로 중단할 수도 있습니다.

자가점검 A

이상치의 영향을 상대적으로 적게 받으며 실제 관측값을 군집 중심으로 사용하는 방법은?

K-medoids (K-중앙객체)

자가점검 B

Elbow 그래프의 가로축과 세로축은 각각 무엇일까요?

가로축: 군집 수 k / 세로축: SSE(군집 내 제곱합)

3문장 최종 암기

① k를 먼저 정한다.

② 가까운 중심에 배정 → 평균으로 갱신을 반복한다.

③ 초깃값·이상치에 민감하고 SSE 곡선의 Elbow로 k를 검토한다.