GMM의 핵심은 EM 알고리즘이에요

K-평균(K-Means)이 '하나의 점은 딱 하나의 군집'에 속한다고 가정하는 반면, 가우시안 혼합 모델(GMM)은 확률적으로 여러 군집에 동시에 속할 수 있게 해줘요.

GMM의 핵심은 EM 알고리즘이에요. E-스텝에서 각 데이터 포인트의 군집 소속 확률(책임값)을 계산하고, M-스텝에서 그 확률을 가중치로 삼아 가우시안 파라미터를 다시 추정해요. 두 군집 경계에 있는 점은 [0.5, 0.5] 같은 소속값을 갖게 되거든요.

EM에는 수학적 보장이 있어요. 반복할 때마다 로그-우도(log-likelihood)가 절대 떨어지지 않아요. 다만 로컬 최적에 빠질 수 있어서 초기값을 여러 번 바꿔 돌리고 가장 좋은 결과를 쓰는 게 일반적이에요.

K-평균은 사실 GMM의 특수 케이스예요. GMM은 타원형·비대칭·크기가 다른 군집까지 처리할 수 있어서, 현실 데이터에 훨씬 잘 들어맞아요.