[파이썬 머신러닝 가이드] 차원축소 - LDA, NMF

목차 1. LDA 2. NMF 1. LDA(Linear Discriminant Analysis) LDA는 선형 판별 분석법으로 불리며, PCA와 유사 둘 다 입력 데이터 셋을 저차원 공간에 투영해 차원을 축소하는 기법이지만, 중요한 차이는 LDA는 지도학습의 분류에서 사용하기 쉽도록 개별 클래스를 분별할 수 있는 기준을 최대한 유지하면서 차원을 축소함. PCA는 입력 데이터의 변동성이 가장 큰(분산이 큰) 축을 찾았지만, LDA는 입력 데이터의 결정값 클래스를 최대한으로 분리할 수 있는 축을 찾음 → LDA 구할 때 가장 큰 타이점은 공분산 행렬이 아니라, 클래스 간 분산과 클래스 내부 분산 행렬을 생성한 뒤, 이 행렬에 기반해 고유벡터를 구하고 입력 데이터를 투영함. ** LDA는 실제로는 PCA와 다..

• format_list_bulleted Machine Learning/차원 축소
• · 2023. 12. 25.
• textsms

[파이썬 머신러닝 가이드] 차원 축소 - PCA (Principal Component Analysis)

PCA (Principal Component Analysis) data가 많이 있는 축 → 주성분 = principal component(데이터가 주로 분포한 축, 성분) 데이터의 특성을 가장 잘 살릴 수 있는, 가장 많이 분포해있는 축으로 축소시켜야 함. Covariance(공분산)이란? 보통 분산은 한 개의 특정한 변수의 데이터 변동을 의미하나, 공분산은 두 변수 간의 변동을 의미함. Cov(X,Y) > 0 → X가 증가할 때, Y도 증가함을 의미. 공분산 행렬은 여려 변수와 관련된 공분산을 포함하는 정방형 행렬. (분산의 multidimension ver.) PCA = covariance를 SVD 해서 그거의 장축을 고르면 됨. *** PCA는 covariance 구하고, 그 행렬에 SVD 적용해라..

• format_list_bulleted Machine Learning/차원 축소
• · 2023. 12. 25.
• textsms

[파이썬 머신러닝 가이드] 차원 축소 - SVD

목차 1. 차원 축소 개요 2. SVD 1. 차원 축소(Dimension Reduction) 개요 일반적으로 차원이 증가할수록 데이터 포인트 간의 거리가 기하급수적으로 멀어지게 되고, 희소한 구조를 가지게 됨. 수백 개 이상의 피처로 구성된 데이터 세트의 경우 상대적으로 적은 차원에서 학습된 모델보다 예측 신뢰도가 떨어짐. 피처가 많을 경우 개별 피처 간에 상관관계가 높을 가능성이 크고, 선형모델에서 입력 변수 간의 상관관계가 높을 경우 다중공선성 문제로 예측 성능이 저하됨. 피처 선택 : 특성 선택, 특정 피처에 종속성이 강한 불필요한 피처는 아예 제거, 데이터의 특징을 잘 나타내는 주요 피처만 선택. 피처 추출 특성 추출, 기존 피처를 저차원의 중요 피처로 압축해서 추출하는 것. 새롭게 추출된 중요 ..

• format_list_bulleted Machine Learning/차원 축소
• · 2023. 12. 25.
• textsms