[파이썬 머신러닝 가이드] 분류 - 결정 트리, 앙상블 학습

목차 1. 결정 트리 2. 앙상블 학습 1.결정 트리 decision tree 2. 앙상블 학습 여러 개의 분류기를 생성하고 그 예측을 결합함으로써 보다 정확한 최종 예측을 도출하는 기법. 전통적으로 보팅, 배깅, 부스팅 3가지. 보팅 → 서로 다른 알고리즘을 가진 분류기를 결합 ex) 선형 회귀, K 최근접 이웃, 서포트 벡터 머신 배깅 → 각각의 분류기가 모두 같은 알고리즘 기반이지만, 데이터 샘플링을 서로 다르게 가져가면서 학습을 수행해 보팅을 수행하는 것. (bootstrap + aggregating) : 개별 분류기가 부트스트래핑 방식으로 샘플링된 데이터 세트에 대해서 학습을 통해 개별적인 예측을 수행한 결과를 보팅을 통해서 최종 예측 결과를 선정하는 방식 부스팅 → 여러 분류기가 순차적으로 학..