Machine Learnnig Basics

※ 본 카테고리의 글은 책 및 다른 자료들을 참고하여 작성되었습니다. ※ github: github.com/chaeyeongyoon/PythonML_Study 기본적으로 머신러닝은 dataset분리 ( train, test ) Machine Learning Algorithm 적용 ( model training ) prediction evaluation 순으로 진행됩니다. 크게 지도학습과 비지도학습으로 분리됩니다. ● 교차검증 ( Cross Validation ) overfitting을 방지하는 한 방법입니다.

※ 본 카테고리의 글은 책 및 다른 자료들을 참고하여 작성되었습니다. ※ github: github.com/chaeyeongyoon/PythonML_Study 지도학습 중 하나인 Classification ( 분류 ) 에 대해서 알아보겠습니다. Naive Bayes, Logistic Regression, Decision Tree, Support Vector Machine, Nearest Neighbor, Neural Network, Ensemble 등의 알고리즘이 있습니다. 1. Decision Tree 쉽고, 직관적이고, 시각화하기가 쉬우며 전처리가 거의 필요없는 특징을 가지고 있습니다.

Regression이란 데이터값이 평균과 같은 일정한 값으로 돌아가려는 경향을 이용한 통계학적 기법으로, 여러개의 독립변수와 하나의 종속변수의 상관관계를 알아냅니다. ● Linear Regression( 선형 회귀 ) 학습을 통해 회귀선을 구한다. 회귀선이 직선형태인 것이 선형 회귀이다. Linear regression의 hypothesis H(x) = Wx + b 학습을 통해 최적의 W와 b를 알아냅니다.

비지도 학습 중 하나로 , 다차원의 dataset에서 차원을 축소해 새로운 dataset을 생성하는 것입니다. 다차원이면 data point간 거리가 기하급수적으로 멀어지고 sparse한 구조가 되므로 예측 신뢰도가 떨어집니다. 개별 피쳐간 상관관계가 높을 가능성이 커지기 때문입니다. 개별피쳐간 상관관계가 높다 = 다중공선성 존재 선형모델에서는 다중공선성 ( Multicollinearity)이 존재하면 모델의 예측 성능이 떨어집니다.

※ 본 카테고리의 글은 책 및 다른 자료들을 참고하여 작성되었습니다. ※ code in github: github.com/chaeyeongyoon/PythonML_Study Clustering은 비지도 학습 중 하나로, data를 몇 개의 cluster(부분 그룹)으로 나누는 과정을 의미합니다. 클러스터 내부 멤버들 사이는 서로 가깝게, 서로 다른 두 클러스터 사이의 멤버 간에는 서로 멀게 하는 것이 클러스터링의 목표입니다. 1.