LGBM(LightGradientBoostingMachine)
2. GBM (Gradient Boosting Machine) 위 그림의 상황을 가정해보면, tree 1이 예측하고 남은 잔차들을 tree 2, tree 3를 차례로 지나가면서 줄여가는 것 부스팅 알고리즘이다. 각 tree들을 weak learner라고 보면 된다. 위에서 부...
Recent posts
(확률적)경사하강법과 SGDClassifier
SGDClassifier 확률적 경사 하강법(Stochastic Gradient Decent:SGD)을 통해 SVM, logistic regression 등의 선형 분류기를 학습시킬 수 있는 분류기입니다. (sklearn API 설명) SGD? Stochastic Gr...
성능평가지표(Precision, Recall, Accuracy 등)
기계학습에서 모델이나 패턴의 분류 성능 평가에 사용되는 지표들을 다루겠습니다. 어느 모델이든, 발전을 위한 feedback은 현재 모델의 performance를 올바르게 평가하는 것에서부터 시작합니다. 모델이 평가해야하는 요소와 그것을 수치화한 지표들, 그리고 관련 개...
24/01/12 과제
과제 문제 1 초승달 데이터셋을 이용한 결정트리 모델을 미세 조정합니다. 교차검증을 사용하는 그리드 탐색 실행 85 ~ 87% 정도의 정확도가 나와야 함 문제 2 랜덤 포레스트(Random Forest) 모델을 훈련하는 방법을 살펴봅...
서포트벡터머신(Support Vector Machine) 이란?
Support Vector Machine 이란? 분류(classification), 회귀(regression), 특이점 판별(outliers detection) 에 쓰이는 지도 학습 머신 러닝 방법 중 하나이다. SV...