목록오버피팅 (1)

신이 되고 싶은 갓지이

4. Python 머신러닝 - 지도학습2(의사결정나무)와 실습

1. 의사결정나무 : 한번에 하나의 설명변수를 사용하여 정확한 규칙들을 생성하는 알고리즘. 다음과 같이 하나의 설명변수의 조건에 따라 가지치기 되어 모든 조건이 한쪽만 갖게 되어 명확한 예측을 할 수 있을 때까지 나누어준다. - 어떤 기준이 올바른 기준일까? 기준점으로 나누었을 때 영역의 복잡도가 낮을 때 한쪽으로 쏠린 단순한 결과가 나왔을 때 수학적으로 엔트로피(복잡도를 표현한 식)이 낮을 때 - 좋은 기준점을 어떻게 정할까? 각 변수를 이용해 가능한 모든 기준점을 통해 구간을 분리 분리된 구간의 복잡도가 가장 낮은 기준점을 선택 위의 과정을 계속 반복 2. 오버피팅 : 학습 데이터를 너무 과도하게 학습하여 outlier에 민감한 결과를 나타냄 - 오버피팅 방지 분류시 각 구역에서 객체의 갯수가 n개 ..
Python 2024. 1. 30. 02:30
이전 Prev 1 Next 다음