KNeighbors 장단점과 매개변수

일반적으로 KNeighbors 분류기에 중요한 매개변수는 두 개이다 .

데이터 포인트 사이의 거리를 재는 방법과 이웃의 수이다.

실제로 이웃의 수는 3개나 5개 정도로 적을 때 잘 작동하지만, 이 매개변수는 잘 조정해야 한다.

k-NN의 장점은 이해하기 매우 쉬운 모델이라는 점이다.

그리고 많이 조정하지 않아도 자주 좋은 성능을 발휘한다.

더 복잡한 알고리즘을 적용해보기 전에 시도해볼 수 있는 좋은 시작점이다.

보통 최근접 이웃 모델은 매우 빠르게 만들 수 있지만, 훈련 세트가 매우 크면 (특성의 수나 샘플의 수가 클 경우) 예측이 느려진다.

k-NN 알고리즘을 사용할 땐 데이터를 전처리하는 과정이 중요하다.

(수백 개 이상의) 많은 특성을 가진 데이터셋에는 잘 동작하지 않으며, 특성 값 대부분이 0인 (즉 희소한) 데이터셋과는 특히 잘 작동하지 않는다.

k-최근접 이웃 알고리즘이 이해하긴 쉽지만, 예측이 느리고 많은 특성을 처리하는 능력이 부족해 현업에서는 잘 쓰지 않는다.

이런 단점이 없는 알고리즘이 선형 모델이다.

 

출처 : 

https://tensorflow.blog/%ED%8C%8C%EC%9D%B4%EC%8D%AC-%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D/2-3-2-k-%EC%B5%9C%EA%B7%BC%EC%A0%91-%EC%9D%B4%EC%9B%83/