[Week 7] SVMs in Practice

  서포트 벡터 머신을 알고리즘을 위한 좋은 라이브러리들이 제작되어 있으므로 굳이 구현할 필요는 없습니다. 다만 파라미터 C와 어떤 커널을 사용할 지 선택해야 합니다.

 

 

 커널을 사용하지 않는다는 것은 선형 커널을 사용한다는 것을 의미합니다. 변수의 수가 많고 데이터 셋의 크기 m이 작을 때는 유용할 수 있습니다. 

 

 두번째 옵션은 가우시안 커널입니다. n이 작고 m은 클 때, 비선형 분류기가 필요하다면 가우스 커널을 사용하는 것이 좋습니다. 다만 파라미터 sigma^2를 정해야 합니다. 선형 커널과 가우시안 커널이 실제로 가장 인기있는 커널입니다.

 

 다만 가우시안 커널을 사용하기 전에 적절한 feature scaling이 필요합니다. 변수 값의 범위가 다르면 SVM이 제대로 동작하지 않습니다. 

 

 멀티 클래스 분류에서 SVM을 사용하는 경우입니다. 클래스가 K개라면 K개의 SVM을 학습하여 다른 클래스와 구분합니다. 로지스틱 회귀에서와 동일한 방법입니다.

 

 

 

 n이 m보다 훨씬 크다면 로지스틱 회귀나 선형 커널을 사용한 SVM을 적용합니다.

 n이 작고 m이 중간 정도 크기라면 가우시안 커널을 사용한 SVM을 적용합니다.

 n이 작고 m이 훨씬 크다면 수동으로 더 많은 변수를 생성한 다음 로지스틱 회귀 또는 커널이 없는 SVM을 사용합니다.

---

혼자서 강의를 듣고 정리한 것이니 틀린 점이 있다면 언제든지 지적 부탁드립니다 :)