초록 ▼

서포트 벡터 머신(support vector machine, SVM)은 분류 문제에서 널리 사용되는 통계 기법 중의 하나이다. 고차원 자료인 경우 몇몇의 이상치가 SVM의 분류 성능을 좌우하는 요소이다. 고전적인 SVM 으로는 이러한 이상치를 극복할 수 없다. 본 연구에서는 이범주 및 다범주지지벡터기계(multicategory SVM)에서 효과적인 로버스트 방법을 제안하고, 알고리즘을 개발하였다.
본 연구에서 연구한 주제는 다음과 같다. 첫째, 로버스트 벌칙함수를 설정한다. 벌칙함수가 L₂형태일 경우 차원축

서포트 벡터 머신(support vector machine, SVM)은 분류 문제에서 널리 사용되는 통계 기법 중의 하나이다. 고차원 자료인 경우 몇몇의 이상치가 SVM의 분류 성능을 좌우하는 요소이다. 고전적인 SVM 으로는 이러한 이상치를 극복할 수 없다. 본 연구에서는 이범주 및 다범주지지벡터기계(multicategory SVM)에서 효과적인 로버스트 방법을 제안하고, 알고리즘을 개발하였다.
본 연구에서 연구한 주제는 다음과 같다. 첫째, 로버스트 벌칙함수를 설정한다. 벌칙함수가 L₂형태일 경우 차원축소에 어려움과 특이점에 민감하다는 단점이 있다. 따라서 L₁형태를 사용하게 되는 데, 이 경우 불편성과 연속성이 보장되지 않는다. 따라서 본 연구에서는 smoothly clipped absolute deviation(SCAD, Fan and Li, 2001)에 바탕한 로버스트 벌칙함수를 이용하였다. SCAD에 따른 MSVM의 통계적성질, 즉 oracle 성질, 희박성 등을 밝혔다. MSVM은 일반적으로 비선형계획문제이기 때문에 일반적인 소프트웨어에서 해를 구하기가 쉽지 않다. 따라서 본 연구에서는 연속이차근사법 (successive quadratic approximation, SQA)을 이용하여 선형시스템을 구축하여 해를 구하는 효율적인 알고리즘을 제안하였다.
선형시스템의 해를 구하기 위하여 계수 행렬의 크기가 큰 경우 Newton 방법을 이용하여 반복적으로 해를 구하는 방법을 제시하였다. 둘째, 손실함수를 이상치 (outlier)에 민감하지 않은 로버스트한 함수를 사용하여 제안된 MSVM 방법이 각 범주의 경계에 위치한 지지벡터의 변화에 대하여 민감하지 않은 분류기를 제안하였다. 본 연구에서 고려한 로버스트한 함수는 후버화된 경첩함수와 ramp 함수이다. 셋째, 시뮬레이션을 통하여 L₁ MSVM, L₂ MSVM, 제안된 MSVM 방법들을 비교하여 제안된 방법이 분류기의 오분류확률, oracle 성질 측면에서 그 우수성을 입증하였다.
현재 빅데이터가 핫 이슈로 떠오르고 있는 데, 빅 데이터의 자료 형태는 분류 문제처럼 목표범주가 정해진 자료는 거의 없으며, 대부분의 경우 목표범주가 없는 경우이다. 따라서 비지도학습 방법에 대한 연구가 수행되어져야 하는데, 이 경우 본 연구과제의 결과가 활용될 것이다.

목차 Contents

• 일반연구자지원사업 최종(결과)보고서 ... 1
• 목차 ... 3
• Ⅰ. 연구결과 요약문 ... 4
• Ⅱ. 연구내용 및 결과 ... 5
• 1. 연구과제의 개요 ... 5
• 2. 국내외 기술개발 현황 ... 5
• 3. 연구수행 내용 및 결과 ... 6
• 4. 목표 달성도 및 관련 분야에의 기여도 ... 7
• 5. 연구결과의 활용계획 ... 7
• 6. 연구과정에서 수집한 해외과학기술정보 ... 7
• Ⅲ. 연구성과 ... 8