[논문]고차원 데이터에서 One-class SVM과 Spectral Clustering을 이용한 이진 예측 이상치 탐지 방법

박정희

doi:10.9717/kmms.2022.25.6.886

고차원 데이터에서 One-class SVM과 Spectral Clustering을 이용한 이진 예측 이상치 탐지 방법
A Binary Prediction Method for Outlier Detection using One-class SVM and Spectral Clustering in High Dimensional Data 원문보기

멀티미디어학회논문지 = Journal of Korea Multimedia Society, v.25 no.6, 2022년, pp.886 - 893

박정희 (Division of Computer Convergence, Chungnam National University)

Abstract ▼ AI-Helper

Outlier detection refers to the task of detecting data that deviate significantly from the normal data distribution. Most outlier detection methods compute an outlier score which indicates the degree to which a data sample deviates from normal. However, setting a threshold for an outlier score to determine if a data sample is outlier or normal is not trivial. In this paper, we propose a binary prediction method for outlier detection based on spectral clustering and one-class SVM ensemble. Given training data consisting of normal data samples, a clustering method is performed to find clusters in the training data, and the ensemble of one-class SVM models trained on each cluster finds the boundaries of the normal data. We show how to obtain a threshold for transforming outlier scores computed from the ensemble of one-class SVM models into binary predictive values. Experimental results with high dimensional text data show that the proposed method can be effectively applied to high dimensional data, especially when the normal training data consists of different shapes and densities of clusters.

주제어

표/그림 (5)

그림 Fig. 1. The flowchart of the proposed method.
표 Table 1. The description of data.
표 Table 2. Performance comparison by f1 values in the outlier detection simulation of multi-class normal training data.
그림 Fig. 2. The comparison of average f1 values of the compared methods.
표 Table 3. Performance comparison by f1 values in the outlier detection simulation of one-class normal training data.

AI 본문요약
AI-Helper

문제 정의

본 논문에서는 고차원 데이터에서 그래프 기반 클러스터링 방법인 spectral clustering과 one-class SVM을 이용한 이진 예측 이상치 탐지 방법을 제안한다. 정상 데이터로 구성된 학습데이터가 주어졌을때, 학습데이터에 spectralclustering을 적용하여 클러스터들을 구하고 각 클러스터에 대해 one-class SVM을 학습하여 앙상블을 구성한다.

대상 데이터

Table1은 사용된 데이터에 대한 설명을 보여준다. BBC뉴스데이터는 BBC에서 작성된 2, 225개의 뉴스 데이터로 다섯 개의 카테고리 business, entertainment, poli- tics, sport, tech로 구성되어 있다[15]. 논문[2]에서와같은 데이터 전처리 과정을 적용하여 특수기호와 숫자를 삭제하고 한 개의 문서에만 속하는 단어를 제거하여 17, 005개의 용어를 가진다.
제안한 이진 예측 이상치 탐지 방법의 성능 비교를 위하여 텍스트 데이터셋을 이용하였다. Table1은 사용된 데이터에 대한 설명을 보여준다.

데이터처리

2.One-classSVM:학습데이터 전체에 대해 one- classSVM을 적용하여 모델링한 후, 다음 두 가지 방법에 의해 이상치에 대한 이진 예측을 수행하였다.

성능/효과

반면에 k- meansclustering과 one-classSVM앙상블에 의한 방법은 논문 [4]에서의 방법보다는 높으나 spectral clustering을 사용했을 때보다는 낮은 성능을 보였다. 이러한 결과는 고차원 데이터에서 이웃간의 연결을 이용한 그래프 기반 spectralclustering이 클러스터의 구조를 좀 더 잘 파악함을 의미하고, one-class SVM앙상블에 의한 이진 예측 방법이 단순히 클러스터 반경을 이용하는 경우보다 정밀하게 클러스터 영역을 나타낼 수 있음을 보여준다.

참고문헌 (18)

C. Aggarwal, Outlier Analysis, Springer, Switzerland, 2017.
C. Park, "A Distance-based Outlier Detection Method Using Landmarks in High Dimensional Data," Journal of Korea Multimedia Society, Vol. 24, pp. 1242-1250, 2021.
C. Park, "Outlier and Anomaly Pattern Detection on Data Streams," The Journal of Supercomputing, Vol. 75, pp. 6118-6128, 2019.

상세보기
C. Park, T. Kim, J. Kim, S. Choi, and G. Lee, "Outlier Detection by Clustering-based Ensemble Model Construction," KIPS Transactions on Software and Data Engineering, Vol. 7, pp. 435-442, 2018.
N. Singh, N. Garg, and J. Pant, "A Comprehensive Study of Challenges and Approaches for Clustering High Dimensional Data," International Journal of Computer Applications, Vol. 92, 2014.
B. Scholkopf, J. Platt, J. Shawe-Taylor, A. Smola, and R. Williamson, "Estimating the Support of a High-dimensional Distribution," Neural Computation, Vol. 13, pp. 1443-1471, 2001.

상세보기
F. Liu, K. Ting, and Z. Zhou, "Isolation Forest," Proceeding of ICDM, 2008.
M. Breunig, H. Kriegel, R. Ng, and J. Sander, "LOF: Identifying Density-based Local Outliers," Proceeding of the ACM Sigmod International Conference on Management of Data, 2000.
S. Damaswanny, R. Rastogi, and K. Shim, "Efficient Algorithms for Mining Outliers from Large Data Sets," Proceeding of ACM SIGMOD, pp. 427-438, 2000.
S. Lyu and H. Farid, "Steganalysis Using Color Wavelet Statistics and One-class Support Vector Machines," Proceeding of IS& T/SP IE Electronic Imaging, 2004.
D. Tax and R. Duin, "Data Domain Description Using Support Vectors," Proceeding of European Symposium on Artificial Neural Networks, 1999.
J. Shi and J. Malik, "Normalized Cuts and Image Segmentation," IEEE Transactions on P attern Analysis and Machine Intelligence, Vol. 22, pp. 888-905, 2000.

상세보기
M. Belkin and P. Niyogi, "Laplacian Eigenmaps for Dimensionality Reduction and Data Representation," Neural Computation, Vol. 15, pp. 1373-1396, 2003.

상세보기
F. Pedregosa et al., Scikit-learn: Machine Learning in Python, Journal of Machine Learning Research, Vol. 12, pp. 2825-2830, 2011.

상세보기
D. Greene and P. Cunningham, "Practical Solutions to the Problem of Diagonal Dominance in Kernel Document Clustering," Proceeding of ICML, 2006.
20 Newsgroups(2008), http://qwone.com/~jason/20Newsgroups/ (accessed June 27, 2022).
H. Kim, P. Holland, and H. Park, "Dimension Reduction in Text Classification with Support Vector Machines," Journal of Machine Learning Research, Vol. 6, pp. 37-53, 2005.

상세보기
Karypis Lab, http://glaros.dtc.umn.edu/gkhome/index.php (accessed June 27, 2022).

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증