[논문]데이터 불균형 해소를 위한 유전알고리즘 기반 최적의 오버샘플링 비율

신승수; 조휘연; 김용혁

doi:10.15207/jkcs.2021.12.1.049

데이터 불균형 해소를 위한 유전알고리즘 기반 최적의 오버샘플링 비율
Optimal Ratio of Data Oversampling Based on a Genetic Algorithm for Overcoming Data Imbalance 원문보기

한국융합학회논문지 = Journal of the Korea Convergence Society, v.12 no.1, 2021년, pp.49 - 55

신승수 (광운대학교 소프트웨어학부) , 조휘연 (광운대학교 컴퓨터과학과) , 김용혁 (광운대학교 소프트웨어학부)

초록
AI-Helper

최근에는 데이터베이스의 발달로 금융, 보안, 네트워크 등에서 생성된 많은 데이터가 저장 가능하며, 기계학습 기반 분류기를 통해 분석이 이루어지고 있다. 이 때 주로 야기되는 문제는 데이터 불균형으로, 학습 시 다수 범주의 데이터들로 과적합이 되어 분류 정확도가 떨어지는 경우가 발생한다. 이를 해결하기 위해 소수 범주의 데이터 수를 증가시키는 오버샘플링 전략이 주로 사용되며, 데이터 분포에 적합한 기법과 인자들을 다양하게 조절하는 과정이 필요하다. 이러한 과정의 개선을 위해 본 연구에서는 스모트와 생성적 적대 신경망 등 다양한 기법 기반의 오버샘플링 조합과 비율을 유전알고리즘을 통해 탐색하고 최적화 하는 전략을 제안한다. 제안된 전략과 단일 오버샘플링 기법으로 신용카드 사기 탐지 데이터를 샘플링 한 뒤, 각각의 데이터들로 학습한 분류기의 성능을 비교한다. 그 결과 유전알고리즘으로 기법별 비율을 탐색하여 최적화 한 전략의 성능이 기존 전략들 보다 우수했다.

Abstract ▼ AI-Helper

Recently, with the development of database, it is possible to store a lot of data generated in finance, security, and networks. These data are being analyzed through classifiers based on machine learning. The main problem at this time is data imbalance. When we train imbalanced data, it may happen that classification accuracy is degraded due to over-fitting with majority class data. To overcome the problem of data imbalance, oversampling strategy that increases the quantity of data of minority class data is widely used. It requires to tuning process about suitable method and parameters for data distribution. To improve the process, In this study, we propose a strategy to explore and optimize oversampling combinations and ratio based on various methods such as synthetic minority oversampling technique and generative adversarial networks through genetic algorithms. After sampling credit card fraud detection which is a representative case of data imbalance, with the proposed strategy and single oversampling strategies, we compare the performance of trained classifiers with each data. As a result, a strategy that is optimized by exploring for ratio of each method with genetic algorithms was superior to previous strategies.

주제어

표/그림 (7)

그림 Fig. 1. Example of data imbalance case
그림 Fig. 2. Flow chart of a GA
그림 Fig. 3. Process of fitness calculation
표 Table 1. Parameters by oversampling methods
표 Table 2. Operators and parameter of GA
표 Table 3. Deep neural network parameters
표 Table 4. Classifier's performance for each strategy

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

검증 과정은 많은 시간을 소요하며, 최적 비율 탐색에 어려움이 있다. 기존 전략보다 개선 된 비율 탐색을 위해 본 논문은 전역 최적화 기법인 유전알고리즘을 이용하여 스모트와 생 성적 적대 신경망 등 다양한 기법 기반의 오버샘플링 조합과 비율을 탐색하고 최적화하는 전략을 소개한다. 제안한 전략과 데이터 불균형 대표사례인 신용카드 사기 탐지데이터를 통해 이전 방식의 오버샘플링 전략과 성능 비교를 진행한다.
따라서 본 연구에서 염색체의 적합도는 염색체에 따른 기법별 비율로 오버샘플링 된 데이터로 학습한 분류기의 성능이다. 염색체를 통해 오버샘플링 된 데이터로 학습을 한 이후 샘플링 이전의 원본 데이터로 성능 평가를 진행한다.
본 연구에서는 이상탐지 문제 중 쉽게 발생하는 불균형 데이터 사례 해결을 위해 전역 최적화 기법인 유전알고리즘을 사용하여 스모트와 생성적 적대 신경망 등 다양한 기법 기반의 오버샘플링 조합과 비율을 탐색 및 최적화하는 전략을 제안했다. 다양한 인자와 비율로 샘플링된 단일 기법보다 제안한 전략으로 샘플링 된 데이터의 분류 성능이 우위에 있는 것을 확인하였다.

가설 설정

탐색 범위를 확보하기 위한 연산이다. 본 연구에서는 염색체의 오버샘플링 비율의 합이 일정해야 한다. 그래서 기법 간의 오버샘플링 비율인 유전자의 위치를 교체하는스왑(swap) 변이와 염색체의 순서를 무작위로 변경하는 셔플(shuffle) 변이가 사용된다.

제안 방법

두 염색체에 대해서 각각의 유전자 위치에 난수를 부여한다. 각 위치의 난수들과 균등 확률을 비교하여 두 염색체 중 어느 위치의 유전자를 복사할지 결정한다.
기법으로 Holland에 의해 소개되었다. 문제의 가능해들을 각각 염색체(chromosome)로 변환 후, 염색체 집단(population)에 대해 선택(selection), 교차 (crossover), 변이(mutation), 대치(replacement) 연산을 반복하여 우수한 해를 탐색한다. 선택 연산 이전에 적합도 평가(fitness evaluation)를 진행하여 우수한 품질의 해가 선택 될 수 있는 확률을 높인다.
대치 연산은 변이 연산 이후 생성된 자식 염색체를 기존 집단의 특정 염색체와 교체하는 연산이다. 본 연구에서는 자식 집단을 부모 집단으로 대체한다. 또한 이른 수렴 방지를 위해 해 집단에서 가장 적합도가 높은 해를 항상 보존하는 엘리티즘(elitism)[14]을 적용한다.
새로운 해를 생성 하는 연산이다. 본 연구의 염색체의 표현은 일차원이므로 일점, 균등 두 가지 방식의 교차 연산이 사용된다. 일점(single-point) 교차는 초기의 유전알고리즘에서 사용되던 방법으로 염색체에서 임의의 한점을 기준으로 두 염색체 간의 유전자를 교차하는 연산이다.
소수 범주의 데이터를 k 근접 이웃(k nearest neighbor; KNN) 알고리즘을 통해 보간 한 뒤, 연결 선상의 임의의 점을 선택하여 데이터를 합성 및 생성한다. 기존 스모 트는 모든 소수 범주의 데이터에서 접근했지만, Han 등의 연구[7]에서는 범주의 결정 영역에 있는 데이터들에만 적용하는 경계선-스모트(borderline-SMOTE)를 제안했다.
따라서 본 연구에서 염색체의 적합도는 염색체에 따른 기법별 비율로 오버샘플링 된 데이터로 학습한 분류기의 성능이다. 염색체를 통해 오버샘플링 된 데이터로 학습을 한 이후 샘플링 이전의 원본 데이터로 성능 평가를 진행한다. 성능 지표로는 F1 점수를 사용하며, 적합도 계산은 Fig.
추가로 소수 범주의 데이터를 다수 범주의 데이터 수 만큼 반복 학습한 전략도 추가시켰다. 원본 데이터, 반복 학습 전략, 단일 기법 전략, 3 장에서 언급한 두 가지의 유전알고리즘으로 최적화 비율을 탐색하는 전략 총 5 가지의 전략으로 학습된 분류기의 성능을 비교한다.
기법을 제안했다. 적응형 합성 샘플링(adaptive synthetic sampling; ADASYN)으로 기존 스모트 보다더 지능적인 방식을 추구했다.
제안하는 전략은 총 두 개로 구성되며 일점 교차, 스왑 변이, 룰렛 휠 선택 연산자를 사용한 전략과 균등교차, 셔플 변이, 토너먼트 선택 연산자를 사용한 전략이다.
제안한 전략과 데이터 불균형 대표사례인 신용카드 사기 탐지데이터를 통해 이전 방식의 오버샘플링 전략과 성능 비교를 진행한다. 최종적으로 실험결과를 비교하며 논문을 마무리한다.

대상 데이터

사용된다. 30 개의 변수로 이루어진 총 284, 807 건의 거래내역 데이터로, 범주는 정상 거래 284, 315 건, 비정상 거래 492 건으로 구성된다. 전체 데이터의 75%는 학습, 25%는 평가에 사용된다.
본 논문에서 제안하는 최적화 전략을 비교하기 위해 단일 기법으로 오버샘플링 된 데이터와 원본 데이터를 준비한다. 단일 전략의 오버샘플링 기법은 Table 1의 6 종류의 전략에 대해 각각의 인자와 5 가지의 범주별 데이터 수 조절의 따라서 총 125 가지로 표현 할 수 있다.
본 연구에서 다루는 신용카드 사기 탐지 데이터는 2013 년 9 월 유럽에서 2 일 간 신용카드 사용자의 거래내역으로 대표적인 데이터 불균형 사례이며 이상 탐지 분야에서 사용된다. 30 개의 변수로 이루어진 총 284, 807 건의 거래내역 데이터로, 범주는 정상 거래 284, 315 건, 비정상 거래 492 건으로 구성된다.

데이터처리

기존 전략보다 개선 된 비율 탐색을 위해 본 논문은 전역 최적화 기법인 유전알고리즘을 이용하여 스모트와 생 성적 적대 신경망 등 다양한 기법 기반의 오버샘플링 조합과 비율을 탐색하고 최적화하는 전략을 소개한다. 제안한 전략과 데이터 불균형 대표사례인 신용카드 사기 탐지데이터를 통해 이전 방식의 오버샘플링 전략과 성능 비교를 진행한다. 최종적으로 실험결과를 비교하며 논문을 마무리한다.

이론/모형

데이터를 분류하기 위해 심층신경망(deep neural network; DNN)[15] 기반의 분류기를 사용하며 심층신경망의 인자는 Table 3으로 구성된다.
본 연구에서는 자식 집단을 부모 집단으로 대체한다. 또한 이른 수렴 방지를 위해 해 집단에서 가장 적합도가 높은 해를 항상 보존하는 엘리티즘(elitism)[14]을 적용한다.

성능/효과

제안한 두 가지 전략으로 샘플링 된 분류기의 F1 점수는 학습과 평가에서 다른 전략들 보다 모두 우수했다. 그 중 가장 높은 성능을 보이는 것은 일점 교차, 스왑 변이, 룰렛 휠 선택 연산자를 사용한 전략으로 원본 데이터 보다 12.5%, 소수 범주 데이터 반복학습 보다 28.4%, 최상 성능의 단일 오버샘플링 기법보다 12.1%의 F1 점수 우위를 확인했다.
이와 같은 방식으로 Douzas 등의 연구[12]에서는 생성자를 통해 소수 범주의 데이터 특징을 학습하고 생성하여, 데이터 불균형을 해소하는 시도를 보였다. 기존의 오버샘플링 기법인 스모트와 비교하여 우수함을 보였다.
전략을 제안했다. 다양한 인자와 비율로 샘플링된 단일 기법보다 제안한 전략으로 샘플링 된 데이터의 분류 성능이 우위에 있는 것을 확인하였다. 이를 이용하여 다양한 실세계의 불균형 데이터에 대해 효율적인 오버 샘플링 최적화 전략을 도출 할 수 있다.
원본 데이터로 학습한 전략보다 단일 오버 샘플링 기법으로 샘플링 한 전략의 성능이 더 낮은 경우를 확인 할 수 있었고, 데이터의 분포에 따라 오버샘플링을 하였을 때 성능 저하가 생길 수 있다는 것을 확인했다. 제안한 두 가지 전략으로 샘플링 된 분류기의 F1 점수는 학습과 평가에서 다른 전략들 보다 모두 우수했다.
원본 데이터로 학습한 전략보다 단일 오버 샘플링 기법으로 샘플링 한 전략의 성능이 더 낮은 경우를 확인 할 수 있었고, 데이터의 분포에 따라 오버샘플링을 하였을 때 성능 저하가 생길 수 있다는 것을 확인했다. 제안한 두 가지 전략으로 샘플링 된 분류기의 F1 점수는 학습과 평가에서 다른 전략들 보다 모두 우수했다. 그 중 가장 높은 성능을 보이는 것은 일점 교차, 스왑 변이, 룰렛 휠 선택 연산자를 사용한 전략으로 원본 데이터 보다 12.

후속연구

이를 이용하여 다양한 실세계의 불균형 데이터에 대해 효율적인 오버 샘플링 최적화 전략을 도출 할 수 있다. 향후 연구로는 입력 변수의 차원이 높은 불균형 데이터에 대해서 차원축소 기법을 결합하여 해당 차원에서 최적화를 진행한 후 본 논문의 전략과 비교하여 개선된 성능의 오버 샘플링 전략을 찾을 수 있을 것 이라고 기대가 된다.

참고문헌 (16)

V. Chandola, A. Banerjee & V. Kumar. (2009). Anomaly detection: a survey. ACM Computing Surveys, 41(3), 1-58.

상세보기
M. H. Bhuyan, D. K. Bhattacharyya & J. K. Kalita. (2013). Network anomaly detection: methods, systems and tools. IEEE Communications Suveys & Tutorials, 16(1), 303-336. DOI : 10.1109/SURV.2013.052213.00046

상세보기
N. Japkowicz & S. Stephen. (2002). The class imbalance problem: a systematic study. Intelligent Data Analysis, 6(5), 429-449. DOI : 10.3233/IDA-2002-6504

상세보기
H. Y. Cho & Y. H. Kim (2020). A genetic algorithm to optimize SMOTE and GAN ratio in class imbalanced datasets. In Proceedings of the Genetic and Evolutionary Computation Conference. (pp. 33-34). Cancun : ACM. DOI : 10.1145/3377929.3398153
H. Y. Cho. (2020). Optimization of Data Oversampling Ratio Using a Genetic Algorithm. Master's thesis. Kwangwoon University, Seoul.
N. V. Chawla, K. W. Bowyer, L. O. Hall & W. P. Kegelmeyer. (2002). SMOTE: synthetic minority over-sampling techniques. Journal of Artificial Intelligence Research, 16, 321-357. DOI : 10.1613/jair.953

상세보기
H. Han, W. Y. Wang & B. H. Mao. (2005). Borderline-SMOTE: a new over-sampling method in imbalanced data sets learning. International Conference on Intelligent Computing. (pp. 878-887). Berlin : Springer.
J. Mathew, M. Luo, C. K. Pang & H. L. Chan. (2015). Kernel-based SMOTE for SVM classification of imbalanced datasets. Annual Conference of the IEEE Industrial Electronics Society. (pp. 1127-1132). Yokohama : IEEE. DOI : 10.1109/IECON.2015.7392251
F. Last, G. Douzas & F. Bacao. (2018). Oversampling for imbalanced learning based on K-means and SMOTE. Information Sciences, 465, 1-20. DOI : 10.1016/j.ins.2018.06.056

상세보기
H. He, Y. Bai, E. A. Garcia & S. Li. (2008). ADASYN: adaptive synthetic sampling approach for imbalanced learning. IEEE International Joint Conference on Neural Networks. (pp. 1322-1328). Hongkong : IEEE. DOI : 10.1109/IJCNN.2008.4633969
I. J. Goodfellow et al. (2014). Generative adversarial nets. Annual Conference on Neural Information Processing Systems. (pp. 2672-2680). Montreal : Curran Associates.
G. Douzas & F. Bacao. (2018). Effective data generation for imbalanced learning using conditional generative adversarial networks. Expert Systems with Applications, 91, 464-471. DOI : 10.1016/j.eswa.2017.09.030

상세보기
J. H. Holland. (1992). Adaptions in Natural and Artificial Systems: An Introductory Analysis with Applications to Biology, Control, and Artificial Intelligence. Cambridge : MIT Press.
C. W. Ahn & S. R. Rudrapatna. (2003). Elitism-based compact genetic algorithm. IEEE Transactions on Evolutionary Computation, 7(4), 367-385. DOI : 10.1109/TEVC.2003.814633

상세보기
J. Schmidhuber. (2015). Deep learning in neural networks: an overview. Neural Networks, 61, 85-117. DOI : 10.1016/j.neunet.2014.09.003

상세보기
D. M. Powers. (2011). Evaluation: from precision, recall and F-measure to ROC, informedness, markedness and correlation. Journal of Machine Learning Technologies, 2(1), 37-63.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증