[논문]유전 알고리즘 기반 귀납적 학습 환경에서 다중 분류기 시스템의 구축을 위한 메타 학습법

김영준; 홍철의

doi:10.6109/jkiice.2015.19.1.35

[국내논문] 유전 알고리즘 기반 귀납적 학습 환경에서 다중 분류기 시스템의 구축을 위한 메타 학습법
A Meta-learning Approach for Building Multi-classifier Systems in a GA-based Inductive Learning Environment 원문보기

한국정보통신학회논문지 = Journal of the Korea Institute of Information and Communication Engineering, v.19 no.1, 2015년, pp.35 - 40

김영준 (Department of Computer Science, Sangmyung University) , 홍철의 (Department of Computer Science, Sangmyung University)

초록
AI-Helper

본 논문은 유전 알고리즘 기반 귀납적 학습 환경 하에서 메타 학습법을 이용한 다중 분류기 시스템의 구축에 관한 것이다. 메타 학습법을 이용한 다중 분류기 시스템의 구축에서 분류기는 일반 분류기와 메타 분류기로 구성된다. 메타 분류기는 사례에 대한 일반 분류기의 분류 결과에 학습 알고리즘을 적용하여 얻어진다. 분류시스템의 의사 결정과정에서 메타 분류기의 역할은 일반 분류기의 분류 결과를 평가하여 최종 의사 결정 과정에의 참여 여부를 결정하는 것이다. 분류 시스템은 분류기의 분류 결과가 옳은 것으로 평가된 결과들만 취합하여 이를 바탕으로 최종 분류 결과를 도출해 낸다. 메타 학습법이 다중 분류기 시스템의 성능에 미치는 영향을 다수의 사례 집합을 이용하여 평가하였다.

Abstract ▼ AI-Helper

The paper proposes a meta-learning approach for building multi-classifier systems in a GA-based inductive learning environment. In our meta-learning approach, a classifier consists of a general classifier and a meta-classifier. We obtain a meta-classifier from classification results of its general classifier by applying a learning algorithm to them. The role of the meta-classifier is to evaluate the classification result of its general classifier and decide whether to participate into a final decision-making process or not. The classification system draws a decision by combining classification results that are evaluated as correct ones by meta-classifiers. We present empirical results that evaluate the effect of our meta-learning approach on the performance of multi-classifier systems.

Keyword

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문은 유전 알고리즘 기반 귀납적 학습 환경 하에서 메타 학습법을 이용한 다중 분류기 시스템의 구축에 관한 것이다. 메타 학습법은 분류기의 분류 결과에 학습 알고리즘을 적용하여 분류기의 편향성을 학습한 메타 분류기를 습득하는 기법이다[9].
각각의 학습 알고리즘은 알고리즘 고유의 표현 방법과 경험적 탐색 방법으로 인해 같은 문제에 대해 다른 학습 능력을 갖게 되는데 Michell[3]은 이를 귀납적인 기울어짐(inductive bias)이라 하였다. 다중 전략 학습 시스템에 대한 연구의 근본적인 목적은 결국 여러 다른 학습 알고리즘이 갖고 있는 고유의 학습 능력 즉, 귀납 적인 기울어짐을 적절히 통합하여 서로 보완적인 작용을 하게 함으로써 학습 능력이 보다 향상된 시스템을 구축하고자 하는 것이다.

제안 방법

메타 학습법은 분류기의 분류 결과에 학습 알고리즘을 적용하여 분류기의 편향성을 학습한 메타 분류기를 습득하는 기법이다[9]. 본 논문에서 제시한 메타 학습법을 이용한 다중 분류기 시스템의 구축에서 분류기는 일반 분류기와 메타 분류기로 구성된다. 일반 분류기는 주어진 사례 집합에 대해 학습 알고리즘을 적용하여 습득한다.
계속되는 진화 과정에서는 적합도에 비례하여 선택된 규칙 집합에 대해 유전 연산자를 적용하여 새로운 개체 집단을 생성 하는 과정을 반복한다. 각각의 규칙 집합의 적합도는 규칙 집합이 주어진 사례 집합 내의 사례들을 어느 정도 정확하게 분류 할 수 있는가 하는 분류의 정확도를 이용하여 평가한다. 주어진 개체 집단에서 새로운 개체 집단을 생성하는 과정을 원하는 해가 얻어질 때까지 반복한다.
메타 학습법이 분류 시스템의 성능 향상에 미치는 영향을 다음의 사례 집합을 이용하여 평가 하였다.
메타 학습법이 분류 시스템의 성능에 미치는 영향을 평가하려면 일반 분류기의 습득을 위한 사례 집합, 메타 분류기의 습득을 위한 사례 집합, 그리고 분류 시스템의 성능을 평가하기 위한 사례 집합이 필요하다. 이를 위해 우선 각각의 사례 집합을 크기가 같은 두 개의 부분 집합으로 나누어 그 중 하나를 일반 분류기의 습득을 위한 사례 집합으로 사용하고 나머지 하나는 다시 크기가 같은 두 개의 부분 집합으로 나누어 하나는 메타 분류기의 습득에, 다른 하나는 구축된 다중 분류기 시스템의 성능 평가에 사용하였다. 다중 분류기 시스템 내에 사용될 분류기의 습득 과정은 다음과 같다.
다중 분류기 시스템 내에 사용될 분류기의 습득 과정은 다음과 같다. 우선 일반 분류기의 습득을 위한 사례 집합에 대해 2장에서 설명한 학습 시스템을 이용하여 일반 분류기를 구한다. 그런 다음 이를 이용하여 메타 분류기의 습득을 위해 준비해 둔 사례 집합 내의 사례 들을 분류한 후 그 결과를 반영하여 3장에서 기술한 방법에 따라 메타 분류기의 습득을 위한 사례 집합을 만든다.
2장에서 설명한 학습 환경 하에서는 이 과정을 원하는 만큼 반복하여 필요로 하는 수의 분류기를 습득할 수 있다. 일반 분류기의 습득과정에서 학습 시스템의 유전 알고리즘을 위한 매개변수로 개체 집단의 크기는 15, 교배연산자와 돌연변이 연산자를 위한 교차율과 변이율은 각각 98%, 40%를 사용하였다.
따라서 단순히 일정 수의 분류기를 이용하여 다중 분류기 시스템을 구축하는 대신 시스템이 사용하는 의사 결정 기법에 대해 최적의 분류기 조합을 찾아 다중 분류기 시스템을 구축하면 시스템의 성능을 더욱 향상시킬 수 있다. 본 논문에서는 학습 시스템을 반복 실행하여 얻어진 10개의 분류기의 집합으로부터 유전 알고리즘을 이용하여 최적의 분류기의 조합을 찾아내어 이를 이용하여 분류 시스템을 구축 한후 평가 사례를 이용하여 분류 시스템의 성능을 평가하였다. 이와 같은 실험을 각각의 사례 집합에 대해 5회씩 반복하였다.
단일 분류기를 이용하여 구축한 분류 시스템과 메타 학습법을 이용한 다중 분류기 시스템의 성능을 표 1에 비교하였다. 표 1에서 '단일'은 하나의 분류기를 이용하여 분류 시스템을 구축한 결과를 '다중'은 다중 분류기 시스템의 성능을 나타낸다.
유전 알고리즘 기반 학습 환경 하에서 다중 분류기 시스템의 구축 시 분류기의 편향성을 습득한 메타 분류기를 이용하여 분류기의 분류 결과를 평가한 후 평가 결과를 최종 의사 결정 과정에 반영함으로써 분류 시스템의 성능을 향상시키는 메타 학습법에 대해 연구하였다. 다수의 사례 집합을 이용하여 메타 학습법이 다중 분류기 시스템의 성능에 미치는 영향을 평가한 결과 메타 학습법이 분류 시스템의 성능 향상에 크게 기여하는 것으로 나타났다.

이론/모형

이와 같은 실험을 각각의 사례 집합에 대해 5회씩 반복하였다. 다중 분류기 시스템의 의사 결정 기법으로는 단순 보우팅 기법을 사용하였다.

성능/효과

표 1에서 '단일'은 하나의 분류기를 이용하여 분류 시스템을 구축한 결과를 '다중'은 다중 분류기 시스템의 성능을 나타낸다. 표 1은 단일 분류기 시스템이 붓꽃 사례 집합에 대한 실험에서 평균적으로 훈련 사례 집합을 98.7%, 평가 사례 집합 내의 사례들의 94.1%를 올바르게 분류한 반면에 다중 분류기 시스템은 훈련 사례 집합을 100.0%, 평가 사례 집합 내의 사례들의 96.2%를 올바르게 분류하였음을 보인다. 콩의 질병과 관련된 사례 집합에 대해서는 메타 학습법을 이용한 다중 분류기 시스템의 성능이 단일 분류기에 비해 12.
2%를 올바르게 분류하였음을 보인다. 콩의 질병과 관련된 사례 집합에 대해서는 메타 학습법을 이용한 다중 분류기 시스템의 성능이 단일 분류기에 비해 12.9% 향상되었음을 보인다. 다른 학습 알고리즘과의 비교를 위하여 신경망의 경우를 고려해 보면 붓꽃 사례 집합에 대해서는 95.
9% 향상되었음을 보인다. 다른 학습 알고리즘과의 비교를 위하여 신경망의 경우를 고려해 보면 붓꽃 사례 집합에 대해서는 95.9%, 레이더 시그널 사례 집합에 대해서는 86.8%의 정확도를 갖는 시스템을 구축할 수 있는 것으로 알려졌다.
유전 알고리즘 기반 학습 환경 하에서 다중 분류기 시스템의 구축 시 분류기의 편향성을 습득한 메타 분류기를 이용하여 분류기의 분류 결과를 평가한 후 평가 결과를 최종 의사 결정 과정에 반영함으로써 분류 시스템의 성능을 향상시키는 메타 학습법에 대해 연구하였다. 다수의 사례 집합을 이용하여 메타 학습법이 다중 분류기 시스템의 성능에 미치는 영향을 평가한 결과 메타 학습법이 분류 시스템의 성능 향상에 크게 기여하는 것으로 나타났다.

후속연구

본 연구에서는 메타 학습법을 유전 알고리즘 기반 학습 환경 하에서 구현하였으나 신경망, 결정 트리 등 기존의 학습 알고리즘을 이용한 분류 시스템의 구축 시에도 시스템의 성능 향상을 위한 일반적인 기법으로 활용 가능하리라 사료된다.

질의응답

핵심어	질문	논문에서 추출한 답변
	보다 성능이 향상된 분류 시스템을 구축하기 위한 연구로 무엇이 있었는가?	다중 전략 학습 시스템에 관한 연구의 일환으로 주어진 사례의 집합에 대해 서로 다른 학습 알고리즘을 이용하여 사례들을 분류할 수 있는 분류기를 습득한 후 이들을 통합하여 보다 성능이 향상된 분류 시스템을 구축하기 위한 연구가 활발히 진행되어 왔다[4]. Lorrentz et. al.[5]과 Nguyen et. al.[6]은 그들의 논문에서 다수의 분류기를 통합하여 최종 분류 결과를 제시하기 위한 기법을 제시하였고, Major and Ragsdale[7]은 특정 영역에 속한 사례를 그 영역에 대해 좋은 성능을 보이는 분류기가 분류하도록 함으로써 분류 시스템의 성능을 향상시키는 기법을 제안하였다. Ishibuchi와 그의 그룹[8]은 주어진 사례의 집합으로부터 퍼지 분류 규칙을 습득하는 유전 알고리즘 기반 학습 시스템을 이용하여 다수의 분류기를 구한 후 이들을 이용하여 분류 시스템을 구축함으로써 분류 시스템의 성능을 향상 시키는 연구를 하였다.
	학습 시스템은 무엇에 따라 무엇으로 구분되는가?	학습 시스템은 시스템의 구현을 위해 이용한 학습 알고리즘의 수에 따라 단일 전략 학습 시스템과 다중 전략 학습 시스템으로 구분된다. 단일 전략 학습 시스템에서는 학습 시스템이 결정 트리나, 신경망, 결정 규칙 등의 여러 계산 메커니즘 중 하나의 계산 메커니즘하에 귀납법, 연역법, 유추 등의 추론 방법 중 하나의 추론 방법에 준하여 구현된 학습 알고리즘을 이용하여 구축된다.
	메타 학습법이란 무엇인가?	본 논문은 유전 알고리즘 기반 귀납적 학습 환경 하에서 메타 학습법을 이용한 다중 분류기 시스템의 구축에 관한 것이다. 메타 학습법은 분류기의 분류 결과에 학습 알고리즘을 적용하여 분류기의 편향성을 학습한 메타 분류기를 습득하는 기법이다[9]. 본 논문에서 제시한 메타 학습법을 이용한 다중 분류기 시스템의 구축에서 분류기는 일반 분류기와 메타 분류기로 구성된다.

참고문헌 (10)

A. Doan, P. Domingos, and A. Halevy, "Learning to Match the Schemas of Data Sources : A Multistrategy Approach," Machine Learning, vol. 50, no. 3, pp. 279-301, 2003.
F. Esposito, G. Semeraro, N. Fanizzi, and S. Ferilli, "Multistrategy Theory Revision: Induction and Abduction in INTHELEX," Machine Learning, vol. 38, pp. 133-156, January 2000.
T. M. Mitchell, "The need for biases in learning generalizations," Rutgers University, Technical Report CBM-TR-117, 1980.
R. Ranawana and V. Palade, "Multi-classifier systemsreview and a roadmap for developers," University of Oxford Computing Laboratory (24 Apr), 2006.
P. Lorrentz, W. G. J. Howells, and K. D. McDonald-Maier, "A Novel Weightless Artificial Neural Based Multi-Classifier for Complex Classifications," Neural processing letters, vol. 31, no. 1, pp. 25-44, 2010.

상세보기
N. T. Nguyen, S. G. Lee, T. C. Chung, "A New Boosting Algorithm for Classification on Distributed Databases," International Journal of Software Engineering and Its Applications, vol. 2, no. 2, pp.13-20, 2008.
R. L. Major and C. T. Ragsdale, "An aggregation approach to the classification problem using multiple prediction experts," Information Processing and Management, 36, pp. 683-696, 2000.

상세보기
H. Ishibuchi, T. Nakashima, and T. Morisawa, "Voting in fuzzy rule-based systems for pattern classification problems," Fuzzy Sets and Systems, 1999.
C. Giraud-Carrier, R. Vilalta, and P. Brazdil, "Introduction to the Special Issue on Meta-Learning," Machine Learning, vol. 54, no. 3, pp.187-193, 2004.

상세보기
R. Duda, P. Hart and J. Nilsson, "Subjective Bayesian methods for rule-based inference systems," in Proc. National Computer Conference, pp. 1075-1082, 1976.

저자의 다른 논문 :

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증