$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

동적 중요도 결정 방법을 이용한 새로운 앙상블 시스템
A New Ensemble System using Dynamic Weighting Method 원문보기

한국해양정보통신학회논문지 = The journal of the Korea Institute of Maritime Information & Communication Sciences, v.15 no.6, 2011년, pp.1213 - 1220  

서동훈 (충남대학교 대학원) ,  이원돈 (충남대학교 전기정보통신공학부)

초록
AI-Helper 아이콘AI-Helper

본 논문에서는 분류자들 속에 중요도 정보를 삽입하여 동적 중요도 결정이 가능한 앙상블 시스템을 제안하였다. 그동안 앙상블 시스템에서 중요도는 훈련이 끝나고 결정된 중요도를 사용하였다. 한 번 결정된 중요도는 테스트 데이터에 상관없이 정적으로 사용되었다. 이 문제를 푸는 방법으로 관문 네트워크에서 구조적으로 계층을 두는 프로세스를 추가하여 동적 중요도 결정이 가능하게 하는 방법이 있지만 프로세스가 추가된다는 단점이 있다. 본 논문에서는 이런 추가적인 프로세스 없이 간단하게 동적 중요도 결정이 가능한 방법을 보여주고 구조적 변경 없이 기존의 시스템에 쉽게 적용할 수 있으며 AdaBoost보다 나은 성능을 보여주는 알고리즘을 제안한다.

Abstract AI-Helper 아이콘AI-Helper

In this paper, a new ensemble system using dynamic weighting method with added weight information into classifiers is proposed. The weights used in the traditional ensemble system are those after the training phase. Once extracted, the weights in the traditional ensemble system remain fixed regardle...

주제어

AI 본문요약
AI-Helper 아이콘 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

  • 제 4장에서는 기계 학습 분야에서 사용되는 UCI Machine Learning Repository을 사용하여 실험하였다.[18] UCI Machine Learning Repository에는 알고리즘들의 비교를 위해 무료로 데이터들을 공개하고 있으며 이 중의 7개의 데이터들을 가지고 AdaBoost와 제안된 알고리즘을 비교 분석하여 연구 결과를 얻고 향후 연구방향을 제시하고자 한다.
  • 본 논문에서는 앙상블 시스템에서 분류자들 속에 중요도 정보를 삽입하여 동적 중요도 결정이 가능한 전문가들의 혼합을 제안하였다. 그동안 앙상블 시스템에서 중요도는 훈련이 끝나고 결정된 중요도를 사용하였다.
  • 본 논문에서는 전문가들의 혼합 분야에서 분류자 안에 훈련 데이터의 정보를 삽입하고 구조적인 변경 없이 입력된 데이터에 따라 분류자의 중요도를 스스로 결정하여 사용하는 새로운 앙상블 시스템을 제안한다. 분류자 안에 삽입하는 정보는 훈련 데이터에서 중요도를 계산하여 훈련 과정에 만들어진다.
  • 또한, 모든 데이터를 가지고 있어야 관문 네트워크를 훈련할 수 있기 때문에 점진적으로 분류자를 추가해 나가는 점진 학습(incremental learning) 분야에서는 관문 네트워크 알고리즘을 사용할 수 없는 단점을 가지고 있다. 본 논문에서는 중요도를 이벤트마다 결정할 수 있는 방법을 제안함으로써 앙상블 시스템이 구조적으로 계층을 두지 않고도 동적으로 중요도를 구할 수 있다는 것을 보여준다.
  • 훈련 데이터를 통해 생성된 분류자로 테스트 데이터를 테스트하고 이런 과정을 10번을 하여 평균을 내는 것을 10-Cross validation이라 한다. 본 논문에서는 한 데이터에 10-Cross validation을 200번하여 평균 에러율을 구하여 충분히 신뢰할 만한 결과를 산출하였다. 표.
본문요약 정보가 도움이 되었나요?

질의응답

핵심어 질문 논문에서 추출한 답변
앙상블 시스템이란 무엇인가? 앙상블 시스템이란 두 개 이상의 분류자들을 사용하여 결과를 예측하는 데이터 마이닝 기술 중 하나이다. Hansen 과 Salamon은 1990년에 신경 회로망들로 배열된 시스템을 통해 한 개의 신경 회로망을 사용하는 것보다 더 나은 성능을 보여주었다.
AdaBoost 알고리즘은 앙상블 시스템 분야에서 어떤 역할을 하였는가? [3][4] 앙상블 시스템 분야에서 AdaBoost는 매우 중요한 역할을 하였다. 첫째로 앙상블 시스템의 기본 모형을 제공하였다. 둘째로 강한 분류자를 만들기 어려운 분야에서 약한 분류자들의 조합만으로 성능을 개선할 수 있다는 장점을 보여주었다. 이런 장점들은 앙상블 시스템의 학문적 성장에 도움을 주었고 많은 연구자들은 다양한 이름의 앙상블 시스템을 제안하였다.
관문 네트워크란 무엇인가? 앙상블 시스템의 연구 분야 중 하나인 전문가들의 혼합 분야에서 연구된 방법들은 대부분 관문 네트워크(gating network)를 사용하여 구현되었다. 관문 네트워크란 앙상블 시스템을 구성하는 다수의 분류자들을 분류를 위하여 조합할 때, 각각의 분류자들의 weight 값을 입력 값에 의존하여 결정하는 네트워크를 말한다. 일반적인 앙상블 시스템들은 훈련 중 각각의 분류자들에게 중요도들을 할당한다.
질의응답 정보가 도움이 되었나요?

참고문헌 (18)

  1. L.K Hansen and P.Salamon, "Neural network ensembles," IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 12, no. 10, pp993-1001, 1990. 

  2. R.E Schapire, "The strength of weak learnability," Machine Learning, vol.5, no. 2, pp. 197-227, 1990. 

  3. Yoav Freund and Robert E. Schapire. "A decisiontheoretic generalization of on-line learning and an application to boosting," Journal of Computer and System Sciences, 55(1):119-139, August 1997. 

  4. Y. Freund and R. Schapire. "A Short Introduction to Boosting," Journal of Japanese Society for Artificial Intelligence, 14(5):771-780, 1999. 

  5. K. Woods, W.P.J. Kegelmeyer, and K. Bowyer, "Combination of multiple classifiers using local accuracy estimates," IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 19, no. 4, pp. 405-410, 1997. 

  6. I. Bloch, "Information combination operators for data fusion: A comparative review with classification," IEEE Transactions on Systems, Man, and Cybernetics Part A: Systems and Humans, vol. 26, no. 1, pp. 52-67, 1996. 

  7. R. Battiti and A.M. Colla, "Democracy in neural nets: Voting schemes for classification," Neural Networks, vol. 7, no. 4, pp. 691-707, 1994. 

  8. L. Xu, A. Krzyzak, and C.Y. Suen, "Methods of combining multiple classifiers and their applications to handwriting recognition," IEEE Transactions on Systems, Man and Cybernetics, vol. 22, no. 3, pp. 418-435, 1992. 

  9. T.K. Ho, J.J. Hull, and S.N. Srihari, "Decision combination in multiple classifier systems," IEEE Trans. on Pattern Analysis and Machine Intelligence, vol. 16, no. 1, pp. 66-75, 1994. 

  10. G. Rogova, "Combining the results of several neural network classifiers," Neural Networks, vol. 7, no. 5, pp. 777-781, 1994. 

  11. L. Lam and C.Y. Suen, "Optimal combinations of pattern classifiers," Pattern Recognition Letters, vol. 16, no. 9, pp. 945-954, 1995. 

  12. H. Drucker, C. Cortes, L.D. Jackel, Y. LeCun, and V. Vapnik, "Boosting and other ensemble methods," Neural Computation, vol. 6, no. 6, pp. 1289-1301, 1994. 

  13. L.I. Kuncheva, "Classifier ensembles for changing environments," 5th Int. Workshop on Multiple Classifier Systems, Lecture Notes in Computer Science, F. Roli, J. Kittler, and T. Windeatt, Eds., vol. 3077, pp. 1-15, 2004. 

  14. R.A. Jacobs, M.I. Jordan, S.J. Nowlan, and G.E. Hinton, "Adaptive mixtures of local experts," Neural Computation, vol. 3, pp. 79-87, 1991. 

  15. M.J. Jordan and R.A. Jacobs, "Hierarchical mixtures of experts and the EM algorithm," Neural Computation, vol. 6, no. 2, pp. 181-214, 1994. 

  16. R.E Schapire, "The strength of weak learnability," Machine Learning, vol. 5, no. 2, pp. 197-227, 1990 

  17. L. Breiman, "Bagging predictors," Machine Learning, vol. 24, no. 2, pp. 123-140, 1996 

  18. C.J. Merz and P. M. Murphy. UCI repository of machine learning databases, 1998. www.ics.uci.edu/-mlearn/MLRepository.html 

저자의 다른 논문 :

관련 콘텐츠

오픈액세스(OA) 유형

BRONZE

출판사/학술단체 등이 한시적으로 특별한 프로모션 또는 일정기간 경과 후 접근을 허용하여, 출판사/학술단체 등의 사이트에서 이용 가능한 논문

이 논문과 함께 이용한 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로