[논문]다중 분포 학습 모델을 위한 Haar-like Feature와 Decision Tree를 이용한 학습 알고리즘

곽주현; 원일용; 이창훈

doi:10.3745/ktsde.2013.2.1.043

다중 분포 학습 모델을 위한 Haar-like Feature와 Decision Tree를 이용한 학습 알고리즘
Learning Algorithm for Multiple Distribution Data using Haar-like Feature and Decision Tree 원문보기

정보처리학회논문지. KIPS transactions on software and data engineering. 소프트웨어 및 데이터 공학, v.2 no.1, 2013년, pp.43 - 48

곽주현 (건국대학교 컴퓨터공학과) , 원일용 (호서서울전문학교 사이버해킹보안과) , 이창훈 (건국대학교 컴퓨터공학과)

초록
AI-Helper

Adaboost 알고리즘은 얼굴인식을 위한 Haar-like feature들을 이용하기 위해 가장 널리 쓰이고 있는 알고리즘이다. 매우 빠르며 효율적인 성능을 보이고 있으며 하나의 모델이미지가 존재하는 단일분포 데이터에 대해 매우 효율적이다. 그러나 정면 얼굴과 측면 얼굴을 혼합한 인식 등 둘 이상의 모델이미지를 가진 다중 분포모델에 대해서는 그 성능이 저하된다. 이는 단일 학습 알고리즘의 선형결합에 의존하기 때문에 생기는 현상이며 그 응용범위의 한계를 지니게 된다. 본 연구에서는 이를 해결하기 위한 제안으로서 Decision Tree를 Harr-like Feature와 결합하는 기법을 제안한다. Decision Tree를 사용 함으로서 보다 넓은 분야의 문제를 해결하기 위해 기존의 Decision Tree를 Harr-like Feature에 적합하도록 개선한 HDCT라고 하는 Harr-like Feature를 활용한 Decision Tree를 제안하였으며 이것의 성능을 Adaboost와 비교 평가하였다.

Abstract ▼ AI-Helper

Adaboost is widely used for Haar-like feature boosting algorithm in Face Detection. It shows very effective performance on single distribution model. But when detecting front and side face images at same time, Adaboost shows it's limitation on multiple distribution data because it uses linear combination of basic classifier. This paper suggest the HDCT, modified decision tree algorithm for Haar-like features. We still tested the performance of HDCT compared with Adaboost on multiple distributed image recognition.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

따라서 본 논문에서는 Haar-like를 결합하기 위해 Adaboost가 적용되기 어려운 문제들에 대해 Adaboost기법의 한계점을 해결하기 위해 결정트리(Decision Tree)를 사용한 방법으로 문제를 해결할 수 있음을 제시한다.
첫 번째는 Adaboost 가 처리하기 힘들게 편향된 숫자 이미지들을 선정하였다. 이러한 이미지들은 숫자의 위치 및 폰트에 따라 하나 이상의 모델이미지를 생성하는게 더욱 유리하며 이를 통해 HDCT가 그것을 해결할 수 있음을 보여주고자 했다. 두 번째는 Adaboost 가 특히 잘 적용되는 얼굴인식분야에 대해 성능을 비교 평가했다.

제안 방법

다음은 비교적 성능이 낮게 나온 학습샘플의 1과 7을 중점으로 학습 샘플의 양 늘려가면서 정확도를 측정하였다. 20개부터 100개까지 순차적으로 1의 이미지와 7의 이미지를 늘려가며 이중 랜덤하게 20개를 뽑아 Adaboost 와 HDCT의 정확도를 비교했다.
OpenCV의 Adaboost 라이브러리를 이용한 학습데이터를 이용하여 0-9까지 각각 학습기를 생성했다. 반면 HDCT는 그 트리의 노드가 각각 숫자에 대응되므로 하나의 트리로 생성됨으로써 단일 학습기로 구성하여 그 정확성을 측정했다.
다음은 비교적 성능이 낮게 나온 학습샘플의 1과 7을 중점으로 학습 샘플의 양 늘려가면서 정확도를 측정하였다. 20개부터 100개까지 순차적으로 1의 이미지와 7의 이미지를 늘려가며 이중 랜덤하게 20개를 뽑아 Adaboost 와 HDCT의 정확도를 비교했다.
이러한 이미지들은 숫자의 위치 및 폰트에 따라 하나 이상의 모델이미지를 생성하는게 더욱 유리하며 이를 통해 HDCT가 그것을 해결할 수 있음을 보여주고자 했다. 두 번째는 Adaboost 가 특히 잘 적용되는 얼굴인식분야에 대해 성능을 비교 평가했다.
OpenCV의 Adaboost 라이브러리를 이용한 학습데이터를 이용하여 0-9까지 각각 학습기를 생성했다. 반면 HDCT는 그 트리의 노드가 각각 숫자에 대응되므로 하나의 트리로 생성됨으로써 단일 학습기로 구성하여 그 정확성을 측정했다.
우리는 Haar-like feature에 Adaboost 대신 결정 트리 (Decision Tree)를 기반으로 한 최종 분류기 생성 방법을 제시함으로써 하나 이상의 유형을 가지는 이미지에 대한 학습이 어려운 Adaboost의 단점을 해결하기 위한 방법을 제안한다.
특히 OpenCV라는 오픈 라이브러리에 이 기능이 기본으로 제공되어 얼굴인식기능을 대중화시키는데 기여하였다. 이를 위해 널리 알려진 OpenCV 상의 Adaboost 에 의한 얼굴인식과 본 논문에서 제시하는 HDCT 상의 성능을 비교했다.
html 의 이미지를 사용했다. 학습에 사용된 이미지는 500 개정도로 제한하였으며 이때 50개의 테스트 이미지에서 정확히 얼굴의 위치를 인식하는지를 놓고 학습샘플을 랜덤하게 바꿔가며 10회를 테스트 후 정확도를 비교했다.

대상 데이터

이미지 사이즈는 평균 100x100 정방형 형태로 추출하였으며 0-9까지의 데이터에 대해서 각각 20개씩 총 200개의 이미지를 선정했다.
실험은 크게 두 가지 방향에서 수행했다. 첫 번째는 Adaboost 가 처리하기 힘들게 편향된 숫자 이미지들을 선정하였다. 이러한 이미지들은 숫자의 위치 및 폰트에 따라 하나 이상의 모델이미지를 생성하는게 더욱 유리하며 이를 통해 HDCT가 그것을 해결할 수 있음을 보여주고자 했다.
학습 얼굴 이미지는 http://vis-www.cs.umass.edu/lfw/ 의 얼굴 샘플을 사용하였으며, testset은 http://cbcl.mit.edu/ software-datasets/heisele/facerecognition-database.html 의 이미지를 사용했다. 학습에 사용된 이미지는 500 개정도로 제한하였으며 이때 50개의 테스트 이미지에서 정확히 얼굴의 위치를 인식하는지를 놓고 학습샘플을 랜덤하게 바꿔가며 10회를 테스트 후 정확도를 비교했다.

이론/모형

실험은 현재 공개되어있는 opencv 2.1 상의 haar-feature와 Adaboost 알고리즘을 이용하였으며 eclipse CDT 상에서 c++ 프로그래밍하였다.

성능/효과

Adaboost 의 경우 평균 86% 이며 HDCT 는 평균 78%의 정확도를 보여 Adaboost의 정확도에 비해 약 91% 가량의 정확도를 보여주었다. HDCT의 경우 트리를 구성하여
결과적으로 단일 모델에 대해서는 Adaboost가 더 세밀하면서도 빠른 성능을 보이고 있지만 이 모델영역이 복잡해질 수록 Adaboost 는 feature 간의 선형결합에 의한 한계성을 지니고 있음을 볼 수 있었다. 그에 비해 HDCT 는 그런 문제에 대해서는 Adaboost 에 비해 성능 저하가 적게 나타났으며 이는 데이터 샘플이 늘어날수록 더욱 그 차이가 벌어졌다.
이 경우 Adabbost 의 평균 정확도는 55%로 크게 떨어졌으며 HDCT 는 78%로 정면 얼굴만의 결과에 비해 크게 떨어지지 안았다. 결과적으로 실험 결과 두 개 이상의 표준 모델을 가진 데이터에 대한 Adaboost의 성능 저하를 볼 수 있었다. 반면 HDCT 는 정확도의 저하가 없었다.
이 경우 Adabbost 의 평균 정확도는 55%로 크게 떨어졌으며 HDCT 는 78%로 정면 얼굴만의 결과에 비해 크게 떨어지지 안았다. 결과적으로 실험 결과 두 개 이상의 표준 모델을 가진 데이터에 대한 Adaboost의 성능 저하를 볼 수 있었다.
이는 단순하지만 고속의 연산이 가능한 Haar-like를 단순한 분류기(classifier)를 여러 개 동시에 사용함으로써 더욱 성능을 높일 수 있는 Adaboost와 결합함으로써 매우 효율적인 성능을 보인다. 또한 Adaboost는 결국 분류기들의 가중치 결합으로 연결한다는 점에서 SVM과 유사한 성격을 지닌다[1].
그에 비해 HDCT 는 그런 문제에 대해서는 Adaboost 에 비해 성능 저하가 적게 나타났으며 이는 데이터 샘플이 늘어날수록 더욱 그 차이가 벌어졌다. 이를 통해 HDCT 가 범용성에서 더 높은 가능성을 지니고 있음을 알 수 있었다.
이와 달리 HDCT 의 경우 Adaboost에 준하는 성능을 보여줌과 동시에 다중 분포 문제도 해결할 수 있음을 제시하였다. 이는 Adaboost보다 범용적인 데이터에 적용될 수 있음을 의미한다.

후속연구

또한 본 연구에선 아직 수행되지 안았지만 이것이 트리형태의구조를 가진다는 특수성을 이용하여 얼굴영역검색과 같은 문제에 적용 시 Feature 를 다 검색하지 않고도 해당 영역에 대한 판단이 어느 정도 적정 영역에 대한 판단을 멈출 수 있기 때문에 속도적인 이점도 기대해 볼 수 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	결정 트리 방식은 어떤 방식인가?	결정 트리(Decision Tree)는 classification분야에서 널리 사용되는 방식으로 Fig. 3과 같이 각각의 feature들을 결정 트리 형태로 구성하여 입력 값에 대한 판단을 수행하는 방식이다. 학습 과정 중에 <수식 1>의 엔트로피 공식을 이용하여 [6] 더 효율적인 분류를 가능케 하는 feature 값을 상위 노드에 배치함으로써 작은 트리 구조로도 효율적으로 입력 값을 분류하는 분류기를 생성할 수 있다[5].
	Adaboost 알고리즘의 장점은 무엇인가?	Adaboost 알고리즘은 얼굴인식을 위한 Haar-like feature들을 이용하기 위해 가장 널리 쓰이고 있는 알고리즘이다. 매우 빠르며 효율적인 성능을 보이고 있으며 하나의 모델이미지가 존재하는 단일분포 데이터에 대해 매우 효율적이다. 그러나 정면 얼굴과 측면 얼굴을 혼합한 인식 등 둘 이상의 모델이미지를 가진 다중 분포모델에 대해서는 그 성능이 저하된다.
	Haar-like feature은 어떤점 때문에 널리 사용되고 있는가?	이미지의 인식, 학습, 분류(classification) 등에 사용되는 Haar-like feature는 사각형의 집합으로 구성된 특징 (feature) 이미지의 집합으로써 이미지영역 누적테이블을 이용해 매우 빠른 시간에 feature의 적합도를 구할 수 있다는 점에서 널리 사용되고 있다[2].

참고문헌 (10)

Y. Amit, D. Geman, and K. Wilder. Joint induction of shape features and tree classifiers, 1997.
P. Viola and M. Jones. Rapid object detection using a boosted cascade of simple features. In Proc. CVPR, pp.511-518, 2001.
Carbonell, J.G., Michalski, R.S., & Mitchell, T.M. (1983). An overview of machine learning, In R.S. Michalski, J.G. Carbonell and T.M. Mitchell, (Eds.), Machine learning: An artificial intelligence approach. Palo Alto: Tioga Publishing Company.
Pearl, J. (1978a). Entropy, information and rational decisions (Technical report). Cognitive Systems Laboratory, University of California, Los Angeles.
Quinlan, J.R. (1985b). Decision trees and multi-valued attributes. In J.E. Hayes & D. Michie (Eds.), Machine intelligence 11. Oxford University Press(in press).
T Kolsch, Diplomarbeit Im Fach Informatik, Lehrstuhl Fur Informatik Vi, Rheinisch-westfalische Technische, Hochschule Aachen, Prof Dr. -ing, Prof Dr. -ing, H. Ney, H. Ney, Prof Dr, E. Vidal, Dipl Inform, D. Keysers, Tobias Gabriel, Tobias Gabriel, Benedikt Kolsch, Benedikt Kolsch, Local Features for Image Classification. 2003.
Quinlan, J.R. (1993). Program for machine learning, Morgan Kaufmann Publisher, Inc.
Quinlan, J.R. (1979). Discovering rules by induction from large collections of examples. In D. Michie(Ed.), Expert systems in the micro electronic age. Edinburgh University Press.
J. R. Quinlan. Improved use of continuous attributes in c4.5. Journal of Artificial Intelligence Research, 4:77-90, 1996.

상세보기
Quinlan, J.R. (1983a). Learning efficient classification procedures and their application to chess endgames. In R.S. Michalski, J.G. Carbonell & T.M. Mitchell, (Eds.), Machine learning: An artificialintelligence approach. Palo Alto: Tioga Publishing Company.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

다중 분포 학습 모델을 위한 Haar-like Feature와 Decision Tree를 이용한 학습 알고리즘
Learning Algorithm for Multiple Distribution Data using Haar-like Feature and Decision Tree 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

질의응답

참고문헌 (10)

이 논문을 인용한 문헌

저자의 다른 논문 :

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

다중 분포 학습 모델을 위한 Haar-like Feature와 Decision Tree를 이용한 학습 알고리즘 Learning Algorithm for Multiple Distribution Data using Haar-like Feature and Decision Tree 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

질의응답

참고문헌 (10)

이 논문을 인용한 문헌

저자의 다른 논문 :

곽주현 (3) 이창훈 (31)

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

다중 분포 학습 모델을 위한 Haar-like Feature와 Decision Tree를 이용한 학습 알고리즘
Learning Algorithm for Multiple Distribution Data using Haar-like Feature and Decision Tree 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper