[논문]엔트로피 기반 분할과 중심 인스턴스를 이용한 분류기법의 데이터 감소

손승현; 김재련

문제 정의

데이터 마이닝을 통해 얻은 정보는 여러 분야에서 현명한 의사결정을 할 수 있도록 도움을 준다. 데이터 마이닝의 여러 기법 중, 분류(classification)기법은 데이터의 클래스(class)를 구별하는 모델을 만들고, 그 모델을 이용하여 클래스의 값이 알려져 있지 않은 새로운 객체들의 클래스를 예측(prediction)할 수 있도록 하는데 그 목적이 있다.
특징을 가지고 있다. 또한 각 파티션의 대표 인스턴스를 보다 빠르게 찾을 수 있는 있는 방법을 제시한다.
본 알고리듬은 인스턴스 분할과 속성 선택의 장점을 통합하여 인스턴스 기반 학습을 위한 새로운 데이터 감 소 방법을 제시하였다. 분류 기법을 위한 데이터 감소 는 데이터 저장 공간의 절약을 가져올 수 있으며, 새로운 객체의 클래스를 예측하기 위해서 검색할 인스턴스 와 속성의 수를 줄임으로써 인스턴스 기반 알고리듬에 서의 예측시간을 단축시킬 수 있다.
본 연구는 분류기법을 위한 데이터 감소(data reduc tion) 방법을 제시한다. 엔트로피 기반 분할방법(entropy based partition)과 각 분할 집합의 중심 인스턴스(center instance)들을 이용한 데이터 감소를 통해, 분류 예측의정확성(accuracy)을 높이는 방법이다.

가설 설정

클래스 레이블(class label) 속성은 이개의 상이한 클래스 00 = 1, 2, 를 정의하는 m개의 상이한 값을 갖는다고 가정한다. &는 클래스 C.

제안 방법

기존 방법 灼in 알고리듬의 경우, &값을 k=l, 2, 3, 4, 5까지 변화시키면서 실험을 하였고 가장 좋은 분류 정확도를 채택하였다.
새롭게 제안한 방법은 k-nn 알고리듬[1], 분류기법을 위한 데이터 감소 방법인 PGF 알고리듬과 비교하였다 , [4] k-m 알고리듬은 모든 데이터 집합을 학습 집합 (training set)으로 사용하였으며, 제안한 방법에서는 불필요한 속성제거와 대표 인스턴스들로 이루어진 감소 데이터 집합을 학습 집합으로 사용한다.
fc-nn 알고리듬의 경우, 계산시간은 초기 데이터 집합을 사용하여정확도를 측정한 시간이다. 제안 알고리듬의 경우, 계산시간은 초기 데이터 집합을 감소시키는데 걸린 시간과감소시킨 데이터 집합을 사용하여 정확도를 측정한 시간을 합하였다.

대상 데이터

UCI의 Machine Learning 그룹에서는 금융, 카드, 제조, 의류 등의 다양한 분야에서 수집된 100여종의 실제 데이터 집합과 가상 데이터 집합을 제공해 주고 있으며, 이곳은 데이터 마이닝 기법을 시험해 보기 위한 데이터를 제공해 주고 있는 가장 대표적인 곳이다. 본 실험은 펜티엄 IV 3.0 GHz, 512 MB 메모리를 가진 컴퓨터에서 Visual C++ 컴파일러를 사용하여 수행하였다.
실험에서 사용된 데이터들은 UCI Database Repository 에 있는 데이터 집합이며, 모든 속성과 클래스는 범주형 속성값을 가지고 있다. UCI의 Machine Learning 그룹에서는 금융, 카드, 제조, 의류 등의 다양한 분야에서 수집된 100여종의 실제 데이터 집합과 가상 데이터 집합을 제공해 주고 있으며, 이곳은 데이터 마이닝 기법을 시험해 보기 위한 데이터를 제공해 주고 있는 가장 대표적인 곳이다.
예제 데이터 집합은 총 16개의 인스턴스들과 6개의 속성, 1개의 목표속성으로 이루어져 있다. 다음<그림 2>와 같다.
예제에서는 {Pll, P121, P1221, P1222, P21, P22L P222}의 분할 집합이 만들어 진다. 분할 단계에서의 최종 분할 집합은<그림 5>와 같다.

이론/모형

Datta and Kibler는 각 클래스의 속성값으로분할 한 후, 각 파티션에서 대표 인스턴스들을 찾았다[2]. 그리고 k-means clustering 방법을 이용하여 데이터를 분할하고, 클러스터 평균을 이용하여 인스턴스들을 찾는방법도 제시하였다[3]. Wai Lam의 Prototype Generation and Filtering(PGF) 알고리듬은 각 인스턴스들의 거리를계산하여 가장 가까운 인스턴스들을 우선적으로 합병 (merge)하는 방식으로 파티션을 구하였다[4].
같다.<표 2>에 있는 k-nn과 PGF의 실험결과는 Wai Lam의 논문에서 참고하였으며, 3개의 PGF 변형 알고리듬 중에서 가장 좋은 성과를 채택하였다[4]. 기호 “---”는 데이터 감소 비율이 0%를 의미하며 제안 알고리듬의 평균 정확도와 평균 데이터 감소 비율은 각각 91.
분류 정확도의 추정은 k번의반복으로부터 정확하게 분류가 된 인스턴스 개수와 초기 데이터의 인스턴스 개수 비율로 나타낸다. 제안 알고리듬의 분류 정확도를 측정하기 위해서 사용된 인스턴스 기반 알고리듬은 k-m 알고리듬을 사용한다. 데이터 감소 비율은 초기 데이터 집합의 인스턴스 개수와속성 개수의 곱과 감소된 데이터 집합의 인스턴스 개수와 속성 개수의 곱의 감소 비율로 나타낸다.
평균 분류 정확도(average classification accuracy) 를 추정하기 위해서 10-fold cross-validation 방법을 사용한다 [6]. 10-fold cross-validation은 전체 데이터 집합을 크기가 대략적으로 같은 10개의 부분 집합으로 나눈다.

성능/효과

실험을 통해, 제안한 알고리듬은 불필요한 속성제거 와 중심 인스턴스들로 이루어진 데이터 집합으로 정확 한 분류 예측을 할 수 있었다. 또한 기존 분류기법을 위한 데이터 감소 알고리듬에서는 불필요한 속성 제거 없이 인스턴스만을 고려한 데이터 감소 방법들을 제시 하고 있으나, 본 연구에서는 인스턴스와 함께 속성제거를 같이 고려함으로써 데이터 감소 비율을 높일 수 있 었다. 제안한 알고리듬은 분류기법 뿐만 아니라 데이터 마이닝의 전처리(preprocessing) 과정에서도 유용하게 사 용될 수 있다.
Credit 데이터 집합의 경우에서는 제안 알고리듬의 분류 정확성이 더 높았다. 또한 제안 알고리듬은 기존 데이터 감소 알고리듬인 PGF와의 분류 정확도와 데이터 감소 비율을 비교했을 때, 분류 정확도는 비슷하거나 약간 높은 결과를 나타냈으며 데이터 감소 비율은 전체적으로 높은 결과를 나타내었다. 또한 제안 알고리듬을 통해, 계산시간 단축의 효과를 가져 올 수 있었다.
또한 제안 알고리듬은 기존 데이터 감소 알고리듬인 PGF와의 분류 정확도와 데이터 감소 비율을 비교했을 때, 분류 정확도는 비슷하거나 약간 높은 결과를 나타냈으며 데이터 감소 비율은 전체적으로 높은 결과를 나타내었다. 또한 제안 알고리듬을 통해, 계산시간 단축의 효과를 가져 올 수 있었다.
본 연구에서 제안하는 방법은 기존 방법보다 빠르게각 파티션을 만들고, 불필요한 속성까지도 제거할 수 있는 특징을 가지고 있다. 또한 각 파티션의 대표 인스턴스를 보다 빠르게 찾을 수 있는 있는 방법을 제시한다.
실험을 통해, 제안한 알고리듬은 불필요한 속성제거 와 중심 인스턴스들로 이루어진 데이터 집합으로 정확 한 분류 예측을 할 수 있었다. 또한 기존 분류기법을 위한 데이터 감소 알고리듬에서는 불필요한 속성 제거 없이 인스턴스만을 고려한 데이터 감소 방법들을 제시 하고 있으나, 본 연구에서는 인스턴스와 함께 속성제거를 같이 고려함으로써 데이터 감소 비율을 높일 수 있 었다.
제안 알고리듬은 기존 방법인 k-nn 알고리듬과 비교했을 때, 분류의 정확성이 거의 비슷함을 알 수 있었다. Credit 데이터 집합의 경우에서는 제안 알고리듬의 분류 정확성이 더 높았다.

후속연구

또한 기존 분류기법을 위한 데이터 감소 알고리듬에서는 불필요한 속성 제거 없이 인스턴스만을 고려한 데이터 감소 방법들을 제시 하고 있으나, 본 연구에서는 인스턴스와 함께 속성제거를 같이 고려함으로써 데이터 감소 비율을 높일 수 있 었다. 제안한 알고리듬은 분류기법 뿐만 아니라 데이터 마이닝의 전처리(preprocessing) 과정에서도 유용하게 사 용될 수 있다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

엔트로피 기반 분할과 중심 인스턴스를 이용한 분류기법의 데이터 감소
Data Reduction for Classification using Entropy-based Partitioning and Center Instances 원문보기

Abstract ▼ AI-Helper

주제어

AI 본문요약
AI-Helper

문제 정의

가설 설정

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

참고문헌 (7)

이 논문을 인용한 문헌

저자의 다른 논문 :

관련 콘텐츠

원문 보기

원문 URL 링크

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

엔트로피 기반 분할과 중심 인스턴스를 이용한 분류기법의 데이터 감소 Data Reduction for Classification using Entropy-based Partitioning and Center Instances 원문보기

Abstract ▼ AI-Helper

주제어

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

가설 설정

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

참고문헌 (7)

이 논문을 인용한 문헌

저자의 다른 논문 :

손승현 (2) 김재련 (31)

관련 콘텐츠

원문 보기

원문 URL 링크

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

엔트로피 기반 분할과 중심 인스턴스를 이용한 분류기법의 데이터 감소
Data Reduction for Classification using Entropy-based Partitioning and Center Instances 원문보기

AI 본문요약
AI-Helper