[논문]Adaptive Nearest Neighbors를 활용한 판별분류방법

전명식; 최인경

doi:10.5351/kjas.2009.22.3.479

Adaptive Nearest Neighbors를 활용한 판별분류방법
Adaptive Nearest Neighbors for Classification 원문보기

비모수적 판별분류방법으로 널리 사용되는 ${\kappa}$-Nearest Neighbors Classification(KNNC) 방법은 자료의 국소적 특징을 고려하지 않고 전체 자료에 대해 고정된 이웃의 개수 ${\kappa}$를 사용하여 개체를 분류하는 방법이다. 본 연구에서는 KNNC의 대안으로 자료의 국소적 특징을 고려하는 Adaptive Nearest Neighbors Classificaion(ANNC) 방법을 제안하였다. 제안된 방법의 특징을 규명하기 위하여 실제 자료에 대한 분석을 통하여 제안된 방법의 응용 가능성을 제시하였으며, 나아가 모의실험을 통하여 기존의 방법과의 효율성을 비교하였다.

The ${\kappa}$-Nearest Neighbors Classification(KNNC) is a popular non-parametric classification method which assigns a fixed number ${\kappa}$ of neighbors to every observation without consideration of the local feature of the each observation. In this paper, we propose an Adaptive Nearest Neighbors Classification(ANNC) as an alternative to KNNC. The proposed ANNC method adapts the number of neighbors according to the local feature of the observation such as density of data. To verify characteristics of ANNC, we compare the number of misclassified observation with KNNC by Monte Carlo study and confirm the potential performance of ANNC method.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

Friedman (1994)은 직사각형 안에 포함된 이웃들의 바깥 부분을 제외시킴으로써 적응시켜 나가는 방법을 제안하였으며, Hastie와 Tibshrani (1996)는 KNNC 방법을 사용함에 있어서 개체가 속한 지역정보를 포함하는 효과적인 거리공간(metHc space)을 찾기 위해 국소선형 판별분석(local linear discriminant amalygis)을 활용하였다, Jhun 등 (2007)은 결측치 대체방법에 있어 k-최근접(k-Marest neighbors) 방법의 대안으로 자료의 국소적 특징을 고려한적응 최근접(adapnearest neighbors) 방법을 제안하였다. 본 연구에서는 이와 유사한 방법을 사용한 분류방법으로 Adaptive Nearest Neighbors Classification(ANNC) 을 제 안하고 KNNC 분류방법과의 비교에 주된 관심을 두고자 한다.

제안 방법

1 의 오른쪽 그림은 이 자료에 ANNC 방법을 사용했을 때 각 개체들이 사용한 이웃의 개수(number of neighbors: NN)의 분포 형태를 보여준다. 가장 밀집된 지역에 속한 개체들은 30개 이상의 개체를 이웃으로 선택하였고, 밀집되지 않은 지역에 속한 개체들은 상대적으로 적은 수의 개체를 이웃으로 선택하였다. 동일한 자료에서 KNNC 방법이 최적 이웃의 개수 k = 25를 모든 개체에 동일하게 적용한 것에 비교해봤을 때, ANNC 방법이 개별 개체가 속한 지역의 자료구조를 보다 효과적으로 활용함을 확인할 수 있다.
다음과 같은 다양한 4가지 모형 하에서 ANNC와 KNNC의 최적성능을 몬테칼로 모의실험을 통해 비교하였다. 독립반복시행횟수는 100회이며 각 집단의 표본크기는 모형에서 명시되어 있는 경우를 제외하고 모두 100으로 동일하다.
1은 모형 1~4 하에서 얻은 ANNC 방법과 KNNC 방법의 오분류 개체수(number of misclassification: N0M)를 평균한 것으로 괄호 안은 이 평균에 대한 표준오차를 나타낸다. 독립적 모의시행에서 생성된 자료로부터 발생하는 변동요인을 제어하기 위해 각각의 모의시행에서 KNNC 방법에 의한 오분류 개체수와 ANNC 방법에 의한 오분류 개체수의 차이(KNNC - ANNC)를 구하였다. 모든 모형 하에서, 평균적으로 ANNC 방법에 의한 오분류 개체수가 KNNC 방법에 의한 오분류 개체수 보다 적은것을 알 수 있다.
하지만 이렇게 고정된 개수의 이웃들을 사용하면 개체 A와 같이 밀집된 지역에 있는 개체는 이웃 개수가 너무 적을 경우 자료의 국소적 특징을 충분히 반영하지 못하게 되고 개체 B와 같이 밀집되지 않은 지역에 있는 개체는 이웃의 개수가 너무 많을 경우 지나치게 멀리 떨어져 있는 이웃의 부적절한 정보까지 사용하게 될 위험이 있다. 따라서 개체가 속한 지역의 밀집 정도에 따라 이웃의 개수를 유연하게 조절하는 방법(가령 실선에 포함된 이웃들을 사용하는 것)이 보다 타당해 보이며, 이를 수행하기 위한 ANNC 알고리즘을 다음과 같이 제안한다.
비모수적 판별분류방법으로 널리 사용되는 fc-Nearest Neighbors Classification(KNNC) 방법이 전체자료에 대해 고정된 이웃의 개수 k를 사용함으로서 발생하는 단점을 보완하기 위한 방법으로 Adaptive Nearest Neighbors Classificaion(ANNC) 방법을 제안하였다. 제안된 ANNC 방법은 분류를 위한 이웃의 선택에 있어서 자료의 국소적 구조나 밀집도 등을 반영하여 선택되는 이웃의 개수가 변화하며 결과적으로 오분류율을 감소시키는 것을 보일 수 있었다.
실제 사례를 이용하여 ANNC 과정을 살펴보자. 다음 표 2.
제안된 ANNC 방법은 해당 개체로부터 가까운 개체들을 선택하는 과정에서 그 개체와의 거리 증분비가임계치보다 작은 개체들만을 이웃으로 선택한다. 이렇게 함으로써 해당개체 주변의 밀도나 구조를 포함한 국소적 성격을 반영하는 것이다.

성능/효과

가장 밀집된 지역에 속한 개체들은 30개 이상의 개체를 이웃으로 선택하였고, 밀집되지 않은 지역에 속한 개체들은 상대적으로 적은 수의 개체를 이웃으로 선택하였다. 동일한 자료에서 KNNC 방법이 최적 이웃의 개수 k = 25를 모든 개체에 동일하게 적용한 것에 비교해봤을 때, ANNC 방법이 개별 개체가 속한 지역의 자료구조를 보다 효과적으로 활용함을 확인할 수 있다.
독립적 모의시행에서 생성된 자료로부터 발생하는 변동요인을 제어하기 위해 각각의 모의시행에서 KNNC 방법에 의한 오분류 개체수와 ANNC 방법에 의한 오분류 개체수의 차이(KNNC - ANNC)를 구하였다. 모든 모형 하에서, 평균적으로 ANNC 방법에 의한 오분류 개체수가 KNNC 방법에 의한 오분류 개체수 보다 적은것을 알 수 있다.
즉, ANNC 방법의 경우 오분류되는 개체나 정분류되는 개체나 평균 이웃거리의 차이가 KNNC의 그것보다 크지 않으며, KNNC 방법의 경우 오분류되는 개체들의 평균 이웃거리가 정분류되는 개체들의 평균 이웃거리보다 ANNC에 비해 상대적으로 더 짧다는 것을 나타낸다. 밀집된 지역에 속한 개체들의 평균 이웃거리가 대체로 짧은 것을 감안하면 KNNC 방법이 이웃의 수를 모든 개체에 동일하게 적용함으로써 개체가 속한 지역의 특성을 ANNC 방법에 비해 충분히 반영하지 못함을 알 수 있다.
제안된 ANNC 방법은 분류를 위한 이웃의 선택에 있어서 자료의 국소적 구조나 밀집도 등을 반영하여 선택되는 이웃의 개수가 변화하며 결과적으로 오분류율을 감소시키는 것을 보일 수 있었다. 사례분석과 다양한 모형에 대한 모의실험을 통해 제안된 ANNC의 통계적 성질을 규명하였으며 나아가 기존의 KNNC의 대안이 될 수 있음을 보였다고 여겨진다.
두 번째 판별변수의 분산 s는 1보다 크기 때문에 이는 두 집단이 겹쳐지는 부분에서 집단 1의 개체들이 상대적으로 더 밀집된다는 것을 의미하게 된다. 이제 표 3.2에서 집단 별 오분류율을 살펴보면, 두 번째 판별변수의 분산 s가 3.0일 때 집단 2의 ANNC와 KNNC의 매우 작은 차이 -0.15를 제외하면 대부분 ANNC 방법이 KNNC 방법보다 낮은 오분류율을 보이고 있다. 특히 분산 s가 커질수록 집단 1의 ANNC와 KNNC의 오분류율의 차이가 더 커 짐을 알 수 있다.
125를 이용한 ANNC 방법의 판별분류결과와 같은 자료에 대하여 역시 오분류율을 최소화하는 최적의 이웃의 개수 5개를 이용한 KNNC 방법의 판별분류결과이다. 전체 85개의 개체 중 ANNC의 경우 1개의 개체가 오분류된 반면, KNNC 방법의 경우 총 3개의 개체가 오분류되었다. 표 2.
Neighbors Classificaion(ANNC) 방법을 제안하였다. 제안된 ANNC 방법은 분류를 위한 이웃의 선택에 있어서 자료의 국소적 구조나 밀집도 등을 반영하여 선택되는 이웃의 개수가 변화하며 결과적으로 오분류율을 감소시키는 것을 보일 수 있었다. 사례분석과 다양한 모형에 대한 모의실험을 통해 제안된 ANNC의 통계적 성질을 규명하였으며 나아가 기존의 KNNC의 대안이 될 수 있음을 보였다고 여겨진다.
2에서, KNNC 방법의 평균 이웃거리의 차이가 ANNC 방법의 그것보다 큰 것을 확인할 수 있다. 즉, ANNC 방법의 경우 오분류되는 개체나 정분류되는 개체나 평균 이웃거리의 차이가 KNNC의 그것보다 크지 않으며, KNNC 방법의 경우 오분류되는 개체들의 평균 이웃거리가 정분류되는 개체들의 평균 이웃거리보다 ANNC에 비해 상대적으로 더 짧다는 것을 나타낸다. 밀집된 지역에 속한 개체들의 평균 이웃거리가 대체로 짧은 것을 감안하면 KNNC 방법이 이웃의 수를 모든 개체에 동일하게 적용함으로써 개체가 속한 지역의 특성을 ANNC 방법에 비해 충분히 반영하지 못함을 알 수 있다.

원문 URL 링크

DOI : 10.5351/KJAS.2009.22.3.479
한국학술정보 : 저널
AccessON : 저널

*원문 PDF 파일 및 링크정보가 존재하지 않을 경우 KISTI DDS 시스템에서 제공하는 원문복사서비스를 사용할 수 있습니다.

오픈액세스(OA) 유형

GOLD

오픈액세스 학술지에 출판된 논문

이 논문과 함께 이용한 콘텐츠

[논문] 수정된 적응 최근접 방법을 활용한 판별분류방법에 대한 연구

저작권 관리 안내

내보내기 메뉴

내보내기 구분

파일저장
인쇄
메일전송

구성항목

기본정보
상세정보

관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관

저장형식

Text(ASCII format)
Excel format
RefWorks Direct Export
RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley

메일정보

받는사람 (필수): @
보내는사람 (선택): @
제목
내용: KISTI 검색결과 이메일 서비스

안내

총 건의 자료가 검색되었습니다.

다운받으실 자료의 인덱스를 입력하세요. (1-10,000)

검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다.

데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요)

다운로드 파일은 UTF-8 형태로 저장됩니다.
파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오.

Text(ASCII format)
Excel format

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

AI-Helper ※ AI-Helper는 을 사용합니다.

AI-Helper

안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

연합인증

Adaptive Nearest Neighbors를 활용한 판별분류방법
Adaptive Nearest Neighbors for Classification 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어