[논문]순차 적응 최근접 이웃을 활용한 결측값 대치법

박소현; 방성완; 전명식

doi:10.5351/kjas.2011.24.6.1249

순차 적응 최근접 이웃을 활용한 결측값 대치법
On the Use of Sequential Adaptive Nearest Neighbors for Missing Value Imputation 원문보기

응용통계연구 = The Korean journal of applied statistics, v.24 no.6, 2011년, pp.1249 - 1257

박소현 (고려대학교 통계학과) , 방성완 (육군사관학교 수학과) , 전명식 (고려대학교 통계학과)

초록
AI-Helper

비모수적 결측치 대치법인 k-최근접 이웃(k-Nearest Neighbors; KNN) 대치법을 개선한 적응 최근접 이웃(Adaptive Nearest Neighbor; ANN) 대치법과 순차 k-최근접 이웃(Sequential k-Nearest Neighbor; SKNN) 대치법의 장점들을 결합한 순차 적응 최근접 이웃(Sequential Adaptive Nearest Neighbor; SANN) 대치법을 제안하고자 한다. 이 방법은 ANN 대치법의 장점인 자료의 국소적 특징을 반영할 뿐 아니라, SKNN 대치법과 같이 결측값 대치가 이루어진 개체를 다음 결측값을 대치할 때 사용함으로써 효율성에 개선이 있을 것으로 기대한다.

Abstract ▼ AI-Helper

In this paper, we propose a Sequential Adaptive Nearest Neighbor(SANN) imputation method that combines the Adaptive Nearest Neighbor(ANN) method and the Sequential k-Nearest Neighbor(SKNN) method. When choosing the nearest neighbors of missing observations, the proposed SANN method takes the local feature of the missing observations into account as well as reutilizes the imputed observations in a sequential manner. By using a Monte Carlo study and a real data example, we demonstrate the characteristics of the SANN method and its potential performance.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

이를 보완할 수 있는 방법으로 Kim 등 (2004)은 결측값 대치가 완료된 개체를 다음 결측값을 대치할 때 이웃의 후보로 사용하는 SKNN 대치법을 제안하였다. 본 논문에서는 KNN 대치법을 보완한 ANN과 SKNN 대치법의 장점을 결합한 Sequential ANN(SANN) 대치법을 제안하고자 한다. 이 방법은 ANN 대치법이 목표개체가 속한 지역의 국소적 특징을 고려해서 이웃의 개수를 유연하게 조정하는 장점과 SKNN 대치법의 장점인 결측값이 대치된 개체를 그 다음 대치과정에서 후보집단으로 이용하는 효율성을 함께 지니게 된다.
본 논문에서는 KNN 대치법의 단점을 보완한 ANN 대치법과 SKNN 대치법의 장점을 결합한 순차 적응 최근접 이웃(Sequential Adaptive Nearest Neighbors; SANN) 대치법을 제안하고자 한다. 제안된 SANN 대치법은 각 개체가 지니는 자료의 국소적 특징을 반영하여 개체에 따라 결측값 추정에 이용하는 이웃의 개수 k를 변화시킨다는 점과 결측값이 대치된 개체를 다음 대치에서 사용한다는 두 가지 장점을 모두 지니게 되어 보다 효율적으로 결측값을 대치할 수 있을 것으로 기대한다.
본 논문에서는 SANN 대치법을 수행하기 위한 알고리즘을 다음과 같이 제안한다. 이는 Jhun 등(2007)에서 제안된 ANN 대치법과 매우 유사한 형태이다.
실제 자료에서 흔히 발생하는 결측값을 다루는 방법으로 널리 쓰이는 KNN 대치법은 알고리즘이 간단하고 자료의 분포에 대해 강건성을 가진다는 장점이 있지만 자료의 국소적 특징을 간과하고 결측값이 발생한 개체가 지닌 관측값들은 이용하지 않는다는 단점을 가진다. 본 논문에서는 이러한 단점을 보완하기 위하여, 자료의 국소적 특징을 고려하는 ANN 대치법과 결측값이 대치된 개체를 재활용하는 SKNN 대치법의 장점을 결합한 SANN(Sequential Adaptive Nearest Neighbors) 대치법을 제안하였다. 다양한 모형 하에서의 모의실험을 통해서 결측비율이 높고 자료의 밀도가 낮은 지역에서 결측값이 발생한 경우, 기존의 방법들보다 SANN 대치법의 성능이 뛰어나다는 것을 확인하였고, 또한 실제사례 분석을 통해서 SANN 대치법이 기존의 방법에 비해 우수하다는 것을 보임으로써 제안된 방법의 활용가능성을 제시하였다.

제안 방법

만약 추정된 값이 실제값과 유사하다면 NRMSE는 0에 가까울 것이고, 그렇지 않으면 1에 가까울 것이다. KNN 대치법과 SKNN 대치법의 조정모수 k는 1부터 50까지 1씩 증가시켰으며, ANN과 SANN 대치법의 임계치 q는 1부터 2까지 0.005씩 등간격으로 선택하였다. 이웃의 수 k와 임계치 q의 척도가 다르기 때문에 본 논문에서는 가능한 k와 q값들에 대한 NRMSE의 최소값을 사용하여 대치법들의 성능을 비교하였다.
SANN 대치법과 ANN 대치법이 어떤 과정을 거쳐서 결측값을 추정하는지를 크기가 15 × 4인 자료행렬을 이용하여 살펴보았으며, 그 결과는 표 2.1과 표 2.2에 각각 나타나 있다.
005씩 등간격으로 선택하였다. 이웃의 수 k와 임계치 q의 척도가 다르기 때문에 본 논문에서는 가능한 k와 q값들에 대한 NRMSE의 최소값을 사용하여 대치법들의 성능을 비교하였다. 각각의 모형에 대하여 이와 같은 과정을 독립적으로 100회 반복하였으며, 모의실험의 결과는 표 3.
제안된 SANN 대치법과 기존의 세 가지 대치법(KNN, ANN, SKNN)의 성능을 모의실험을 통해 비교하였다. 모의실험에서는 Jhun 등 (2007)에서 사용된 3가지 모형으로부터 생성된 자료와 미국 국립암연구소(The National Cancer Institute)의 anticancer 프로젝트로부터 제공된 NCI60 자료(http://genome-www.

대상 데이터

NCI60 자료는 60개의 변수로 이루어진 9703개의 개체로 구성되어 있지만, 본 논문에서는 그 중 완전한 n = 681개의 개체와 p = 8개의 melanoma 변수만을 사용하였다. 3.
제안된 SANN 대치법과 기존의 세 가지 대치법(KNN, ANN, SKNN)의 성능을 모의실험을 통해 비교하였다. 모의실험에서는 Jhun 등 (2007)에서 사용된 3가지 모형으로부터 생성된 자료와 미국 국립암연구소(The National Cancer Institute)의 anticancer 프로젝트로부터 제공된 NCI60 자료(http://genome-www.stanford.edu/nci60)를 사용하였다.
방법론들의 성능을 비교하기 위해 먼저 아래 3개의 모형들로부터 크기가 n = 500인 자료를 생성하였다. 이 때 변수의 차원은 p = 4와 8을 고려하였다.

데이터처리

결측값의 추정 후에는 정규화 제곱근 평균제곱오차(Normalized Root Mean Squared Error; NRMSE)를 통해서 각 방법들의 성능을 비교하였다.

성능/효과

가령, 결측비율이 10%, 차원 수 p = 8인 경우의 “SANN 대치법의 최소 NRMSE들의 평균/SKNN 대치법의 최소 NRMSE들의 평균”이 모형 1에서 0.9936, 모형 2에서 0.9926, 모형 3에서 0.9788임을 확인할 수 있다.
본 논문에서는 이러한 단점을 보완하기 위하여, 자료의 국소적 특징을 고려하는 ANN 대치법과 결측값이 대치된 개체를 재활용하는 SKNN 대치법의 장점을 결합한 SANN(Sequential Adaptive Nearest Neighbors) 대치법을 제안하였다. 다양한 모형 하에서의 모의실험을 통해서 결측비율이 높고 자료의 밀도가 낮은 지역에서 결측값이 발생한 경우, 기존의 방법들보다 SANN 대치법의 성능이 뛰어나다는 것을 확인하였고, 또한 실제사례 분석을 통해서 SANN 대치법이 기존의 방법에 비해 우수하다는 것을 보임으로써 제안된 방법의 활용가능성을 제시하였다.
3에서 확인할 수 있다. 또한, 평균절대오차(mean absolute error)가 SANN 대치법을 이용했을 때 더 작은 것을 보면, 보다 가까운 개체를 이용해서 결측값을 대치한 SANN 대치법이 결측값을 더 정확하게 추정했음을 알 수 있다.
ANN 대치법은 C 집단의 개체들만을 이웃으로 이용한 반면, SANN 대치법에서는 C 집단의 개체들과 더불어 M 집단이었던 x₁₂와 x₁₃을 활용하였다. 이러한 결과, 목표개체와 추정에 사용되는 이웃 사이의 거리가 ANN 대치법보다 SANN 대치법을 사용했을 때 더 가깝다는 것을 표 2.3에서 확인할 수 있다. 또한, 평균절대오차(mean absolute error)가 SANN 대치법을 이용했을 때 더 작은 것을 보면, 보다 가까운 개체를 이용해서 결측값을 대치한 SANN 대치법이 결측값을 더 정확하게 추정했음을 알 수 있다.
2에서 SANN 대치법이 기존의 대치법(KNN, SKNN, ANN)에 비해 그 성능이 우수함을 알 수 있다. 특히, 표 3.1의 모형을 이용한 모의실험 결과에서와 마찬가지로, 결측비율이 10%일 때 보다 30%일 때 기존 방법들보다 SANN 대치법의 성능이 더 뛰어남을 확인할 수 있다.
표 3.1에서 고려된 세 모형 하에서, SANN 대치법에 의한 결측치 추정이 기존 방법들(KNN, SKNN, ANN)에 의한 추정보다 평균적으로 그 성능이 우수함을 알 수 있다. 가령, 결측비율이 10%, 차원 수 p = 8인 경우의 “SANN 대치법의 최소 NRMSE들의 평균/SKNN 대치법의 최소 NRMSE들의 평균”이 모형 1에서 0.
한편, 모든 모형에서 결측비율이 높아질수록 “SANN 대치법의 최소 NRMSE들의 평균/ANN 대치법의 최소 NRMSE들의 평균”이 작아지는 것을 볼 수 있다.

후속연구

본 논문에서는 KNN 대치법의 단점을 보완한 ANN 대치법과 SKNN 대치법의 장점을 결합한 순차 적응 최근접 이웃(Sequential Adaptive Nearest Neighbors; SANN) 대치법을 제안하고자 한다. 제안된 SANN 대치법은 각 개체가 지니는 자료의 국소적 특징을 반영하여 개체에 따라 결측값 추정에 이용하는 이웃의 개수 k를 변화시킨다는 점과 결측값이 대치된 개체를 다음 대치에서 사용한다는 두 가지 장점을 모두 지니게 되어 보다 효율적으로 결측값을 대치할 수 있을 것으로 기대한다. 본 논문의 2장에서는 SANN 대치법의 알고리즘을 소개하고, 단순예제를 이용하여 기존의 ANN 대치법과의 차이점을 설명하였다.

질의응답

핵심어	질문	논문에서 추출한 답변
	KNN 대치법의 단점은 무엇인가?	Jhun 등 (2007)이 제시한 이웃의 개수를 적응적으로 부여하는 방안은 판별분류방법에도 적용되어 연구되었다 (전명식과 최인경, 2009; 맹진우 등, 2010). 한편, KNN 대치법은 결측값이 발생하지 않은 완전한 개체들만을 이용해서 이웃집단을 선정하기 때문에 결측값이 하나라도 발생한 개체가 지닌 관측된 변수들에 대한 정보는 이용할 수 없다. 이에, Kim 등 (2004)은 KNN 대치법의 대안으로 결측이 발생한 개체 내의 관측된 변수들의 값을 순차적으로 활용하는 순차 k-최근접 이웃(Sequential k-Nearest Neighbors; SKNN) 대치법을 제안하였다.
	SANN 대치법의 장점은 무엇인가?	반면에, SANN 대치법은 결측 변수의 수가 적은 개체부터 대치를 함으로서, 이미 결측값 대치가 완료된 개체 B와 D도 이웃으로 사용할 수 있어 실선 안에 있는 세 개의 개체를 이용하여 결측값을 대치하게 된다. 이 방법은 이웃에 있는 개체 수가 제한적인 상황에서 먼저 결측값이 대치된 개체를 재활용함으로써 자료를 더 효과적으로 이용할 수 있다는 장점이 있다.
	k-최근접 이웃(KNN) 대치법이란 무엇인가?	통계적 분석과정에서 결측값의 처리에 관하여 많은 방법론이 연구되어 왔으며 (Little과 Rubin, 1987; 이진희 등, 2006; 이상은과 신기일, 2010), 그 중 대치법(imputation)은 가장 널리 사용되고 있는 방법 중 하나이다. 여러 다양한 종류의 대치법들 중에서 Dixon (1979)과 Troyanskaya 등 (2001)에 의해 제안된 k-최근접 이웃(k-Nearest Neighbors; KNN) 대치법은 결측이 발생한 개체와 가장 가까운 거리에 있는 k개의 이웃 개체들을 활용하여 결측값을 대치하는 비모수적 방법으로, 다변량 정규성 등의 모수적 모형이 만족되지 않을 때에도 강건성(robustness)을 지니며 그 계산 알고리즘이 간단하다는 장점을 바탕으로 널리 활용되고 있다. 그러나 KNN 대치법은 모든 개체에 대해 고정된 k개의 이웃을 사용하기 때문에 결측이 발생한 개체의 위치에 따른 국소적 특징을 간과할 수 있다.

참고문헌 (9)

맹진우, 방성완, 전명식 (2010). 수정된 적응 최근접 방법을 활용한 판별분류방법에 대한 연구, 응용통계연구, 23, 1093-1102.

원문보기 상세보기
이상은, 신기일 (2010). BLS 무응답 보정법을 이용한 대체법과 이월대체법에 관한 연구, 응용통계연구, 23, 909-921.

원문보기 상세보기
이진희, 김진, 이기재 (2006). 표본조사에서 공간변수를 이용한 결측 대체의 효율성 비교, 응용통계연구, 19, 57.

원문보기 상세보기
전명식, 최인경 (2009). Adaptive nearest neighbors를 활용한 판별분류방법, 응용통계연구, 22, 479-488.

원문보기 상세보기
Dixon, J. K. (1979). Pattern recognition with partly missing data, IEEE Transactions on Systems, Man, and Cybernetics, 9, 617-621.

상세보기
Jhun, M., Jeong, H. C. and Koo, J. Y. (2007). On the use of adaptive nearest neighbors for missing value imputation, Communications in Statistics: Simulation and Computation, 36, 1275-1286.

상세보기
Kim, K. Y., Kim, B. J. and Yi, G. S. (2004). Reuse of imputed data in microarray analysis increases imputation efficiency, BMC Bioinformatics, 5, 160.

상세보기
Little, R. J. A. and Rubin, D. B. (1987). Statistical Analysis With Missing Data, Wiley, New York.
Troyanskaya, O., Cantor, M., Sherlock, G., Brown, P., Hastie, T., Tibshirani, R., Botstein, D. and Altman, R. B. (2001). Missing value estimation methods for DNA microarrays, Bioinformatics, 7, 520-525.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증