선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 결과적으로 베이지안 추론법을 통해 우리는 주어진 최근접 이웃들의 정보가 주어졌을 때, 특정 항목(class)의 모분포 밀도함수가 다른 항목의 모분포 밀도함수보다 클 확률값을 닫힌 해(closedform solution)로 얻을 수 있게 된다. 따라서, 분류 전략을 세우는데 있어서 이 확률값을 어떻게 활용하는지에 대한 논의가 이루어질 것이다.
- 마지막으로, 이러한 추론법을 통해 얻어지는 확률값을 보다 빨리 계산하기 위한 계산 방법을 소개한다. 주어진 k-최근접 이웃 정보를 가지고 항목(class) 사후 확률을 계산할 때, 일반적으로 적용되는 계산을 위해서 재귀법으로 프로그램을 구현 필요가 있다.
- 본 논문은 한걸음 더 나아가 최근접 이웃들까지의 거리들이 특정 확률 분포를 따른다는 데 주목한다. 이 확률 분포는 k번째의 최근접 거리를 반지름으로 하는 초구(hyper-shpere)의 체적(volume)을 확률변수(random variable)로 삼았을 때, 이 체적이 감마 분포(Gamma distribution)를 따르는 성질을 띈다[5].
- 본 리뷰 논문에서는 최근접 이웃 정보의 이론적 특성을 이용한 최신 분류 방법에 관해 정리하여 소개했다. 기존에 일상적으로 사용해 온 다수결을 통한 k-최근접 이웃 분류법은 이런 측면에서 봤을 때 상당히 우수한 방법이다.
- 이 확률 분포는 k번째의 최근접 거리를 반지름으로 하는 초구(hyper-shpere)의 체적(volume)을 확률변수(random variable)로 삼았을 때, 이 체적이 감마 분포(Gamma distribution)를 따르는 성질을 띈다[5]. 이 논문에서는 이러한 감마 분포를 통해 어떻게 k개의 최근접 이웃을 통한 단순한 다수결 방법이 최대 우도 추정법의 결과로 설명되는지 소개하고 여기에 더해서 베이지안 추론을 통해 더 좋은 전략을 고안해 낼 수 있을지를 고찰해 본다. 결과적으로 베이지안 추론법을 통해 우리는 주어진 최근접 이웃들의 정보가 주어졌을 때, 특정 항목(class)의 모분포 밀도함수가 다른 항목의 모분포 밀도함수보다 클 확률값을 닫힌 해(closedform solution)로 얻을 수 있게 된다.
- 주어진 k-최근접 이웃 정보를 가지고 항목(class) 사후 확률을 계산할 때, 일반적으로 적용되는 계산을 위해서 재귀법으로 프로그램을 구현 필요가 있다. 이 부분에 대해 효과적인 알고리즘의 구현을 위해 사용할 수 있는 기술을 잠시 소개한다.
가설 설정
- 반면, k-최근접 분류기가 이론적으로 얼마나 좋은 분류기가 될 수 있는지에 관한 연구는 이 방법을 데이터의 모분포(underlying probability density function)를 알 때에만 얻을수 있는 베이즈 에러(Bayes error)와 연관시켜 베이즈 에러에 상당히 접근할 수 있음으로 보여준다[2],[3]. 단, 필요한 조건은 분류하고자 하는 데이터의 위치와 k개의 최근접 이웃의 위치들에서 모분포 값이 거의 같다고 할 수 있을 정도로 데이터의 밀집도가 큰 상황, 즉 데이터가 아주 많은 상황을 가정하고 있다. 이 경우에 최근접 이웃들을 이용한 분류는 단 한 개의 최근접 이웃들만 가지고 분류를 한다고 하더라고 베이즈 에러의 두 배를 넘지 않는 아주 작은 에러 기대값을 가지게 된다[2].
- 미리 정해진 두 개의 밀도 λ+와 λ-가 존재하며 λ+>λ- 를 만족 시키는데, 언제나 하나의 분류 항목은 λ+를, 또 다른 분류 항목은 λ-를 가지며, 두 분류 항목이 모두 λ+를 가지거나 모두 λ-를 가지지 않는다고 가정한다.
- 여기서, 하나의 분류 항목만 더 큰 값인 λ+를 가지고 있고, 나머지 분류 항목들은 모두 작은 값인 λ-를 동일하게 가지고 있는 것을 가정한다.
- Cover의 연구를 기반으로 시작되었다[2]. 이 연구는 데이터가 많아 데이터 공간을 충분히 메울 만한 밀도가 보장되는 가정 하의 결과였고, 결과적으로 알고자 하는 데이터 위치에서의 확률 밀도와 이 위치에서 가장 가까운 k개의 최근접 이웃들 위치에서의 확률 밀도 차이가 없게 되는 상황을 가정하였다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.