선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 이에 따라 국내 데이터 아카이브의 경우, 해당 조사자료의 메타 데이터를 참조하여 분류자가 임의로 분류하고 있는 실정이며, 조사자료의 양적 증가로 인해 수작업 분류에 상당한 시간과 인력이 투입되어야 한다. 본 연구는 DDI 메타데이터를 활용하여 귀납적 학습모델의 문서범주화 실험을 수행함으로써 조사자료의 체계적이고 효율적인 분류작업을 설계하는데 그 목적이 있다.
제안 방법
- 본 연구는 DDI 메타데이터를 활용하여 귀납적 학습모델의 문서범주화 실험을 수행함으로써 조사자료의 체계적이고 효율적인 분류작업을 설계하는데 그 목적이 있다. 구체적으로 단순 TF 가중치, TF -IDF 가중치, Okapi TF 가중치에 따른 나이브 베이즈(Naive Bayes), kNN (k nearest neighbor), 결정트리(Decision tree) 분류기의 성능비교 실험을 하였다. 연구의 실험 결과는 다음과 같다.
- 따라서 본 연구는 단순 TF 가중치와 함께, 문서범주화 분야에서 가장 많이 활용되고 있는 TF -IDF 가중치와 TF를 문헌 길이로 정규화한 Okapi TF 가중치를 사용하여 각 성능을 비교·평가하였다.
- 문서범주화 실험(document classification)은 단순 TF 가중치, TF-IDF 가중치, Okapi TF 가중치에 따른 나이브 베이즈, kNN , 결정트리 분류기의 성능비교 실험을 하였다. 학습은 k-fold cross validation 방법을 사용하였고 본 연구에서는 10-fold로 실험하였다.
- 본 연구는 단순 TF 가중치, TF-IDF 가중치, Okapi TF 가중치에 따른 나이브 베이즈, kNN , 결정트리 분류기의 성능비교 실험을 하였다. 실험결과를 요약하면 <그림 4>와 같다.
- 본 연구에서는 'the', 'of', 'and', 'about'과 같은 일반적인 불용어 리스트에 조사자료에 자주 등장하는 조사자료 불용어들을 추가하여 빈도 높은 기능어 및 주제어로서 가치 없는 기타 고빈도어를 제거하였다.
- 실험문헌집단의 수집은 2012년 5월 5일부터 2012년 6월 1일까지 수행하였으며, 수집방법은 ICPSR 조사자료의 상세정보 페이지를 복사하여 텍스트 파일로 저장하였다. 수집한 실험문헌집단은 <그림 2>와 같은 절차로 문서범주화 실험을 수행하였다.
대상 데이터
- 본 실험대상인 DDI 메타데이터 텍스트 450건은 ICPSR의 ‘Topic classifications' 중 'Education', 'Economic Behavior and Attitudes', 'Health Care and Facilities'에 분류된 조사자료의 요약 정보를 각 150건씩 수집한 것이다.
- 본 연구에서는 가장 널리 활용되고 있는 'Porter Stemming Algorithm'을 이용하여 단어들의 어간을 추출하고 단어의 어원을 복구하는 작업을 수행하였다.
데이터처리
- 반면 카이제곱 통계량은 일반적으로 자질선정 기준을 비교 평가하는 실험에서 높은 성능을 보일 뿐만 아니라 과학적 방법으로 통계적 유의성을 판단할 수 있으므로 문서범주화에 적합한 방법이다. 따라서 본 연구에서는 자질선정 기준으로 카이제곱 통계량을 사용하였다.
이론/모형
- k-fold cross validation은 전체 집합을 k개로 나눈 뒤 하나를 다른 것들과 비교하여 전체의 평가 지표로 만들기 위해 평균을 구하며, 이를 이용해 실험 문헌집단의 검증을 수행할 수 있다(김민희, 권영식 2011). 또한 분류기의 도구는 웨카(WEKA) version 3.6.7을 사용하였다. 마지막으로 분류기의 성능평가는 다범주 분류임을 감안하여 혼동행렬(confusion matrix)을 사용하였다.
- 7을 사용하였다. 마지막으로 분류기의 성능평가는 다범주 분류임을 감안하여 혼동행렬(confusion matrix)을 사용하였다.
- 불용어 제거와 어간추출과정을 포함한 전처리 작업, 자질선정, 단어가중치부여는 모두 파이썬(python) version 2.7을 통해 수행하였다.
- 문서범주화 실험(document classification)은 단순 TF 가중치, TF-IDF 가중치, Okapi TF 가중치에 따른 나이브 베이즈, kNN , 결정트리 분류기의 성능비교 실험을 하였다. 학습은 k-fold cross validation 방법을 사용하였고 본 연구에서는 10-fold로 실험하였다. k-fold cross validation은 전체 집합을 k개로 나눈 뒤 하나를 다른 것들과 비교하여 전체의 평가 지표로 만들기 위해 평균을 구하며, 이를 이용해 실험 문헌집단의 검증을 수행할 수 있다(김민희, 권영식 2011).
성능/효과
- 본 연구에서는 나이브베이즈가 가장 좋은 성능을 보였다. 단순 TF 가중치와 TF-IDF 가중치는 나이브 베이즈, kNN, 결정트리 분류기에서 서로 동일한 성능을 보였으나, Okapi TF 가중치의 경우 나이브 베이즈에서 가장 좋은 성능을 보였다. 보편적으로 좋은 성능을 보인 다고 알려진 kNN의 경우, 조사자료의 문서범주화에서는 가장 낮은 성능을 보였다.
- 둘째, 단순 TF 가중치와 TF-IDF 가중치는 나이브 베이즈, kNN, 결정트리 분류기에서 서로 동일한 성능을 보였으나, Okapi TF 가중치의 경우 나이브 베이즈에서 가장 좋은 성능을 보였다.
- 본 연구에서는 나이브베이즈가 가장 좋은 성능을 보였다. 단순 TF 가중치와 TF-IDF 가중치는 나이브 베이즈, kNN, 결정트리 분류기에서 서로 동일한 성능을 보였으나, Okapi TF 가중치의 경우 나이브 베이즈에서 가장 좋은 성능을 보였다.
- 첫째, 귀납적 학습 모델의 분류기 중 나이브 베이즈가 kNN, 결정트리보다 더 좋은 성능을 보였다. 보편적으로 좋은 성능을 보인다고 알려진 kNN의 경우, 조사자료 문서범주화에서는 가장 낮은 성능을 보였다.
후속연구
- 둘째, 본 연구에서 사용된 실험문헌집단보다 많은 텍스트 문서를 사용하여 증명하는 것도 필요할 것이며, 한글 텍스트의 조사자료 메타 데이터를 대상으로 적용해볼 수 있다.
- 셋째, 규칙 기반 모델(rule-based model)의 문서범주화 설계를 통해 수작업 분류를 효과적 으로 구현할 수 있는 알고리즘을 구현함으로써 본 연구의 귀납적 학습 모델과 그 성능을 비교해 볼 수 있을 것이다.
- 첫째, 본 연구의 분류기와 단어가중치 외에 다른 기법을 적용해보는 실험을 할 수 있을 것이다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.