비음수 행렬 분해와 동적 분류 체계를 사용한 자동 이메일 다원 분류 Automatic Email Multi-category Classification Using Dynamic Category Hierarchy and Non-negative Matrix Factorization원문보기
이메일 사용의 증가로 수신 메일을 효율적이면서 정확하게 분류할 필요성이 점차 늘고 있다. 현재의 이메일 분류는 SVM, 베이지안 분류자, 규칙 기반 분류자 등을 이용하여 스팸 메일을 필터링하기 위한 이원 분류가 주를 이루고 있다. 그러나 이러한 지도 학습 방법들은 적합한 이메일을 인식하기 위하여서 사용자가 규칙이나 색인어 목록을 작성해야 한다. 비지도 학습 방법으로 군집을 이용한 다원 분류 방법은 메일의 분류 주제를 설정해주어야 한다. 본 논문에서는 비음수 행렬 분해(NMF, Non-negative Matrix Factorization)를 기반으로 한 자동 분류 주제 생성 방법과, 동적 분류 체계(DCH, Dynamic Category Hierarchy) 방법을 이용한 분류 주제 내에 이메일을 재구성하는 방법을 결합한 새로운 이메일 다원 분류 방법을 제안한다. 이 방법은 수신되는 이메일을 자동으로 다원 분류하여 대량의 메일을 효율적으로 관리할 수 있으며, 사용자가 분류 결과를 만족하지 못하면 분류 주제 내의 이메일을 동적으로 재구성하여 분류의 정확률을 높인다.
이메일 사용의 증가로 수신 메일을 효율적이면서 정확하게 분류할 필요성이 점차 늘고 있다. 현재의 이메일 분류는 SVM, 베이지안 분류자, 규칙 기반 분류자 등을 이용하여 스팸 메일을 필터링하기 위한 이원 분류가 주를 이루고 있다. 그러나 이러한 지도 학습 방법들은 적합한 이메일을 인식하기 위하여서 사용자가 규칙이나 색인어 목록을 작성해야 한다. 비지도 학습 방법으로 군집을 이용한 다원 분류 방법은 메일의 분류 주제를 설정해주어야 한다. 본 논문에서는 비음수 행렬 분해(NMF, Non-negative Matrix Factorization)를 기반으로 한 자동 분류 주제 생성 방법과, 동적 분류 체계(DCH, Dynamic Category Hierarchy) 방법을 이용한 분류 주제 내에 이메일을 재구성하는 방법을 결합한 새로운 이메일 다원 분류 방법을 제안한다. 이 방법은 수신되는 이메일을 자동으로 다원 분류하여 대량의 메일을 효율적으로 관리할 수 있으며, 사용자가 분류 결과를 만족하지 못하면 분류 주제 내의 이메일을 동적으로 재구성하여 분류의 정확률을 높인다.
The explosive increase in the use of email has made to need email classification efficiently and accurately. Current work on the email classification method have mainly been focused on a binary classification that filters out spam-mails. This methods are based on Support Vector Machines, Bayesian cl...
The explosive increase in the use of email has made to need email classification efficiently and accurately. Current work on the email classification method have mainly been focused on a binary classification that filters out spam-mails. This methods are based on Support Vector Machines, Bayesian classifiers, rule-based classifiers. Such supervised methods, in the sense that the user is required to manually describe the rules and keyword list that is used to recognize the relevant email. Other unsupervised method using clustering techniques for the multi-category classification is created a category labels from a set of incoming messages. In this paper, we propose a new automatic email multi-category classification method using NMF for automatic category label construction method and dynamic category hierarchy method for the reorganization of email messages in the category labels. The proposed method in this paper, a large number of emails are managed efficiently by classifying multi-category email automatically, email messages in their category are reorganized for enhancing accuracy whenever users want to classify all their email messages.
The explosive increase in the use of email has made to need email classification efficiently and accurately. Current work on the email classification method have mainly been focused on a binary classification that filters out spam-mails. This methods are based on Support Vector Machines, Bayesian classifiers, rule-based classifiers. Such supervised methods, in the sense that the user is required to manually describe the rules and keyword list that is used to recognize the relevant email. Other unsupervised method using clustering techniques for the multi-category classification is created a category labels from a set of incoming messages. In this paper, we propose a new automatic email multi-category classification method using NMF for automatic category label construction method and dynamic category hierarchy method for the reorganization of email messages in the category labels. The proposed method in this paper, a large number of emails are managed efficiently by classifying multi-category email automatically, email messages in their category are reorganized for enhancing accuracy whenever users want to classify all their email messages.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
본 논문에서는 위의 단점을 해결하기 위해 비음수 행렬 분해와 동적 분류 체계 방법을 사용하여서 이메일을 다원 분류하고 재분류하는 방법을 제안한다. 비음수 행렬 분해 (NMF, non-negative matrix factorization)는 Lee와 Seungo] 제안한 방법으로 원본 자료를 두 개의 의미 특징 행렬로 분해하여 부분 정보의 선형 조합으로 원본 자료를 표현할 수 있는 방법이다.
본 논문에서는 이메일을 자동으로 다원 분류하고 분류된 결과를 사용자의 요구 사항에 맞게 재분류할 수 있는 방법을 제안하였다. 제안된 방법은 비음 수 행렬 분해를 이용하여 이메일의 분류 주제를 생성하고 다원 분류한다.
제안 방법
Yu[기 등은 신경망과 의미 특징을 이용한 스팸 이메일을 분류하는 방법을 제안하였다. Cohen⑻은 이메일을 분류하기 하기 위해 텍스트 마이닝 기법을 이용한 두 개의 규칙 기반 시스템을 제안하였다. 이러한 위의 지도 학습 분류 방법은 수신된 메시지가 들어갈 비슷한 폴더를 찾을 수 있도록 사용자가 직접 메시지 폴더를 설정해야 하고, 분류하기 이전에 일정량 이상의 학습이 필요하다.
박선 외 저자들은 벡터 공간 모델[15, 16], PCAH7J8丄 NMFU9]를 이용하여 분류 주제를 자동으로 생성하여 분류하는 방법과. 동적 분류 체계를 이용하여 분류 결과를 재구성하는 방법을 제안하였다.
첫째, 수신 메일에서 색인어를 추출한다. 둘째, 메일과 색인어의 출현 빈도를 이용하여 용어-이메일 빈도 행렬을 구성한다. 비음 수 행렬 분해를 이용하여 구성된 용어—이메일 뱐도 행렬로부터 이메일 분류 주제 생성 및 다원 분류를 한다.
비음 수 행렬 분해를 이용하여 구성된 용어—이메일 뱐도 행렬로부터 이메일 분류 주제 생성 및 다원 분류를 한다. 마지막으로 사용자의 필요에 따라 동적 분류 체계 방법을 이용하여 분류 주제 내의 이메일을 재구성한다. 다음 그림 1은 제안 시스템으로 자동 이메일 다원 계층 분류 및 이메일 분류 계충 재구성 방법을 보여준다[19丄
방법을 제안하였다. 제안된 방법은 비음 수 행렬 분해를 이용하여 이메일의 분류 주제를 생성하고 다원 분류한다. 이렇게 분류된 이메일을 사용자의 요구에 따라서 언제든지 동적 분류 체계 방법을 이용해서 분류 주제 내의 이메일을 재구성할 수 있다.
첫째, 비음 수 행렬 분해에 의해서 분해된 의미 특징을 이용하여 이메일의 분류 주제를 생성하고, 분류 주제에 따라서 자동으로 이메일을 다원 분류한다. 이 때문에, 사용자의 간섭 및 학습 과정이 없어서 메일을 수신받는 즉시 분류할 수 있으므로 유동적인 이메일 환경에 적합하다.
메일을 선택하였다. 평가는 수작업으로 분류된 메일을 제안된 방법과 비교한 정확률을 분석하였다. 이때 분류 주제는 메일에 포함된 단어로 한정하였다.
대상 데이터
이때 분류 주제는 메일에 포함된 단어로 한정하였다. 수작업으로 분류하기 위한 10개의 분류 주제를 선택하였다. 본 논문에서는 평균 분류 정확률을 분석의 평가 방법으로 사용하였다.
실험 자료는 2009년 6월 1일부터 2009년 6월 30일까지 수신된 메일 중에서 분류 주제와는 상관없이 임의로 200개의 메일을 선택하였다. 평가는 수작업으로 분류된 메일을 제안된 방법과 비교한 정확률을 분석하였다.
0으로 구현하였다. 예에 사용된 이메일 자료는 2009년 8월에서 2009년 9월 사이의 110 개의 메일을 대상으로 하였다. 그림 4는 이메일 다원 분류 시스템에 대한 인터페이스이다.
이론/모형
분류하는 방법으로 표 2(b)와 같이 Xu등[21]이 제안한 비음수 행렬 분해의 의미 변수 행렬 H를 이용한 문서 군집 방법을 사용한다.
본 논문에서는 위의 식 缶)의 Kleen-Diense 퍼지 함의 연산자를 사용한다. 퍼지 함의 연산자를 식 (7)의 퍼지 관계곱을 적용하여 분류들 간의 퍼지 함의 관계, Ci — G 를 유도할 수 있다.
수작업으로 분류하기 위한 10개의 분류 주제를 선택하였다. 본 논문에서는 평균 분류 정확률을 분석의 평가 방법으로 사용하였다. 분류정확률은 수작업으로 분류한 메일과 자동 분류한 페일을 비교하여 바르게 분류된 메일의 정확률을 다음 식 (10) 과 같이 계산하였다.
성능/효과
이 때문에, 사용자의 간섭 및 학습 과정이 없어서 메일을 수신받는 즉시 분류할 수 있으므로 유동적인 이메일 환경에 적합하다. 둘째, 동적 분류 체계 방법을 이용하여 사용자가 필요하면 언제든지 이메일을 동적으로 재분류할 수 있게 하여서 다원 분류 결과 정확도가 떨어지는 문제를 해결하였다. 즉, 사용자가 자동으로 분류된 이메일의 다원 분류 주제로부터 원하는 이메일을 찾을 수 없으면, 분류 주제 내의 이메일을 재구성하여서 원하는 이메일을 쉽게 찾을 수 있도록 한다.
또한, 분류 주제 내의 이메일을 재구성할 때에 a 값에 따라서 81.3%에서 95.6%까지 평균 분류 정확률이 높은 것을 알 수 있다.
참고문헌 (21)
H. Drucker, D. Wu, and V. N. Vapnik, "Support Vector Machines for Spam Categorization," IEEE Transactions on Neural network, 10(5), 1999.
L. Kun-Lun, Li, Kai, H, Hou-Kuan, T. Sheng- Feng, "Active Learning with Simplified SVMS for SPAM Categorization," In Proc. First Conf. On Machine Learning and Cybernetics, Beijing, pp.4-5, November, 2002.
M. Woitaszek, M. shaaban. "Identifying Junk Electronic Mail in Microsoft Outlook with a Support Vector Machine," In Proc. 2003 Symposium. On Application and the Internet. 2003.
I. Androutsopoulos, "An Evaluation of Naive Bayesian Anti-Spam Filtering," In Proc. Workshop on Machine Learning in the New Information Age, 2000.
G. Sakkis et al. "Stacking classifiers for anti-spam filtering of e-mail," In Proc. 6thConf. On Empirical Methods in Natural Language Processing, 2001.
Y. Q. Xia, J. X. Wang, F. Zheng, Y. Liu, "A Binarization Approach to Email Categorization using Binary Decision Tree," in the Sixth International Conference on Machine Learning and Cybernetics, Hong Kong, Aug. pp.19-22, 2007.
B. Yu, D. H. Zhu, "Combining neural networks and semantic feature space for email clasification," Knowledge-Based Systems, 22, pp.376-381, 2009.
W. W. Cohen. "Learning Rules that classify email," In Proc. AAAI Spring Symposium in Information Access, 1999.
K. Mock. "Dynamic Email Organization via Relevance Categories," In Proceedings of the International Conference on Tools with Artificial Intelligence 1999. Chicago IL, Nov. 1999.
G. Manco, E. Masciari. "A Framework for Adaptive Mail Classification," In Proceedings of the 14th IEEE International Conference on Tools with Artificial Intelligence, 2002.
D. Cutting, K. David, J. Pedersen, J. Tukey, "Scatter/gather: A cluster-based approach to browsing large document collection," In the ACM SIGIR International Conference on Research and Development in Information Retrieval, Copenhagen, Denmark, Jun, pp.318-329, 1992.
D. D. Lee, H. S. Seung, "Learning the parts of objects by non-negative matrix factorization," Nature, vol.401, pp.788-791, 1999.
D. D. Lee, H. S. Seung, "Algorithms for nonnegative matrix factorization," In Advances in Neural Information Processing Systems, vol.13, pp.556-562, 2001.
B. G. Choi, J. H. Lee, S. Park. "Dynamic Construction of Category Hierarchy Using Fuzzy Relational Products," IDEAL 2003, pp.296-302, 2003.
S. Park, S. H. Park, J. H. Lee, J. S. Lee, "E-mail Classification Agent Using Category Generation and Daynamic Category Hierarchy," LNAI 3397, pp.207-214. 2005.
박선, 안찬민, 박상호, 이주홍, 최범기, "자동 카테코리 생성과 동적 분류 체계를 사용한 이메일 분류", 한국지능정보시스템학회논문지, 제10권 제2호, pp.79-89, 2004.
S. Park, C. W. Kim, "E-mail Classification and Category Re-organization using Dynamic Category Hierarchy and PCA," In proceeding of CIKIMICS' 09, 2009.
박선, "PCA와 동적 분류 체계를 사용한 자동 이메일 계층 분류", 한국항행학회논문지, 제13권 제3호, pp.419-425, 2009.
박선, 안동언, "비음수 행렬 분해와 동적 분류 체계를 사용한 이메일 분류", 2009년도 제21회 한글 및 한국어 정보처리 학술대회, 35-39, 2009.
W. Bandler and L. Kohout, "Semantics of Implication Operators and Fuzzy Relational Products," International Journal of Man-Machine Studies, vol.12, pp.89-116, 1980.
W. Xu, X. Liu, Y. Gon, "Document Clustering Based On Non-negative Matrix Factorization," Proceeding of Special Interest Group on Information Retrieval (SIGIR), 267-274, 2003.
AI-Helper
※ AI-Helper는 부적절한 답변을 할 수 있습니다.