[논문]A Text Content Classification Using LSTM For Objective Category Classification

Noh, Young-Dan; Cho, Kyu-Cheol

doi:10.9708/jksci.2021.26.05.039

초록
AI-Helper

인공지능은 현재 인공지능 번역기, 페이스 아이디와 같이 우리의 삶 다양한 곳에 적용되고 있으며 여러 가지 장점으로 많은 산업분야에서도 적용되고 있다. 본 연구는 매년 방대한 양의 콘텐츠들이 넘쳐나는 상황에서 인공지능을 적용한 카테고리 분류로 원하는 데이터를 추출함으로써 편의성을 제공한다. 본 연구에서는 텍스트 분류에서 두각을 나타내고 있는 LSTM(Long-Short Term Memory network)을 사용한 모델을 제안하며 자연어 처리에 적합한 구조를 가진 RNN(Recurrent Neural Network)과 BiLSTM(Bidirectional LSTM)을 사용한 모델과의 성능을 비교한다. 세 가지 모델의 성능비교는 뉴스 텍스트 데이터에 적용해 accuracy, precision, recall의 측정값을 사용해 비교하였고 그 결과 LSTM모델의 성능이 가장 우수한 것으로 나타났다. 따라서 본 연구에서는 LSTM을 사용한 텍스트 분류를 권장한다.

Abstract ▼ AI-Helper

AI is deeply applied to various algorithms that assists us, not only daily technologies like translator and Face ID, but also contributing to innumerable fields in industry, due to its dominance. In this research, we provide convenience through AI categorization, extracting the only data that users ...

AI is deeply applied to various algorithms that assists us, not only daily technologies like translator and Face ID, but also contributing to innumerable fields in industry, due to its dominance. In this research, we provide convenience through AI categorization, extracting the only data that users need, with objective classification, rather than verifying all data to find from the internet, where exists an immense number of contents. In this research, we propose a model using LSTM(Long-Short Term Memory Network), which stands out from text classification, and compare its performance with models of RNN(Recurrent Neural Network) and BiLSTM(Bidirectional LSTM), which is suitable structure for natural language processing. The performance of the three models is compared using measurements of accuracy, precision, and recall. As a result, the LSTM model appears to have the best performance. Therefore, in this research, text classification using LSTM is recommended.

Keyword

표/그림 (11)

그림 Fig. 1. LSTM cell
그림 Fig. 2. System architecture
그림 Fig. 3. Data Preprocessing
그림 Fig. 4. Summary of a LSTM model
그림 Fig. 5. Validation loss of RNN, LSTM, and BiLSTM
그림 Fig. 6. Training loss of RNN, LSTM, and BiLSTM
표 Table 1. RNN, LSTM, and BiLSTM model evaluation
그림 Fig. 7. Training time of RNN, LSTM, and BiLSTM
그림 Fig. 8. Rate of successful predictions by model
표 Table 2. Comparison with 3 models
표 Table 3. Number of successful predictions

AI 본문요약
AI-Helper

문제 정의

사용자가 보려는 뉴스 카테고리에서 다른 카테고리에 해당하는 뉴스를 보게 된다면 원하는 뉴스만 다시 골라야 하는 사용자의 번거로움이 증가할 것이다. 따라서 본 연구는 객관적인 카테고리 분류기를 만드는 것을 목적으로 한다.

제안 방법

본 연구에서는 인공지능의 구현방법 중 하나인 딥러닝을 통해 한국어로 된 뉴스 텍스트를 분석하고 뉴스의 카테고리를 분류한다. 또한 단순히 형식에 맞는 CSV파일을 웹페이지에 업로드하면 자동으로 딥러닝을 통해 텍스트를 분석하고 분류해 예측 성공에 대한 차트를 제공한다.
본 연구에서는 인공지능의 구현방법 중 하나인 딥러닝을 통해 한국어로 된 뉴스 텍스트를 분석하고 뉴스의 카테고리를 분류한다. 또한 단순히 형식에 맞는 CSV파일을 웹페이지에 업로드하면 자동으로 딥러닝을 통해 텍스트를 분석하고 분류해 예측 성공에 대한 차트를 제공한다.
본 연구는 매년 방대한 양의 콘텐츠들이 넘쳐나는 상황에서 인공지능을 적용한 카테고리 분류로 원하는 데이터를 추출하며 텍스트 분류에서 두각을 나타내고 있는 LSTM을 사용한 모델을 제안한다.
본 연구에서는 정확도를 높이기 위해 LSTM을 활용한 모델에 Dropout Layer를 두 개 쌓았다. Dropout이란 Overfitting을 방지하기 위한 방법 중 하나로 Overfitting 은 학습 데이터에 지나치게 집중함으로써 테스트 데이터에서의 정확성은 떨어지는 현상을 말한다.
따라서 딥러닝에 사용할 수 있도록 embedding layer를 제일 처음에 쌓았다. 그 후 차례대로 앞서 설명한 LSTM, GlobalMaxPool1D, Dropout층을 쌓아 모델을 구성하였다.
실험을 통해 본 연구에서 제안하는 LSTM모델과 RNN, BiLSTM간의 장점과 단점을 비교해보고자 한다. 데이터는 2019년 1월 네이버의 IT과학, 생활문화, 세계 카테고리의 뉴스 데이터를 사용했다.
본 연구는 매년 방대한 양의 콘텐츠들이 넘쳐나는 상황에서 모든 데이터를 개인이 분류해 필요한 정보를 찾아내기보다는 인공지능을 사용한 카테고리 분류로 원하는 데이터를 추출함으로써 편의성을 제공한다는 관점에서 시작되었다. 카테고리 분류에 적합한 모델을 찾기 위해 RNN, LSTM, BiLSTM을 활용해 3가지 모델을 사용하여 비교를 하였고 가장 적합한 모델로 LSTM을 활용한 모델을 제시한다. 현재는 뉴스 데이터를 기반으로 텍스트 분류를 진행하였지만 카테고리 분류가 필요한 또 다른 상황에서도 활용될 수 있을 것으로 기대된다.

대상 데이터

본 시스템은 예시 데이터로 IT과학, 생활문화, 세계 카테고리에 속하는 한국어로 된 뉴스 텍스트 데이터를 사용하며 텍스트를 분석해 해당 3가지의 카테고리로 분류하는 모델을 생성한다. Fig.
실험을 통해 본 연구에서 제안하는 LSTM모델과 RNN, BiLSTM간의 장점과 단점을 비교해보고자 한다. 데이터는 2019년 1월 네이버의 IT과학, 생활문화, 세계 카테고리의 뉴스 데이터를 사용했다.
사용자가 올린 파일은 RNN, LSTM, BiLSTM 세 가지를 사용해 훈련한다. 훈련 후 제공되는 차트는 훈련 후 생성된 모델을 사용해 테스트 데이터를 예측하고 예측에 성공한 비율에 대한 차트이다.

이론/모형

본 연구에서 제안하는 모델은 LSTM을 활용한 학습 모델이다. 다중분류를 위해 활성화 함수로는 softmax를 사용하였고 손실함수로는 categorical cross-entropy를 사용하였다.
본 연구에서 제안하는 모델은 LSTM을 활용한 학습 모델이다. 다중분류를 위해 활성화 함수로는 softmax를 사용하였고 손실함수로는 categorical cross-entropy를 사용하였다.

성능/효과

따라서 본 연구에서는 Accuracy, Precision, Recall을 비교할 때 LSTM을 사용한 모델이 다른 두 모델보다 우수한 것을 알 수 있어 LSTM을 사용한 텍스트 분류를 권장한다.
Table 3.으로 볼 때 LSTM과 BiLSTM의 성능에서 큰차이가 없고 Recall값은 동일한 것을 보았을 때 생활문화 카테고리에서는 BiLSTM이 우수한 것으로 보이지만 약 5 개 차이이고 여러 번의 동일한 조건하에서의 실험마다 결과에 약간의 차이는 있더라도 정확도측면에서 생활문화부 분은 유사한 것을 볼 수 있었으며 IT과학과 세계 카테고리에서의 정확도는 LSTM이 가장 우수한 것을 볼 수 있었다. 또한 비교적 LSTM과 BiLSTM의 예측 성공 개수는 비슷하지만 생활문화 카테고리의 RNN의 예측 성공 개수는 현저히 낮은 것을 볼 수 있었다.
본 연구는 매년 방대한 양의 콘텐츠들이 넘쳐나는 상황에서 모든 데이터를 개인이 분류해 필요한 정보를 찾아내기보다는 인공지능을 사용한 카테고리 분류로 원하는 데이터를 추출함으로써 편의성을 제공한다는 관점에서 시작되었다. 카테고리 분류에 적합한 모델을 찾기 위해 RNN, LSTM, BiLSTM을 활용해 3가지 모델을 사용하여 비교를 하였고 가장 적합한 모델로 LSTM을 활용한 모델을 제시한다.
본 연구에서는 LSTM 방식을 사용했을 때 epoch 3번째 이후부터 약간의 Overfitting이 발생하는 것을 볼 수 있었다. 따라서 이 Overfitting을 해결하면 정확도를 더 높일 수 있을 것으로 기대된다.

후속연구

현재는 뉴스 데이터를 기반으로 텍스트 분류를 진행하였지만 카테고리 분류가 필요한 또 다른 상황에서도 활용될 수 있을 것으로 기대된다.
본 연구에서는 LSTM 방식을 사용했을 때 epoch 3번째 이후부터 약간의 Overfitting이 발생하는 것을 볼 수 있었다. 따라서 이 Overfitting을 해결하면 정확도를 더 높일 수 있을 것으로 기대된다. 또한 Mecab을 사용해 형태소분석을 하면 사용자 사전을 만들 수 있게 되는데 사용자 사전에 형태소 분석이 되지 않는 주요 단어인 AI와 같은 단어를 추가해 훈련을 한다면 정확도가 더 올라갈 것으로 예상된다.
따라서 이 Overfitting을 해결하면 정확도를 더 높일 수 있을 것으로 기대된다. 또한 Mecab을 사용해 형태소분석을 하면 사용자 사전을 만들 수 있게 되는데 사용자 사전에 형태소 분석이 되지 않는 주요 단어인 AI와 같은 단어를 추가해 훈련을 한다면 정확도가 더 올라갈 것으로 예상된다.

참고문헌 (16)

Pil-Han Jeon, Sung-Kwun Oh, "Design of Robust Face Recognition System to Pose Variation Using RBFNNs-based Softmax Pattern Classifier", Journal of Korean Institute of Intelligent System, Vol. 27, No. 6, pp. 486-492, December 2017. DOI : 10.5391/JKIIS.2017.27.6.486

상세보기
Sang-Beom Park, Sung-Kwun Oh, Hyun-Ki Kim, "Design of Softmax Function-based RBFNN Classifier Realized with the Aid of Optimizer Fuzzy Transform", Journal of Korean Institute of Intelligent Systems, Vol. 28, No. 2, pp. 99-106, April 2018. DOI : 10.5391/JKIIS.2018.28.2.99

상세보기
Yunseok Rhee, "Malicious Code Detection Method Using LSTM Learning on the File Access Behavior", The Journal of Korean Institute of Information Technology, Vol. 18, No. 2, pp.25-32, February 2020. DOI : 10.14801/jkiit.2020.18.2.25

상세보기
Artificial intelligence translator, https://www.yna.co.kr/view/AKR20210401156500054?input1195m
Face ID, http://www.bloter.net/archives/294880
Identifying of cervical cancer with AI, https://www.nih.gov/news-events/news-releases/ai-approach-outperformed-human-experts-identifying-cervical-precancer
Entertainment articles in Naver's'Life.Culture' section, http://www.journalist.or.kr/news/article.html?no47749
S. Jelena, M. Nijole, and M. Algirdas, "High-low Strategy of Portfolio Composition using Evolino RNN Ensembles", Inzinerine Ekonomika- Engineering Economics, Vol. 28, No.2, pp. 162-169, April 2017. DOI:10.5755/j01.ee.28.2.15852

상세보기
RNN and LSTM, http://colah.github.io/posts/2015-08-Understanding-LSTMs
F. A. Gers, N. N. Schraudolph, and J. Schmidhuber, "Learning Precise Timing with LSTM Recurrent Networks", Journal of Machine Learning Research, Vol. 3, No. 1, pp. 115-143, January 2002. DOI:10.1162/153244303768966139
Kim, Na-Rang, Adyan Marendra Ramadhani, "Automatic Classification of Civil Complaint Data Using CNN and Bidirectional LSTM :The Case of Busan, South Korea", Korean Computers and Accounting Review, Vol. 17, No. 2, pp.81-98, December 2019. DOI: 10.32956/kaoca.2019.17.2.81

상세보기
Hyun-Joon Nam, Hyeon-Kyu Noh, Byung-Sub Kim, Jae-Yoon Sim, and Hong-June Park, "On-Device Automatic Speech Recognition Application for Android Smartphone using Tensorflow Mobile Library and Bidirectional LSTM", The Institute of Electronics and Information Engineers, (), pp.708-711, November 2018.
Yoonjae Lee, Hyeryoung Cho, Sujin Kim, Hyunseok Park, "AirScope: Implementation of Air Travel Chatbot with Named Entity Recognition by BiLSTM-CRF and Intent Analyzer by MNB, LSTM", The Korean Institute of Information Scientists and Engineers, (), pp. 1507-1509, December 2019.
Kisu Yang, Taesun Whang, Dongsuk Oh, Chanjun Park, Heuiseok Lim, "Cross-Validated Ensemble Methods in Natural Language Inference", The Korean Institute of Information Scientists and Engineers, Vol. 48, No. 2, pp. 154-159, February 2021. DOI : 10.5626/JOK.2021.48.2.154

상세보기
Sae-Mi Lee, Seung-Eui Ryu, Soonjae Ahn, "Mass Media and Social Media Agenda Analysis Using Text Mining : focused on '5-day Rotation Mask Distribution'", JOURNAL OF THE KOREA CONTENTS ASSOCIATION, Vol. 20, No. 6, pp.460-469, June 2020. DOI: 10.5392/JKCA.2020.20.06.460

원문보기 상세보기
Seung-Man Lee, Young-Hun Jang, and Jung-Hwan Lim, "Implementation of a Harmful Website's Automatic Classification System based on Morphological Analysis and Skin-Color Distribution's Human Detection Algorithm", The Korean Institute of Information Scientists and Engineers, Vol. 31, No. 1B, pp.601-603, April 2004.

이 논문을 인용한 문헌

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

[국내논문] A Text Content Classification Using LSTM For Objective Category Classification 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

Keyword

표/그림 (11)

표/그림 (11)

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

참고문헌 (16)

이 논문을 인용한 문헌

활용도 분석정보

활용도 Top5 논문

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

[국내논문] A Text Content Classification Using LSTM For Objective Category Classification 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

Keyword

표/그림 (11) 모든 표/그림 보기

표/그림 (11) 슬라이드로 보기

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

참고문헌 (16)

이 논문을 인용한 문헌

활용도 분석정보

활용도 Top5 논문 더보기

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

초록
AI-Helper

표/그림 (11)

표/그림 (11)

AI 본문요약
AI-Helper

활용도 Top5 논문