텍스트 마이닝은 산업계에서 흔히 쓰이는 방법론으로 텍스트를 요약하거나, 주어진 텍스트에서 주제를 요약하거나 키워드를 추출하는 방법론이다. 이 방법은 다양한 산업군에서 활용되는 방법론으로 주관적 의미로 쓰이는 문장 및 단어를 컴퓨팅 기법을 사용해 객관적인 결론을 얻어내는 결과 때문에 좋은 호응을 받고 있다. 이러한 장점에도 불구하고, 텍스트 마이닝 방법론에는 제약이 많다. 첫 번째로 단어의 의미가 실질적으로 반영되는 것이 아닌 단순히 텍스트를 이진 부호로 변환해 연산하는 것에 다름이 없으므로 실제 세상에서 사용되는 인간의 언어 습관을 적절하게 반영할 수 없다는 단점이 존재한다. 두 번째로 이렇게 변환된 이진 부호를 수학적 연산을 통해 주제어를 클러스터링하거나 키워드를 추출하는 것은 단순한 문서 내 빈도수에 기반을 두어 언어를 조작하는 방법이기 때문에 적절한 주제나 키워드를 추출하지 못하는 경우가 많고, 때때로 인간이 판단하기에 전혀 엉뚱한 문장을 한 ...
국문요약
텍스트 마이닝은 산업계에서 흔히 쓰이는 방법론으로 텍스트를 요약하거나, 주어진 텍스트에서 주제를 요약하거나 키워드를 추출하는 방법론이다. 이 방법은 다양한 산업군에서 활용되는 방법론으로 주관적 의미로 쓰이는 문장 및 단어를 컴퓨팅 기법을 사용해 객관적인 결론을 얻어내는 결과 때문에 좋은 호응을 받고 있다. 이러한 장점에도 불구하고, 텍스트 마이닝 방법론에는 제약이 많다. 첫 번째로 단어의 의미가 실질적으로 반영되는 것이 아닌 단순히 텍스트를 이진 부호로 변환해 연산하는 것에 다름이 없으므로 실제 세상에서 사용되는 인간의 언어 습관을 적절하게 반영할 수 없다는 단점이 존재한다. 두 번째로 이렇게 변환된 이진 부호를 수학적 연산을 통해 주제어를 클러스터링하거나 키워드를 추출하는 것은 단순한 문서 내 빈도수에 기반을 두어 언어를 조작하는 방법이기 때문에 적절한 주제나 키워드를 추출하지 못하는 경우가 많고, 때때로 인간이 판단하기에 전혀 엉뚱한 문장을 한 클러스터에 묶거나 키워드를 검출하는 경우가 다수 존재한다. 이는 앞서 언급한 바와 같이 텍스트 마이닝 기법 자체가 문장의 구조나 단어의 의미를 전혀 고려하지 않고 단순히 연산의 대상으로 인식해 수학적 연산만을 추구한, 어찌 보면 당연한 결과이다. 이에 본 연구에서는 단순히 단어나 문장의 빈도에 근거하기보다는 문장 내에서 단어 사이의 관계에 더 집중해 결론을 내리는 Attention 방법론을 기반으로 한 문장 분류 및 키워드 검출 방법론을 제시하고자 한다. Attention 방법론은 문장 내 단어를 vector화한 후 단어와 단어 사이의 관계를 부호화하고, 다시 문장 단위의 관계를 고려하여 최종적으로 문장을 분류한다. 그중 Hierarchical Attention Network(HAN) 방법론은 문장 분류에 탁월한 효과를 내는 방법론으로 이 방법론으로 문장을 분류한 후 문장 내 가중치에 따른 단어 집합을 얻을 수 있다는 점에서 문서 내 특징적인 단어 집합의 검출에 탁월한 성과를 내는 방법론이다. 이에 따라 정밀하게 추출된 단어 집합을 바탕으로 기존 토픽 모델링 키워드를 필터링한다면 진일보된 효과를 얻을 수 있을 것으로 기대하며, 본 논문에서는 해당 방법론을 사용하여 실험을 진행하고자 한다.
텍스트 마이닝은 산업계에서 흔히 쓰이는 방법론으로 텍스트를 요약하거나, 주어진 텍스트에서 주제를 요약하거나 키워드를 추출하는 방법론이다. 이 방법은 다양한 산업군에서 활용되는 방법론으로 주관적 의미로 쓰이는 문장 및 단어를 컴퓨팅 기법을 사용해 객관적인 결론을 얻어내는 결과 때문에 좋은 호응을 받고 있다. 이러한 장점에도 불구하고, 텍스트 마이닝 방법론에는 제약이 많다. 첫 번째로 단어의 의미가 실질적으로 반영되는 것이 아닌 단순히 텍스트를 이진 부호로 변환해 연산하는 것에 다름이 없으므로 실제 세상에서 사용되는 인간의 언어 습관을 적절하게 반영할 수 없다는 단점이 존재한다. 두 번째로 이렇게 변환된 이진 부호를 수학적 연산을 통해 주제어를 클러스터링하거나 키워드를 추출하는 것은 단순한 문서 내 빈도수에 기반을 두어 언어를 조작하는 방법이기 때문에 적절한 주제나 키워드를 추출하지 못하는 경우가 많고, 때때로 인간이 판단하기에 전혀 엉뚱한 문장을 한 클러스터에 묶거나 키워드를 검출하는 경우가 다수 존재한다. 이는 앞서 언급한 바와 같이 텍스트 마이닝 기법 자체가 문장의 구조나 단어의 의미를 전혀 고려하지 않고 단순히 연산의 대상으로 인식해 수학적 연산만을 추구한, 어찌 보면 당연한 결과이다. 이에 본 연구에서는 단순히 단어나 문장의 빈도에 근거하기보다는 문장 내에서 단어 사이의 관계에 더 집중해 결론을 내리는 Attention 방법론을 기반으로 한 문장 분류 및 키워드 검출 방법론을 제시하고자 한다. Attention 방법론은 문장 내 단어를 vector화한 후 단어와 단어 사이의 관계를 부호화하고, 다시 문장 단위의 관계를 고려하여 최종적으로 문장을 분류한다. 그중 Hierarchical Attention Network(HAN) 방법론은 문장 분류에 탁월한 효과를 내는 방법론으로 이 방법론으로 문장을 분류한 후 문장 내 가중치에 따른 단어 집합을 얻을 수 있다는 점에서 문서 내 특징적인 단어 집합의 검출에 탁월한 성과를 내는 방법론이다. 이에 따라 정밀하게 추출된 단어 집합을 바탕으로 기존 토픽 모델링 키워드를 필터링한다면 진일보된 효과를 얻을 수 있을 것으로 기대하며, 본 논문에서는 해당 방법론을 사용하여 실험을 진행하고자 한다.
Topic Modeling with Deep Learning-based Sentiment Filters
by Choi, Byeong Seol
Graduate School of Business IT, Kookmin University, Seoul, Korea
Text mining is a methodology commonly used in the industry to summarize text, summarize topics from a...
Abstract
Topic Modeling with Deep Learning-based Sentiment Filters
by Choi, Byeong Seol
Graduate School of Business IT, Kookmin University, Seoul, Korea
Text mining is a methodology commonly used in the industry to summarize text, summarize topics from a given text, or extract keywords. This method is used in various industries and is well received because conclusion is drawn by computing techniques for sentences and words that have a subjective meaning. Despite these advantages, text mining methodologies are limited. First of all, the meaning of a word is not actually reflected, but it is nothing more than simply converting text to binary code. Therefore, there is a disadvantage that it cannot properly reflect the human language used in the real world. Secondly, clustering keywords or extracting keywords through mathematical operations on these converted binary codes is a way of manipulating the language based on simple frequency of documents. There are many cases in which a sentence that is completely wrong by humans is bundled into a cluster. As mentioned above, the text mining technique itself does not consider the structure of the sentence or the meaning of the word at all, and simply recognizes it as a binary. Therefore, this study proposes sentence classification and keyword detection methodology based on Attention methodology, which concludes by focusing on the relationship between words in sentences rather than simply based on the frequency of words or sentences. Attention methodology vectorizes words in a sentence, calculates the relationship between words, and finally classifies sentences in consideration of the relationship between sentences. Among them, the hierarchical attention network (HAN) method is a method that has an excellent performance on sentence classification. It perfomes well in detecting the characteristic word set in the document, and it is possible to obtain the word set according to the weight in the sentence after classifying the sentence. Accordingly, if we filter existing topic modeling keywords based on the precisely extracted word set, we expect to get an advanced effect. In this paper, we will experiment with the methodology.
Keyword: Big Data, Deep Learning, Hierarchical Attention Networks, Review Analysis, Text Analytics, Topic Modeling
Abstract
Topic Modeling with Deep Learning-based Sentiment Filters
by Choi, Byeong Seol
Graduate School of Business IT, Kookmin University, Seoul, Korea
Text mining is a methodology commonly used in the industry to summarize text, summarize topics from a given text, or extract keywords. This method is used in various industries and is well received because conclusion is drawn by computing techniques for sentences and words that have a subjective meaning. Despite these advantages, text mining methodologies are limited. First of all, the meaning of a word is not actually reflected, but it is nothing more than simply converting text to binary code. Therefore, there is a disadvantage that it cannot properly reflect the human language used in the real world. Secondly, clustering keywords or extracting keywords through mathematical operations on these converted binary codes is a way of manipulating the language based on simple frequency of documents. There are many cases in which a sentence that is completely wrong by humans is bundled into a cluster. As mentioned above, the text mining technique itself does not consider the structure of the sentence or the meaning of the word at all, and simply recognizes it as a binary. Therefore, this study proposes sentence classification and keyword detection methodology based on Attention methodology, which concludes by focusing on the relationship between words in sentences rather than simply based on the frequency of words or sentences. Attention methodology vectorizes words in a sentence, calculates the relationship between words, and finally classifies sentences in consideration of the relationship between sentences. Among them, the hierarchical attention network (HAN) method is a method that has an excellent performance on sentence classification. It perfomes well in detecting the characteristic word set in the document, and it is possible to obtain the word set according to the weight in the sentence after classifying the sentence. Accordingly, if we filter existing topic modeling keywords based on the precisely extracted word set, we expect to get an advanced effect. In this paper, we will experiment with the methodology.
Keyword: Big Data, Deep Learning, Hierarchical Attention Networks, Review Analysis, Text Analytics, Topic Modeling
AI-Helper
※ AI-Helper는 부적절한 답변을 할 수 있습니다.