[논문]Hierarchical Attention Network를 활용한 주제에 따른 온라인 고객 리뷰 분석 모델

장인호; 박기연; 이준기

doi:10.9716/kits.2018.17.2.165

Hierarchical Attention Network를 활용한 주제에 따른 온라인 고객 리뷰 분석 모델
Analysis of the Online Review Based on the Theme Using the Hierarchical Attention Network 원문보기

한국IT서비스학회지 = Journal of Information Technology Services, v.17 no.2, 2018년, pp.165 - 177

장인호 (연세대학교 정보대학원) , 박기연 (연세대학교 정보대학원) , 이준기 (연세대학교 정보대학원)

Abstract ▼ AI-Helper

Recently, online commerces are becoming more common due to factors such as mobile technology development and smart device dissemination, and online review has a big influence on potential buyer's purchase decision. This study presents a set of analytical methodologies for understanding the meaning of customer reviews of products in online transaction. Using techniques currently developed in deep learning are implemented Hierarchical Attention Network for analyze meaning in online reviews. By using these techniques, we could solve time consuming pre-data analysis time problem and multiple topic problems. To this end, this study analyzes customer reviews of laptops sold in domestic online shopping malls. Our result successfully demonstrates over 90% classification accuracy. Therefore, this study classified the unstructured text data in the semantic analysis and confirmed the practical application possibility of the review analysis process.

주제어

AI 본문요약
AI-Helper

문제 정의

본 연구는 온라인 리뷰에 포함된 다양한 주제를 파악하여 잠재 구매자들에게 제품과 관련된 상세한 정보를 제공하고, 쇼핑몰 관리자에겐 다양한 리뷰의 관리에 필요한 소요 시간을 단축시킬 수 있는 방법론을 제안하고자 하였다. 이를 위해 리뷰에서 논의되는 주제들을 찾고, 선정된 주제에 맞게 리뷰를 분류하였다.

제안 방법

우선 국내 온라인 쇼핑몰의 리뷰 데이터를 파이썬(Python)의 수집 라이브러리 중 하나인 셀레니움(Selenium)을 통해 수집했다. 수집한 리뷰 데이터에 대하여 LDA기법을 적용하여 확률적으로 어떤 주제들이 존재하는지 파악하고, 두 가지 레이블링 기법을 통해 추출한 주제들을 각 리뷰마다 할당하여 데이터셋을 구축하였고, 딥러닝 기법인 HAN을 통해 분류를 진행했다([Figure 2] 참고).
본 연구에선 온라인 고객 리뷰의 의미적 분석방법론을 제안하고자 LDA를 통해 총 7개의 토픽들을 찾고, 이를 학습 데이터의 클래스로 활용하여 분류를 진행하였다. 그러나 온라인 리뷰 대부분은 하나의 리뷰에 다양한 주제들이 포함될 수 있는데 가령, “외관은 다른 노트북에 비해 무겁지만 디자인은 투박하지 않아 만족합니다.
연구 절차는 다음과 같은 방법을 거쳤다. 우선 국내 온라인 쇼핑몰의 리뷰 데이터를 파이썬(Python)의 수집 라이브러리 중 하나인 셀레니움(Selenium)을 통해 수집했다. 수집한 리뷰 데이터에 대하여 LDA기법을 적용하여 확률적으로 어떤 주제들이 존재하는지 파악하고, 두 가지 레이블링 기법을 통해 추출한 주제들을 각 리뷰마다 할당하여 데이터셋을 구축하였고, 딥러닝 기법인 HAN을 통해 분류를 진행했다([Figure 2] 참고).

대상 데이터

본 연구는 온라인 리뷰를 의미적으로 분석하기 위해 국내 온라인 쇼핑몰 네 곳에서 리뷰를 수집하였다. 분석 제품은 리뷰가 가장 활발히 작성되는 제품군 중 하나인 노트북으로 선정하였으며 쇼핑몰에 게시된 2,065개의 노트북 제품의 150,540개의 리뷰 데이터를 수집하였다([Table 1] 참고).

이론/모형

본 연구에서는 길이가 다양한 온라인 고객 리뷰에 대한 분석을 효과적으로 하기 위해 RNN에서 파생된 강조 매커니즘(Attention Mechanism)의 확장 모델인 HAN을 활용했다([Figure 1] 참고).
본 연구에서는 전체 온라인 고객 리뷰의 전반적인 성향 즉, 리뷰의 주된 주제를 파악하기 위해 LDA 모델을 활용한다. 고객 리뷰에는 다양한 제품 관련 정보들이 포함되어 있으므로 리뷰의 전반적인 주제를 파악하기 위한 목적에 적합하다.

성능/효과

그리고 선정된 주제들을 두 가지 레이블링 기법을 통해 클래스를 부여하였고, 딥러닝 분류 기법 중 하나인 HAN을 활용하여 실험을 진행하였다. 그 결과, 보팅 레이블링에서는 분류 정확도가 95.117%였으며, 멀티 레이블링에서는 분류 정확도가 91.37%로, 두 결과 모두 정확도가 90%를 상회하는 성능을 보임을 확인할 수 있었다.
32387로 나타났다. 보팅 레이블링에 비해 그 성능이 약간 떨어졌지만 클래스의 수가 약 18배 더 많은 것을 감안한다면 비교적 준수한 성능을 나타냈다고 판단할 수 있다. 그리고 멀티 레이블링 또한 혼돈 행렬과 F스코어를 클래스 별 데이터를 통해 분류가 잘 이루어졌음을 확인하였다.
이를 위해 리뷰에서 논의되는 주제들을 찾고, 선정된 주제에 맞게 리뷰를 분류하였다. 본 연구에서 사용한 데이터는 온라인 쇼핑몰의 노트북을 구매한 고객들이 남긴 리뷰 데이터로, 본 연구에서 주로 ‘소프트웨어 관련’, ‘하드웨어 관련’, ‘노트북 외관 관련’, ‘배송 관련’, ‘가격 관련’, ‘사은품 관련’, ‘구입 목적 관련’의 총 7개의 주제에 대해 리뷰가 작성된다는 점을 파악했다. 그리고 선정된 주제들을 두 가지 레이블링 기법을 통해 클래스를 부여하였고, 딥러닝 분류 기법 중 하나인 HAN을 활용하여 실험을 진행하였다.

후속연구

또한 고객 리뷰의 평점을 게시하지 않은 온라인 쇼핑몰이 다수 존재하여 제품에 대한 구매자의 감성을 분석에 포함시키지 못했다. 그리고 본 연구의 두 가지 레이블링 실험을 통해 얻을 수 있었던 분류 정확도의 경우, 90%를 상회한 연구 결과를 통해 실무적인 사용 가능성을 확인하였지만, 다른 분류 모델과의 비교 분석을 실시하지 않아 본 연구의 분류 방법에 대한 우수성을 검증하지 못했다는 한계를 지닌다.
본 연구는 실험 진행에 하나의 제품군에 한정하여 진행하였기 때문에 다양한 제품에 대한 실무적 활용 가능성을 확인하지 못했으며 시간에 따라 제품의 주제가 변하는 모습을 분석에서 고려하지 않았다는 한계가 있다. 또한 고객 리뷰의 평점을 게시하지 않은 온라인 쇼핑몰이 다수 존재하여 제품에 대한 구매자의 감성을 분석에 포함시키지 못했다.

질의응답

핵심어	질문	논문에서 추출한 답변
	잠재 디리클레 할당이란 무엇인가?	잠재 디리클레 할당(Latent Dirichlet Allocation, 이하 LDA)은 문서 내 어떤 주제들이 존재하는지 파악하게 해주는 확률적 생성 모델로 대표적인 토픽 모델링 기법이다(Blei et al., 2003).
	LDA은 어떤 가정에 기반하는가?	문서 안에 있는 단어의 분포를 분석하여 해당 문서가 어떤 주제들을 가지고 있는지 예측할 수 있다. LDA는 ‘각각의 문서는 여러 개의 주제를 가지고 있다’와 ‘주제들은 디리클레 분포(Dirichlet Distribution)를 따른다’ 그리고 ‘단어의 교환성(Exchangeability)’과 같은 특징적인 가정에 기반하고 있다. 특히 ‘단어의 교환성’은 문헌이 단어의 빈도수만을 가지고 표현을 가능케 하는데 이를 기반으로 단어와 문헌의 교환성을 포함한 혼합 모델이 LDA라고 할 수 있다.
	HAN을 구성하는 두 개의 강조 매커니즘은 어떻게 이루어져 있는가?	HAN은 단어와 단어뿐 아니라 문장과 문장을 고려하기 위해 두 개의 강조 매커니즘으로 구성되어 있다. 첫 번째 강조 매커니즘은 단어를 처리하기 위한 것으로 단어 인코더(Word Encoder), 단어 가중치(Word Attention)로 구성되어 있다. 두 번째 강조 매커니즘은 문장을 처리하기 위한 것으로, 문장 인코더, 문장 가중치(Sentence Attention)로 이루어져 있다. 단어 가중치를 통해 산출된 값은 문장 인코더의 입력으로 쓰이고 최종적으로 소프트맥스(Softmax) 함수를 통해 문서를 분류한다.

참고문헌 (30)

Bahdanau, D., K.H. Cho, and Y. Bengio, "Neurual Machine Translation by Jointly Learning to Align and Translate", ICLR, 2014.
Bengio, Y., "Learning Deep Architectures for AI", Foundations and Trends, Vol.2, No.1, 2009, 1-127, doi : 10.1561/2200000006(Downloaded September 10, 2017.)

상세보기
Blei, D.M., A.Y. Ng, and M.I. Jordan, "Latent Dirichlet Allocation", Journal of Machine Learning Research, 2003, 993-1022.
Chang, D.S., D.Y. Kim, and Y.S. Choi, "Opinion Mining Based on Korean Phoneme Trigram- Signature", KIISE, 2015, 811-813. (장두수, 김도연, 최용석, "한글 음소단위 Trigram-Signature 기반의 오피니언 마이닝 기법", 한국정보과학회 학술발표논문집, 2015, 811-813.)
Cho, K.H., B.V. Merrienboer, C. Gulcehre, D. Bahdanau, F. Bougares, H. Schwenk, and Y. Bengio, "Learning Phrase representations using RNN Encoder-decoder for Statistical Machine Translation", ICLR, 2014, 1724-1734.
Dellarocas, C., X. Zhang, and N.F. Awad, "Exploring the value of online product reviews in forecasting sales : The case of motion pictures", Journal of Interactive Marketing Vol.21, No.4, 2007, 23-45.

상세보기
Dellarocas, C., G. Gao, and R. Narayan, "Are Consumers More Likely to Contribute Online Reviews for Hit or Niche Products?", Journal of Management Information Systems, Vol.27, No.2, 2010, 127-158.

상세보기
Glorot, X., A. Bordes, and Y. Bengio, "Domain Adaptation for Large Scale Sentiment Classification : A Deep Learning Approach", ICML'11 Proceedings of the 28th International Conference on International Conference on Machine Learning, 2011, 513-520.
Go, M.S. and H.P. Shin, "Grading System of Movie Review through the Use of An Appraisal Dictionary and Computation of Semantic Segments", COGSCI, Vol.21, No.4, 2010, 669-696. (고민수, 신효필, "감정어휘 평가사전과 의미마디 연산을 이용한 영화평 등급화 시스템", 인지과학, 제21권, 제4호, 2010, 669-696.)
Griffiths, T.L. and M. Steyvers, "Finding scientific topics", PNAS, 2004, 5228-5235.
Jo, Y. and A.H. Oh, "Aspect and sentiment unification model for online review analysis", WSDM '11 Proceedings of the fourth ACM international conference on Web search and data mining, 2011, 815-824. doi :10.1145/1935826.1935932(Downloaded September 10, 2017).
Kam, M.A. and M. Song, "A Study on Differences of Contents and Tones of Arguments among Newspapers Using Text Mining Analysis", Journal of Intelligence and Information Systems, Vol.18, No.3, 2012, 53-77. (감미아, 송 민, "텍스트 마이닝을 활용한 신문사에 따른 내용 및 논조 차이점 분석", 지능정보연구, 제18권, 제3호, 2012, 53-77.)
Kim, J.O., S.S. Lee, and H.S. Yong, "Automatic Opinion Classification of Korean Text", Journal of KISS : Databases, Vol.38, No.6, 2011, 423-428. (김진옥, 이선숙, 용환승, "한글 텍스트의 오피니언 분류 자동화 기법", 정보과학회논문지 : 데이타베이스, 제38권, 제6호, 2011, 423-428.)
Korfiatis, N., E.G. Bariocanal, and S.S.Alonso, "Evaluating content quality and helpfulness of online product reviews : The interplay of review helpfulness vs. review content", Electronic Commerce Research and Applications, Vol.11, No.3, 2012, 205-217.

상세보기
Kraychev, B. and I. Koychev, Classification of Online Reviews by Computations Semantic Lexicons, Springer, Third International Conference on Software, Services and Semantic Technologies, 2011.
Kuan, K.Y., K.L. Hui, P. Prasarnphanich, and H.Y. Lai, "What makes a review voted? An empirical investigation of review voting in online review systems", Journal of the Association for Information Systems, Vol.16, No. 1, 2015, 48-71.

상세보기
Lee, J.J. and S.M. Ahn, "Sentiment Analysis of Deep Learning Model Applying Phoneme Unit", KIISS, 2017, 113-114. (이재준, 안성만, "한글 음소 단위를 적용한 딥러닝모형의 감성분석", 한국지능정보시스템학회 학술대회논문집, 2017, 113-114.)
Lee, S.W., D.G. Lee, and H.C. Rim, "A Corpusbased Hybrid Model for Morphological Analysis and Part-of-Speech Tagging", Journal of the Korea Society of Computer and Information), Vol.13, No.7, 2008, 11-18. (이승욱, 이도길, 임해창, "형태소 분석 및 품사 부착을 위한 말뭉치 기반 혼합 모형", 한국컴퓨터정보학회논문지, 제13권, 제7호, 2008, 11-18.)
Mikolov, T., I. Sutskever, K. Chen, G. Corrado, and J. Dean, "Distributed Representations of Words and Phrases and their Compositionality", Advances in Neural Information Processing Systems, 2013.
Minqing, H. and L. Bing, "Mining and summarizing customer Reviews", KDD '04 Proceedings of the tenth ACM SIGKDD international conference on Knowledge discovery and data mining, 2004, 168-177, doi : 10.1145/1014052.1014073 (Downloaded September 10, 2017).
Mudambi, S.M. and D.Schuff, "What Makes a Helpful Review? A Study of Customer Reviews on Amazon.com", MIS Quarterly, Vol.34, No.1, 2010, 185-200.

상세보기
Nikolaos, P. and A.P. Belis, "Multilingual Hierarchical Attention Networks for Document Classification", arXiv preprint arXiv : 1707.00896, 2017.
Scaffidi, C., K. Bierhoff, E. Chang, M. Felker, H. Ng, and J. Chun, "Red Opal : productfeature scoring from reviews", EC '07 Proceedings of the 8th ACM conference on Electronic commerce, 2007, 182-191, doi : 10. 1145/1250910.1250938(Downloaded September 10, 2017).
Singh, J.P., S. Irani, N.P. Rana, Y.K. Dwivedi, S. Saumya, and P.K. Roy, "Predicting the 'helpfulness' of online consumer reviews", Journal of Business Research, Vol.70, No.1, 2017, 346-355.

상세보기
Somprasertsri, G. and P. Lalitrojwong, "Mining Feature-Opinion in Online Customer Reviews for Opinion Summarization", Journal of Universal Computer Science, Vol.16, No.6, 2010, 938-955, doi : 10.3217/jucs-016-06-0938 (Downloaded September 10, 2017).
Song, J.S. and S.W. Lee, "Automatic Construction of Positive/Negative Feature-Predicate Dictionary for Polarity Classification of Product Reviews", Journal of KIISE : Software and Applications, Vol.38, No.3, 2011, 157-168. (송종석, 이수원, "상품평 극성 분류를 위한 특징별 서술어 긍정/부정 사전 자동 구축", 정보과학논문지 : 소프트웨어 및 응용, 제38권, 제3호, 2011, 157-168.)
Sutskever, I., O. Vinyals, and Q.V. Le, "Sequence to Sequence Learning with Neural Networks", ICLR, 2014, 3104-3112.
Yang, Z., D. Yang, C. Dyer, X. He, A. Smola, and E. Hovy, "Hierarchical Attention Networks for Document Classification", In Proc. of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics : Human Language Technologies, 2016, 1480-1489.
Yeon, J.H., D.J. Lee, J.H. Shim, and S.G. Lee, "Product Review Data and Sentiment Analytical Processing Modeling", JSEBS, Vol.16, No.4, 2011, 125-137. (연종흠, 이동주, 심준호, 이상구, "상품 리뷰 데이터와 감성 분석 처리 모델링", 한국전자거래학회지, 제16권, 제4호, 2011, 125-137.)
Yoo, K. and U. Gretzel, "What motivates consumers to write online travel reviews?", Information Technology & Tourism, Vol.10, No.4, 2008, 283-295.

상세보기

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증