[논문]딥 러닝을 이용한 자동 댓글 생성에 관한 연구

최재용; 성소윤; 김경철

doi:10.7583/jkgs.2018.18.5.83

딥 러닝을 이용한 자동 댓글 생성에 관한 연구
A Study on Automatic Comment Generation Using Deep Learning 원문보기

한국게임학회 논문지 = Journal of Korea Game Society, v.18 no.5, 2018년, pp.83 - 92

최재용 (한국산업기술대학교 게임공학과) , 성소윤 (한국산업기술대학교 게임공학과) , 김경철 (한국산업기술대학교 게임공학과)

초록
AI-Helper

최근 다수의 분야에서 딥 러닝을 통한 연구 성과들이 사람의 판단력에 근접하는 결과를 보여주고 있다. 그리고 게임 산업에서는 온라인 커뮤니티, SNS의 활성화가 게임 흥행 여부를 결정할 정도로 중요성이 높아지고 있다. 본 연구는 딥 러닝을 이용해 온라인 커뮤니티, SNS에서 활동할 수 있는 시스템을 구성하고, 온라인 공간에서 사람들이 작성한 텍스트를 읽고 그에 대한 반응을 생성하고 스케쥴에 따라 트위터에 올리는 것을 목표로 한다. 순환 신경망(Recurrent Neural Network)을 이용해 텍스트를 생성하고 글 작성 스케쥴을 생성하는 모델들을 구성했고, 생성한 시각에 맞춰 모델들에 뉴스 제목을 입력해 댓글을 출력 받고 트위터에 작성하는 프로그램을 구현했다. 본 연구결과는 온라인 게임 커뮤니티 활성화, Q&A 서비스 등에 적용이 가능할 것으로 예상된다.

Abstract ▼ AI-Helper

Many studies in deep learning show results as good as human's decision in various fields. And importance of activation of online-community and SNS grows up in game industry. Even it decides whether a game can be successful or not. The purpose of this study is to construct a system which can read texts and create comments according to schedule in online-community and SNS using deep learning. Using recurrent neural network, we constructed models generating a comment and a schedule of writing comments, and made program choosing a news title and uploading the comment at twitter in calculated time automatically. This study can be applied to activating an online game community, a Q&A service, etc.

주제어

표/그림 (12)

그림 [Fig. 1] A recurrent network with no outputs
그림 [Fig. 2] Long Short-Term Memory Cell
그림 [Fig. 3] 3D Word Embedding
그림 [Fig. 4] Example of an encoder-decoder or sequence-to-sequence RNN architecture
그림 [Fig. 5] An example of Text Data
그림 [Fig. 6] An example of Schedule Generation Model’s Training Data
표 [Table 1] Results of Text Models
표 [Table 2] Results of Text Models
표 [Table 3] Results of Text Models
표 [Table 4] Results of Schedule Generation Model
그림 [Fig. 7] A Result of Automatic Generation
그림 [Fig. 8] A Result of Automatic Generation

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구에서는 SNS에 글을 작성하는 것을 목표로 하기 때문에 RNN을 이용해 연구를 진행했다.
이에 본 연구는 딥 러닝을 통해 SNS, 온라인 커뮤니티 사용자들이 작성한 텍스트에 대한 반응들을 보고 학습해 그 활동 패턴을 모사하는 시스템을 구성하는 것을 목표로 한다. 텍스트는 길이가 가변적이고 연속성이 있는 데이터이기 때문에 이런 데이터를 다루기 적합한 순환 신경망을 연구에 사용했다.

제안 방법

구성한 세 개의 모델 중 Char-RNN, 작성 스케쥴 생성 모델은 LSTM 신경망을 여러 층으로 조합해 구성했다. 또 다른 모델인 NMT 모델은 앞 모델들의 구조 두 개를 조합해 구성됐다.
구성한 자동화 프로그램이 댓글을 직접 포탈에 작성하면서 활동하면 불법이기 때문에 트위터에 작성했다. 따라서 자동화 프로그램이 선택된 뉴스의 제목과 URL 주소, 각 모델이 출력한 댓글을 트위터 API를 이용해 트위터에 작성하도록 구현했다.
구성한 시스템이 SNS에서 사람처럼 활동하기 위해 언제 글을 작성할지에 대한 학습도 필요하다. 따라서 포탈 이용자들의 댓글 작성시각을 수집하고 이를 학습할 댓글 작성 스케쥴 생성 모델을 구현했다. 시각을 수집 할 때 댓글이 작성된 시각을 유닉스 시간(1970년 1월 1일부터 해당 시각까지 몇 초가 흘렀는지를 나타내는 정수) 형식으로 변환해 저장했다.
때문에 한글 텍스트를 NMT 모델에 학습시킬 때 메모리가 부족해 진행할 수 없는 문제가 빈번하게 발생했다. 때문에 Char-RNN 모델과 다르게 NMT모델을 학습할 땐 더 적은 뉴스 데이터에 대해, 그 댓글들의 상위 10% 중 7000개만 학습하도록 전처리를 했다.
이때 본 연구에 필요한 생성 시각들은 하루 동안 언제 글을 작성해야 하는지 이다. 때문에 수집한 시각 데이터의 년, 월, 일은 삭제하고 분, 초를 기반으로 데이터를 변환했다. 수집한 시각 데이터들을 작성한 당일 0시 정각을 기준으로 몇 초가 지났는지 나타내는 정수로 변환해 학습 데이터로 이용했다.
이때 각 단어가 어떤 값을 가질지를 모델과 같이 학습시키는데, 이것을 워드 임베딩(Word Embedding)이라고 부른다[11]. 본 연구에서 구성한 모델들은 단어를 워드 임베딩을 통해 벡터로 변환시킨 후 입력으로 사용한다.
본 연구에서는 3가지의 RNN 기반 모델을 사용해 시스템을 구성했다. 그리고 각 모델을 구성하기위해 Long Short-Term Memory (LSTM)[10] cell 신경망이 이용됐다.
비교적 많은 사람들이 공감하는 댓글들을 학습시키기 위해 수집한 댓글들에 공감수에서 비공감수의 2배를 뺀 것을 점수로 매기고 그 내림차순으로 정렬한 뒤, 상위 10%를 모델 학습용 데이터로 추출했다. 이렇게 추출된 데이터 중 70%는 실제 학습에 사용했고, 나머지 30%의 데이터는 모델의 학습 정도를 확인하기 위한 테스트 데이터 셋으로 활용했다.
따라서 포탈 이용자들의 댓글 작성시각을 수집하고 이를 학습할 댓글 작성 스케쥴 생성 모델을 구현했다. 시각을 수집 할 때 댓글이 작성된 시각을 유닉스 시간(1970년 1월 1일부터 해당 시각까지 몇 초가 흘렀는지를 나타내는 정수) 형식으로 변환해 저장했다. 2018년 6월 17일부터 동년 7월 14일까지 약 212만개의 시각 데이터를 수집했다.
디코더에서는 인코더의 결과 값을 이용해 이 작업이 역으로 수행된다. 이때 인코더가 문장을 상태로 만드는 과정과 디코더가 전달된 입력 상태를 문장으로 바꾸는 과정을 입력 값과 결과 값에 맞게 학습시킨다. 시퀀스-투-시퀀스 모델을 이용해 문장을 다른 언어로 번역하는 연구가 존재하는데[13], 기존의 확률기반 번역보다 더 높은 성능을 보였다.
시퀀스-투-시퀀스 구조로 구현된 기계번역(Neural Machine Translation, NMT)모델로 구글에서 제공하는 NMT 오픈소스 프로젝트[18]를 이용해 구성했다. 입력 값은 기사 제목, 출력 값은 댓글로 설정하고 모델을 학습시켰다. Encoder와 Decoder 모두 128개의 상태 값은 갖는 LSTM Cell을 2개 레이어로 연결해 구성했다.
입력 데이터들은 기사의 제목과 그 기사에 대한 댓글이 탭(tab) 문자로 연결되어 있고 개행 문자로 끝나는 구조로 되어있다. 입력 데이터를 32개씩 묶고, 전체 입력에 대한 Batch Data들을 100회 반복해서 학습한다.
작성 스케쥴 생성 모델은 128개의 상태 값을 갖는 LSTM Cell을 3개의 레이어로 쌓아 구현했다. 추가로 RNN 모델 뒤에 Fully-Connected Network를 연결해 최종 예측 시각을 계산하도록 구현했다.
텍스트 생성을 위해 Char-RNN, NMT 두 가지 모델을 구성했다. Char-RNN 모델은 글자를 하나씩 출력할 때마다 이전 문장을 반영해 예측하는 모델이다.
SNS 상에서의 활동을 위해 학습, 결과 생성, 업로드 작업들을 자동화했다. 학습 데이터를 모으고, 수집한 데이터로 모델들을 학습하고, 결과를 출력해 SNS에 작성하는 과정을 스크립트로 만들어 매일 동작하도록 구현했다.
Encoder와 Decoder 모두 128개의 상태 값은 갖는 LSTM Cell을 2개 레이어로 연결해 구성했다. 학습 데이터에서 제목과 댓글 쌍을 임의로 12000번 선택해 모델을 학습시켰다.

대상 데이터

‘네이버(Naver)’는 정치 분야 뉴스에서 ‘공감순’을 제거했기 때문에 그 다음으로 이용자가 많은 ‘다음(Daum)’에서 데이터를 수집했다.
시각을 수집 할 때 댓글이 작성된 시각을 유닉스 시간(1970년 1월 1일부터 해당 시각까지 몇 초가 흘렀는지를 나타내는 정수) 형식으로 변환해 저장했다. 2018년 6월 17일부터 동년 7월 14일까지 약 212만개의 시각 데이터를 수집했다.
본 연구에서는 3가지의 RNN 기반 모델을 사용해 시스템을 구성했다. 그리고 각 모델을 구성하기위해 Long Short-Term Memory (LSTM)[10] cell 신경망이 이용됐다.
데이터 수집은 2018년 2월 1일 부터 2018년 8월 19일 까지 수행되었으며, 약 9300개 뉴스의 데이터를 수집했다.
본 연구를 위해 총 세 가지 모델을 사용했으며 모두 Tensorflow 1.9.0-dev20180501 프레임워크와 Python 3.5.2 언어를 이용해 구성했다. CPU는 Intel Core i7-7700 3.
때문에 수집한 시각 데이터의 년, 월, 일은 삭제하고 분, 초를 기반으로 데이터를 변환했다. 수집한 시각 데이터들을 작성한 당일 0시 정각을 기준으로 몇 초가 지났는지 나타내는 정수로 변환해 학습 데이터로 이용했다.
스크립트가 오전 0시 1분에 실행되면 전날의 댓글이 가장 많은 50개의 뉴스와 그 댓글들을 수집한다. 수집이 끝나면 저장된 댓글들을 필터링 하고 Char-RNN모델과 NMT모델에 입력으로 넣어 각 모델을 학습한다.
이 모델은 1024개의 상태 값을 가지는 LSTM셀로 구성한 3개의 레이어로 이루어져 있다. 모델의 학습률은 0.
비교적 많은 사람들이 공감하는 댓글들을 학습시키기 위해 수집한 댓글들에 공감수에서 비공감수의 2배를 뺀 것을 점수로 매기고 그 내림차순으로 정렬한 뒤, 상위 10%를 모델 학습용 데이터로 추출했다. 이렇게 추출된 데이터 중 70%는 실제 학습에 사용했고, 나머지 30%의 데이터는 모델의 학습 정도를 확인하기 위한 테스트 데이터 셋으로 활용했다.
사람이 작성한 것과 유사한 행태로 댓글을 생성하려면, 1)어떤 내용의 댓글을 생성할지, 2)언제 그 댓글을 올릴지를 결정해야 한다. 이를 위하여 많은 사람들의 공감을 받은 비교적 검증된 댓글인 포탈의 상위권 댓글을 학습 데이터로 이용했다. ‘네이버(Naver)’는 정치 분야 뉴스에서 ‘공감순’을 제거했기 때문에 그 다음으로 이용자가 많은 ‘다음(Daum)’에서 데이터를 수집했다.
‘네이버(Naver)’는 정치 분야 뉴스에서 ‘공감순’을 제거했기 때문에 그 다음으로 이용자가 많은 ‘다음(Daum)’에서 데이터를 수집했다. 이를 위해 웹 브라우저 자동화 툴인 Selenium을 이용해 연구기간동안 매일 전날의 댓글 많은 상위 50위 뉴스들의 댓글들과 뉴스 데이터를 수집했다.

이론/모형

Karpathy가 직접 구현한 Char-RNN은 Lua언어로 구현 했고 Torch 프레임 워크를 사용했다[16]. 본 연구에서는 이를 Python과 Tensorflow 프레임워크를 사용해 재구성한 오픈소스 프로젝트[17]를 이용해 모델을 구성했다.
Karpathy가 직접 구현한 Char-RNN은 Lua언어로 구현 했고 Torch 프레임 워크를 사용했다[16]. 본 연구에서는 이를 Python과 Tensorflow 프레임워크를 사용해 재구성한 오픈소스 프로젝트[17]를 이용해 모델을 구성했다.
시퀀스-투-시퀀스 구조로 구현된 기계번역(Neural Machine Translation, NMT)모델로 구글에서 제공하는 NMT 오픈소스 프로젝트[18]를 이용해 구성했다. 입력 값은 기사 제목, 출력 값은 댓글로 설정하고 모델을 학습시켰다.

성능/효과

또한 다른 SNS 이용자들이 이번 연구의 결과물에 반응을 보인 것은 구성한 시스템과 사용자 간의 소통에 유의미한 가능성을 보여준다.

후속연구

한국어나 일본어의 경우 이러한 문제가 많이 나타나는데, 이를 해결하기 위한 방법으로 Sub-unit[19]을 이용해 처음 보는 단어를 처리하는 방법이 있다. 이밖에 시퀀스-투-시퀀스 모델에 Attention Mechanism[20]을 도입하는 등 관련 연구가 활발히 진행되고 있어 이러한 발전 상황들을 모델에 적용하면 더 높은 성능을 보여줄 것으로 기대된다. 향후 본 연구의 모델을 보완해 게임 커뮤니티에 활용하면 해당 사용자들에게 정보제공이나 소통 측면에 긍정적인 영향을 줄 수 있을 것으로 예상된다.
이밖에 시퀀스-투-시퀀스 모델에 Attention Mechanism[20]을 도입하는 등 관련 연구가 활발히 진행되고 있어 이러한 발전 상황들을 모델에 적용하면 더 높은 성능을 보여줄 것으로 기대된다. 향후 본 연구의 모델을 보완해 게임 커뮤니티에 활용하면 해당 사용자들에게 정보제공이나 소통 측면에 긍정적인 영향을 줄 수 있을 것으로 예상된다.

질의응답

핵심어	질문	논문에서 추출한 답변
	딥 러닝 분야에서 가장 많이 사용되는 신경망 구조에는 무엇이 있나?	딥 러닝 분야에서 가장 많이 사용되는 신경망 구조로 합성곱 신경망(Convolutional Neural Network, CNN)과 순환 신경망(Recurrent Neural Network, RNN)이 있다.
	본 논문에서 텍스트 생성을 위해 Char-RNN, NMT 두 가지 모델을 구성한 이유는?	NMT는 입력 문장의 상태를 먼저 생성 후 그것을 새로 해독하는 모델이다. 각 모델의 텍스트 생성 방식이 다르기 때문에 두 가지를 모두 사용했다.
	시퀀스-투-시퀀스(Sequence-to-Sequence) 모델은 무엇이며, 무엇으로 구성되는가?	시퀀스-투-시퀀스(Sequence-to-Sequence) 모델은 시퀀스를 입력으로 받아서 시퀀스를 생성해 출력하는 모델로, 입력 시퀀스 데이터를 처리하는 인코더(Encoder)와 출력 시퀀스를 처리하는 디코더(Decoder)로 구성된다. 인코더와 디코더는 각각 하나의 RNN모델이며 이를 하나로 합친 게 시퀀스-투-시퀀스 모델이다[12].

참고문헌 (20)

Geoffrey E. Hinton , Simon Osindero and Yee-Whye Teh, "A Fast Learning Algorithm for Deep Belief Nets", Neural Computation Volume 18 Issue 7, pp.1527-1554, 2006.

상세보기
Google, "Google Duplex: An AI System for Accomplishing Real-World Tasks Over the Phone", https://ai.googleblog.com/2018/05/duplex-ai-system-for-natural-conversation.html, 2018.
OpenAI, "Dota 2", https://blog.openai.com/dota-2/, 2017.
Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, "ImageNet Classification with Deep Convolutional Neural Networks", http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks, 2012.
Haoxiang Li, Zhe Lin, Xiaohui Shen, Jonathan Brandt, Gang Hua, "A Convolutional Neural Network Cascade for Face Detection", The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp.5325-5334, 2015.
Junhua Mao, Wei Xu, Yi Yang, Jiang Wang, Zhiheng Huang, Alan Yuille "Deep Captioning With Multimodal Recurrent Neural Networks (m-RNN)", https://arxiv.org/abs/1412.6632, 2015.
Ian Goodfellow, Yoshua Bengio And Aron Courville, "Deep Learning", The MIT Press, pp.363-382, 2016.
Alex Graves, Abdel-rahman Mohamed, Geoffrey Hinton, "Speech Recognition with Deep Recurrent Neural Networks", https://arxiv.org/abs/1303.5778, 2013.
Yong Du, Wei Wang, Liang Wang, "Hierarchical Recurrent Neural Network for Skeleton Based Action Recognition", The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp.1110-1118, 2015.
"Long Short-Term Memory", Neural Computation Volume 9 Issue 8, pp.1735-1780, 1997.

상세보기
Oren Melamud, Omer Levy, Ido Dagan, "A Simple Word Embedding Model for Lexical Substitution", Proceedings of NAACL-HLT 2015, pp.1-7, 2015.
Ian Goodfellow, Yoshua Bengio And Aron Courville, "Deep Learning", The MIT Press, pp.385-400, 2016.
Kyunghyun Cho, Bart Van Merrienboer, Dzmitry Bahdanau, Yoshua Bengio, "On the properties of neural machine translation: Encoder-decoder approaches", https://arxiv.org/abs/1409.1259, 2014.
Subhashini Venugopalan, Marcus Rohrbach, Jeffrey Donahue, Raymond Mooney, Trevor Darrell, Kate Saenko, "Sequence to Sequence - Video to Text", The IEEE International Conference on Computer Vision (ICCV), pp.4534-4542, 2015
Andrej Karpathy, "The Unreasonable Effectiveness of Recurrent Neural Networks", http://karpathy.github.io/2015/05/21/rnn-effectiveness, 2015.
Andrej Karpathy, "Multi-layer Recurrent Neural Networks (LSTM, GRU, RNN) for character-level language models in Torch" https://github.com/karpathy/char-rnn, 2015.
insikk, "Korean language requires a little different treatment when we run character level RNN", https://github.com/insikk/kor-char-rnn-tensorflow, 2017.
Google, "TensorFlow Neural Machine Translation Tutorial", https://github.com/tensorflow/nmt, 2017.
Rico Sennrich, Barry Haddow, Alexandra Birch, "Neural Machine Translation of Rare Words with Subword Units", https://arxiv.org/abs/1508.07909, 2016.
Minh-Thang Luong, Hieu Pham, Christopher D. Manning, "Effective Approaches to Attention-based Neural Machine Translation", https://arxiv.org/abs/1508.04025, 2015.

LOADING...

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증