[논문]순차적 추천에서의 RNN, CNN 및 GAN 모델 비교 연구

윤지형; 정재원; 장백철

doi:10.7472/jksii.2022.23.4.21

순차적 추천에서의 RNN, CNN 및 GAN 모델 비교 연구
A Comparison Study of RNN, CNN, and GAN Models in Sequential Recommendation 원문보기

Journal of Internet Computing and Services = 인터넷정보학회논문지, v.23 no.4, 2022년, pp.21 - 33

윤지형 (Graduate School of Information, Yonsei University) , 정재원 (Graduate School of International Studies, Yonsei University) , 장백철 (Graduate School of Information, Yonsei University)

초록
AI-Helper

최근 추천 시스템은 영화, 음악, 온라인 쇼핑 및 SNS 등 다양한 분야들에서 광범위하게 활용되고 있으며, 추천 시스템 분야에서 1세대 모델이라고 할수 있는 Apriori 모델을 통한 연관분석부터 최근 많은 주목을 받는 딥러닝 기반 모델들까지 많은 모델들이 제안되어왔다. 추천 시스템에서 기본 모델들은 협업 필터링(Collaborative filtering) 방법, 콘텐츠 기반 필터링(Content-based filtering) 방법, 그리고 이 두 방법을 통합적으로 사용하는 하이브리드 필터링(Hybrid filtering) 방법으로 분류될 수 있다. 하지만 이러한 모델들은 최근 점점 빠르게 변화하는 사용자-아이템 간의 상호관계와 빅데이터의 발전과 같은 내외 변화 요인들에 적응하지 못하면서 점점 분야 내 방법론으로써의 지위를 잃어가고 있다. 반면, 추천 시스템 내에서 딥러닝 기반 모델들은 비선형 변환, 표현학습, 순차적 모델링, 그리고 유연성과 같은 장점들 때문에 그 비중이 높아지고 있는 추세이다. 본 논문에서는 딥러닝 기반 추천 모델들 중에서도 사용자-아이템 간의 상호작용에 대해 보다 정확하고, 유연성 있게 분석이 가능한 순차적 모델링에 적합한 순환 신경망, 합성곱 신경망, 그리고 생성적 적대 신경망 중심 기반 모델로 분류하여 비교 및 분석한다.

Abstract ▼ AI-Helper

Recently, the recommender system has been widely used in various fields such as movies, music, online shopping, and social media, and in the meantime, the recommender model has been developed from correlation analysis through the Apriori model, which can be said to be the first-generation model in the recommender system field. In 2005, many models have been proposed, including deep learning-based models, which are receiving a lot of attention within the recommender model. The recommender model can be classified into a collaborative filtering method, a content-based method, and a hybrid method that uses these two methods integrally. However, these basic methods are gradually losing their status as methodologies in the field as they fail to adapt to internal and external changing factors such as the rapidly changing user-item interaction and the development of big data. On the other hand, the importance of deep learning methodologies in recommender systems is increasing because of its advantages such as nonlinear transformation, representation learning, sequence modeling, and flexibility. In this paper, among deep learning methodologies, RNN, CNN, and GAN-based models suitable for sequential modeling that can accurately and flexibly analyze user-item interactions are classified, compared, and analyzed.

주제어

표/그림 (7)

표 (표 1) 순차적 추천 태스크들과 관련 딥러닝 모델들 (Table 1) Sequential recommendation tasks and related deep learning models
그림 (그림 1) (a) 경험 기반, (b) 트랜젝션 기반 및 (c) 상호작용 기반 순차적 추천 행동의 비교 (Figure 1) Comparison between (a) experience-based, (b) transaction-based, and (c) interaction-based sequential recommender behavior
그림 (그림 2) (a) 세션 기반 추천과 (b) 순차적 추천의 유사점과 차이점 비교 (Figure 2) Comparison of similarities and differences between (a) session-based recommendation and (b) Sequential recommendation
그림 (그림 3) (a) 피드 포워드 신경망과 (b) 순환 신경망 모델 구조 비교 (Figure 3) A Comparison of model structure between (a) FFNN and (b) RNN
그림 (그림 4) (a) 일반 신경망과 (b) 합성곱 신경망 모델 구조 비교 (Figure 4) Structural Comparison between (a) Deep Neural Network and (b) CNN model
그림 (그림 5) GAN 모델 구조 (Figure 5) Model Structure of GAN
표 (표 2) 순환 신경망, 합성곱 신경망, 그리고 생성적 적대 신경망의 연구 내용 및 장·단점 비교 (Table 2) Comparision between research content and advantages/disadvantages of RNN, CNN, and GAN

AI 본문요약
AI-Helper

제안 방법

본 논문에서는 딥러닝 기반 추천 모델들 중에서 사용자-아이템 간의 상호작용에 대해 정확하고, 유연성 있게 분석이 가능한 시퀀셜 모델링에 적합한 순환 신경망, 합성곱 신경망, 그리고 생성적 적대 신경망 기반 모델들을 중심으로 분류하여 비교, 분석, 그리고 시사점을 도출하였다. 순차적 추천 분야에서 순환 신경망 기반 추천 모델들은 사용자가 다음 방문 때 가장 구매할만한 아이템에 대한 사용자의 구매 기호나 자주 추천되는 아이템에 대해 통합적인 이해를 보여주는 모델이다.
마지막으로, 유튜브 추천 및 구글의 Wide & Deep 등과 같이 빅테크 기업에서 제시된 딥러닝 기반 추천 모델들은 추천 시스템에서의 딥러닝 방법론 적용의 본격적인 신호탄이 되었다. 이후, 아마존과 알리바바 등과 같은 전자상거래 관련 기업들에서 딥러닝과 초개인화 기술을 결합시킨 Hierarchical RNN(H-RNN)과 개인화 Re-ranking 같은 모델들을 제시하였다.
추천 시스템에서 사용하는 데이터가 순차적인 특성을 가지고 있다는 생각에 순환 신경망 기반 모델을 많이 차용하고 있는 추세이며, 여러 순환 신경망 추천 모델들 중 아래 세 가지 대표적인 모델들을 통해 순환 신경망 기반 추천 모델들이 시퀀스 모델링을 어떻게 다루었는가에 대해 살펴볼 것이다.

성능/효과

합성곱 신경망 기반 모델들은 사용자가 자신의 장바구니에 추가하고자 하는 아이템을 예측하는 상황에 좀 더 높은 정확성을 확인할 수 있다. 그리고 생성적 적대 신경망 기반 추천 모델들은 생성자와 판별자라는 신경망들을 통해 적대적인 학습을 통해 데이터를 생성하는 모델로, 학습의 효율성과 생성모델의 성능 우수성을 확인할 수 있다.
마지막으로, 유튜브 추천 및 구글의 Wide & Deep 등과 같이 빅테크 기업에서 제시된 딥러닝 기반 추천 모델들은 추천 시스템에서의 딥러닝 방법론 적용의 본격적인 신호탄이 되었다
위와 같은 모델들의 특징들을 통해 순차적 추천 분야에서 순환 신경망 기반 추천 모델들이 사용자가 다음 방문 때 가장 구매할만한 아이템에 대한 사용자의 구매 기호나 자주 추천되는 아이템에 대해 통합적인 이해를 나타내고, 사용자-아이템 간 상호관계를 이해하기 위해 시퀀셜 정보와 상황별 맥락에 같이 접근하며, 사용자의 행동 시퀀스에 대해 여러 가지 요소들을 같이 고려 하는 등의 유연함과 같은 성과를 보여주는 것을 알 수 있다.

참고문헌 (24)

Le Wu, Xiangnan He, Xiang Wang, Kun Zhang, Meng Wang, "A Survey on Accuracy-oriented Neural Recommendation: From Collaborative Filtering to Information-rich Recommendation", IEEE Transactions on Knowledge and Data Engineering, pp. 1-20, 2021. https://doi.org/10.48550/arXiv.2001.04830
Shuai Zhang, Lina Yao, Aixin Sun, and Yi Tay, "Deep Learning Based Recommender System: A Survey and New Perspectives", ACM Computing Surveys (CSUR), Vol. 52, No. 1, pp. 1-38, 2019. https://doi.org/10.1145/3285029

상세보기
R. Mu, "A Survey of Recommender Systems Based on Deep Learning", IEEE Access, Vol. 6, pp. 69009-69022, 2018. https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber8529185

상세보기
Yashar Deldjoo, Tommaso Di Noia, and Felice Antonio Merra, "A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks", ACM Computing Surveys, Vol. 54, No. 35, pp. 1-38, 2022. https://doi.org/10.1145/3439729

상세보기
Shoujin Wang, Liang Hu, Yan Wang, Longbing Cao, Quan Z. Sheng, Mehmet Orgun, "Sequential recommender systems: challenges, progress and prospects." Proceedings of the Twenty-Eighth International Joint Conference on Artificial Intelligence, pp. 6332-6338, 2019. https://doi.org/10.24963/ijcai.2019/883
Hui Fang, Danning Zhang, Yiheng Shu, and Guibing Guo, "Deep Learning for Sequential Recommendation: Algorithms, Influential Factors, and Evaluations", ACM Transactions on Information Systems, Vol. 39, No. 10, pp. 1-42, 2020. https://doi.org/10.1145/3426723

상세보기
Shoujin Wang, Longbing Cao, Yan Wang, Quan Z. Sheng, Mehmet A. Orgun, and Defu Lian, "A survey on session-based recommender systems." ACM Computing Surveys, Vol. 54, No. 154, pp. 1-38, 2022. https://doi.org/10.1145/3465401

상세보기
N. Chowdhury and M. A. kashem, "A comparative analysis of Feed-forward neural network & Recurrent Neural network to detect intrusion," 2008 International Conference on Electrical and Computer Engineering, pp. 488-492, 2008. https://doi.org/10.1109/ICECE.2008.4769258
Feng Yu, Qiang Liu, Shu Wu, Liang Wang, Tieniu Tan, "A dynamic recurrent model for next basket recommendation", Proceedings of the 39th International ACM SIGIR conference on Research and Development in Information Retrieval, pp. 729-732, 2016. https://doi.org/10.1145/2911451.2914683
Q. Liu, S. Wu, D. Wang, Z. Li and L. Wang, "Context-Aware Sequential Recommendation," 2016 IEEE 16th International Conference on Data Mining (ICDM), pp. 1053-1058, 2016. https://doi.org/10.1109/ICDM.2016.0135
Kan Ren, Jiarui Qin, Yuchen Fang, Weinan Zhang, Lei Zheng, Weijie Bian, Guorui Zhou, Jian Xu, Yong Yu, Xiaoqiang Zhu and Kun Gai, "Lifelong sequential modeling with personalized memorization for user response prediction", Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval, pp. 565-574, 2019. https://doi.org/10.1145/3331184.3331230
M. Bubashait and N. Hewahi, "Urban Sound Classification Using DNN, CNN & LSTM a Comparative Approach," 2021 International Conference on Innovation and Intelligence for Informatics, Computing, and Technologies (3ICT), pp. 46-50, 2021. https://doi.org/10.1109/3ICT53449.2021.9581339
Trinh Xuan Tuan and Tu Minh Phuong, " 3D Convolutional Networks for Session-based Recommendation with Content Features." Proceedings of the Eleventh ACM Conference on Recommender Systems, pp. 138-146, 2017. http://dx.doi.org/10.1145/3109859.3109900
Jiaxi Tang, Ke Wang, " Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding." Proceedings of Eleventh ACM International Conference on Web Search and Data Mining, pp. 565-573, 2018. https://doi.org/10.1145/3159652.3159656
Fajie Yuan, Alexandros Karatzoglou, Ioannis Arapakis, Joemon M Jose, and Xiangnan He, "A Simple Convolutional Generative Network forNext Item Recommendation", Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining, pp. 582-590, 2019. https://doi.org/10.1145/3289600.3290975
Zhengwei Wang, Qi She, Tomas E. Ward, "Generative Adversarial Networks in Computer vision: A Survey and Taxonomy", ACM Computing Surveys, Vol. 54, No. 37, pp. 1-38, 2022. https://doi.org/10.1145/3439723

상세보기
Homanga Bharadhwaj, Homin Park, and Brian Y. Lim, "RecGAN: recurrent generative adversarial networks for recommendation systems", RecSys '18: Proceedings of the 12th ACM Conference on Recommender Systems, pp. 372-376, 2018. https://doi.org/10.1145/3240323.3240383
Ruiyang Ren, Zhaoyang Liu, Yaliang Li, Wayne Xin Zhao, Hui Wang, Bolin Ding, Ji-Rong Wen, "Sequential Recommendation with Self-Attentive Multi-Adversarial Network", Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR '20), pp. 89-98, 2020. https://doi.org/10.1145/3397271.3401111
Pengyu Zhao, Tianxiao Shui, Yuanxing Zhang, Kecheng Xiao, Kaigui Bian, "Adversarial Oracular Seq2seq Learning for Sequential Recommendation", Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence, pp. 1905-1911, 2020. https://doi.org/10.24963/ijcai.2020/264
Aminu Da'u and Naomie Salim, "Recommendation system based on deep learning methods: a systematic review and new directions", Artificial Intelligence Review, Vol. 53, pp. 2709-2748, 2020. https://doi.org/10.1007/s10462-019-09744-1

상세보기
Shu Wu, Yuyuan Tang, Yanqiao Zhu, Liang Wang, Xing Xie, Tieniu Tan, "Session-based Recommendation with Graph Neural Networks", Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 33, pp. 346-353, 2019. https://doi.org/10.1609/aaai.v33i01.3301346

상세보기
Yoshua Bengio, Aaron Courville, Pascal Vincent, "Representation Learning: A Review and New Perspectives", IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 35, No. 8, pp. 1798-1828, 2013. https://doi.org/10.1109/TPAMI.2013.50

상세보기
W. Kang and J. McAuley, "Self-Attentive Sequential Recommendation," 2018 IEEE International Conference on Data Mining (ICDM), pp. 197-206, 2018. https://doi.org/10.1109/ICDM.2018.00035
Fei Sun, Jun Liu, Jian Wu, Changhua Pei, Xiao Lin, Wenwu Ou, and Peng Jiang, "BERT4Rec: Sequential Recommendation with Bidirectional Encoder Representations from Transformer", Proceedings of the 28th ACM International Conference on Information and Knowledge Management, pp. 1441-1450, 2019. https://doi.org/10.1145/3357384.3357895

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증