[논문]빅데이터 기반 추천시스템을 위한 협업필터링의 최적화 규제

박인규; 최규석

doi:10.7236/jiibc.2021.21.1.87

초록
AI-Helper

빅데이터 기반의 추천시스템 모델링에서 바이어스, 분산, 오류 및 학습은 성능에 중요한 요소이다. 이러한 시스템에서는 추천 모델이 설명도를 유지하면서 복잡도를 줄여야 한다. 또한 데이터의 희소성과 시스템의 예측은 서로 반비례의 속성을 가지기 마련이다. 따라서 희소성의 데이터를 인수분해 방법을 활용하여 상품간의 유사성을 학습을 통한 상품추천모델이 제안되어 왔다. 본 논문에서는 이 모델의 손실함수에 대한 최적화 방안으로 max-norm 규제를 적용하여 모델의 일반화 능력을 향상시키고자 한다. 해결방안은 기울기를 투영하는 확률적 투영 기울기 강하법을 적용하는 것이다. 많은 실험을 통하여 데이터가 희박해질수록 기존의 방법에 비해 제안된 규제 방법이 상대적으로 효과가 있다는 것을 확인하였다.

Abstract ▼ AI-Helper

Bias, variance, error and learning are important factors for performance in modeling a big data based recommendation system. The recommendation model in this system must reduce complexity while maintaining the explanatory diagram. In addition, the sparsity of the dataset and the prediction of the sy...

Bias, variance, error and learning are important factors for performance in modeling a big data based recommendation system. The recommendation model in this system must reduce complexity while maintaining the explanatory diagram. In addition, the sparsity of the dataset and the prediction of the system are more likely to be inversely proportional to each other. Therefore, a product recommendation model has been proposed through learning the similarity between products by using a factorization method of the sparsity of the dataset. In this paper, the generalization ability of the model is improved by applying the max-norm regularization as an optimization method for the loss function of this model. The solution is to apply a stochastic projection gradient descent method that projects a gradient. The sparser data became, it was confirmed that the propsed regularization method was relatively effective compared to the existing method through lots of experiment.

주제어

표/그림 (4)

그림 그림 1. FISMmax-norm 알고리즘 Fig. 1. FISMmax-norm Algorithm
그림 그림 2. ML100K 데이터에 대한 평가 결과 Fig. 2. Effect of estimation on ML100K
표 표 1 : Datasets. Table 1: Datasets
그림 그림 3. Netflix 데이터에 대한 평가 결과 Fig. 3. Effect of estimation on Netflix

AI 본문요약
AI-Helper

문제 정의

본 논문에서는 모델의 복잡성을 줄이기 위하여 낮은 순위 분해(low rank decomposition)를 유도하기 위하여 max-norm 규제를 상품기반 유사도 추천 시스템에 적용하여 기존의 모델과의 비교우위를 논하고자 한다.

제안 방법

본 논문에서는 max-norm 규제를 적용하여 FISM 모델의 최적화를 향상을 위하여 Top-N 추천시스템을 위한 Factored Item Similarity 모델의 목적함수에 max-norm 정칙화를 적용하여 최적화를 유도하였다. 이는 Max-Norm 정칙화가 low rank decomposition 를 유도한다는 접근법에서 착안한 것으로 데이터 행렬의 순위(rank)를 낮춰 모델의 복잡성을 줄여 목적함수의 손실을 최적화하도록 한 것이다.
선호도는 앞에서 제시한 바와 같이 FISM 모델의 손실함수의 최적화를 위하여 FISM에서 사용된 규제에 의한 손실함수에 의한 최적화와 본 논문에서 제시한 max-norn 규제에 의한 손실함수가 추천 성능에 미치는 영향을 알아본다. 공간 부족으로 인해 ML100K-3 (ML100K로 표시) 및 Netflix-3 (Netflix로 표시) 데이터 세트에 대해서만 실험을 수행하였다.

대상 데이터

선호도는 앞에서 제시한 바와 같이 FISM 모델의 손실함수의 최적화를 위하여 FISM에서 사용된 규제에 의한 손실함수에 의한 최적화와 본 논문에서 제시한 max-norn 규제에 의한 손실함수가 추천 성능에 미치는 영향을 알아본다. 공간 부족으로 인해 ML100K-3 (ML100K로 표시) 및 Netflix-3 (Netflix로 표시) 데이터 세트에 대해서만 실험을 수행하였다. 상품 추천 시에 상품의 자체 선호도는 제외하는 FISMrmse의 접근 방식과 효과를 조사하기 위해 선호도 추천 시에 max-norm규제를 가지는 FISM방식 즉, FISMmax-norm의 성능을 비교한다.

데이터처리

나머지 매개 변수의 값들을 일정하게 유지하면서 latent factor k의 수를 변경하면서 FISMrmse와 FISMmax-norm의 성능을 비교하였다. 그림 2, 3은 각각 ML100K MovieLens와 Netflix 데이터 세트에 대한 결과를 보여준다.
공간 부족으로 인해 ML100K-3 (ML100K로 표시) 및 Netflix-3 (Netflix로 표시) 데이터 세트에 대해서만 실험을 수행하였다. 상품 추천 시에 상품의 자체 선호도는 제외하는 FISMrmse의 접근 방식과 효과를 조사하기 위해 선호도 추천 시에 max-norm규제를 가지는 FISM방식 즉, FISMmax-norm의 성능을 비교한다.

이론/모형

따라서 상품 간의 유사도 행렬 S의 방대한 크기에 대하여 RMSE의 최소화에 효율적인 특이값 분해 방법을 이용하여 확률적인 기울기 강하 알고리즘이 적용된다. 이는 기울기 강하 알고리즘을 확률적으로 변형하여 손실함수를 최소화하는 기울기강하 탐색법은 매개변수 P, Q가 안정된 상태에 도달할 때까지 식(8)에 의해서 갱신되어진다.

성능/효과

이는 Max-Norm 정칙화가 low rank decomposition 를 유도한다는 접근법에서 착안한 것으로 데이터 행렬의 순위(rank)를 낮춰 모델의 복잡성을 줄여 목적함수의 손실을 최적화하도록 한 것이다. FISM의 factor기반 회귀모델링에 있어서 실제 데이터에 max_norm 규제를 갖는 FISMrmse 알고리즘을 적용한 결과, SLIM이나 FISM 과 같은 기존 방법보다 양호하였다. 결과적으로 제안한 목적함수 최적화 기법이 다른 방법보다 성능이 뛰어나고 데이터 세트가 희소해지면 성능 격차가 더욱 증가하는 것으로 나타났다.
FISM의 factor기반 회귀모델링에 있어서 실제 데이터에 max_norm 규제를 갖는 FISMrmse 알고리즘을 적용한 결과, SLIM이나 FISM 과 같은 기존 방법보다 양호하였다. 결과적으로 제안한 목적함수 최적화 기법이 다른 방법보다 성능이 뛰어나고 데이터 세트가 희소해지면 성능 격차가 더욱 증가하는 것으로 나타났다. 본 논문에서 제시한 Max-Norm 규제를 활용하면 사용자의 피드백 정보의 손실을 줄여 사용자의 선호도에 맞는 상품을 추천할 수 있을 것으로 기대한다.
그러나 k 값이 증가하면 FISMmxa-norm이 FISMrmse보다 더 나은 성능을 나타내기 시작하고 k 값이 증가할수록 방법의 성능 차이가 커진다는 것을 알 수 있다. 이는 제안한 방식에서 사용하는 max-norm 규제 방식이 NSVD 및 SVD ++와 같은 접근 방식에서 사용되는 것보다 우수하고 factor 크기가 커질수록 성능이 비례한다는 것을 알 수 있다.

후속연구

결과적으로 제안한 목적함수 최적화 기법이 다른 방법보다 성능이 뛰어나고 데이터 세트가 희소해지면 성능 격차가 더욱 증가하는 것으로 나타났다. 본 논문에서 제시한 Max-Norm 규제를 활용하면 사용자의 피드백 정보의 손실을 줄여 사용자의 선호도에 맞는 상품을 추천할 수 있을 것으로 기대한다.

참고문헌 (10)

X. Yan, A. C. Reynolds. "Optimization Algorithms Based on Combining FD Approximations and Stochastic Gradients Compared With Methods Based Only on a Stochastic Gradient", Journal Article published 15 Oct in SPE Journal vol. 19 no. 05 pp. 873-890, 2014. DOI: https://doi.org/10.2118/163613
P. Cremonesi, Y. Koren, and R. Turrin. "Performance of recommender algorithms on top-n recommendation tasks". In Proceedings of the fourth ACM conference on Recommender systems, pp. 39-46, 2010. DOI: https://doi.org/10.1145/1864708.1864721
M. Deshpande and G. Karypis. "Item-based top-n recommendation algorithms". ACM Transactions on Information Systems (TOIS), vol. 22, no.1 pp. 143-177, 2004. DOI: https://doi.org/10.1145/963770.963776

상세보기
R. Gemulla, E. Nijkamp, P. J. Haas, and Y. Sismanis. "Large-scale Matrix factorization with distributed stochastic gradient descent". In Proceedings of the 17th ACM SIGKDD international conference on Knowledge discovery and data mining, pp. 69-77. ACM, 2011. DOI: https://doi.org/10.1145/2020408.2020426
S. Kabbur, Xia Ning, G. Karypis. "FISM: Factored Item Similarity Models for Top-N Recommender Systems", 19th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD), 2013. DOI: https://doi.org/10.1145/2487575.2487589
R. J. Mooney and L. Roy. "Content-based book recommending using learning for text categorization". In Proceedings of the fifth ACM conference on Digital libraries, pp. 195-204. ACM, 2000. DOI: https://doi.org/10.1145/336597.336662
X. Ning and G. Karypis. "Slim: Sparse linear methods for top-n recommender systems. In Data Mining", Proceedings of the 2011 IEEE 11th International Conference on Data Mining, December, pp. 497-506, 2011. DOI: https://doi.org/10.1109/icdm.2011.134
Y. S. Im, E. Y. Kang, "MPEG-2 Video Watermarking in Quantized DCT Domain," The Journal of The Institute of Internet, Broadcasting and Communication(JIIBC), vol. 11, no. 1, pp. 81-86, 2011. DOI: https://doi.org/10.1109/tip.2006.873476

상세보기
I. Jeon, S. Kang, H. Yang, "Development of Security Quality Evaluate Basis and Measurement of Intrusion Prevention System," Journal of the Korea Academia-Industrial cooperation Society (JKAIS), vol. 11, no. 1, pp. 81-86, 2010. DOI: https://doi.org/10.5762/kais.2010.11.4.1449

원문보기 상세보기
J. S. Oh, B, S. Lee, "A Study for Lifespan Prediction of Expansion by Temperature Status", The Journal of KISTI, vol. 19, no. 10, pp. 424-429, 2018. DOI: http://dx.doi.org/10.5762/KAIS.2018.19.10.424

원문보기 상세보기

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

빅데이터 기반 추천시스템을 위한 협업필터링의 최적화 규제
Regularized Optimization of Collaborative Filtering for Recommander System based on Big Data 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어

표/그림 (4)

표/그림 (4)

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

이론/모형

성능/효과

후속연구

참고문헌 (10)

이 논문을 인용한 문헌

저자의 다른 논문 :

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

빅데이터 기반 추천시스템을 위한 협업필터링의 최적화 규제 Regularized Optimization of Collaborative Filtering for Recommander System based on Big Data 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

주제어

표/그림 (4) 모든 표/그림 보기

표/그림 (4) 슬라이드로 보기

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

이론/모형

성능/효과

후속연구

참고문헌 (10)

이 논문을 인용한 문헌

저자의 다른 논문 :

박인규 (40) 최규석 (37)

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

빅데이터 기반 추천시스템을 위한 협업필터링의 최적화 규제
Regularized Optimization of Collaborative Filtering for Recommander System based on Big Data 원문보기

초록
AI-Helper

표/그림 (4)

표/그림 (4)

AI 본문요약
AI-Helper