[논문]Support Vector Regression에서 분리학습을 이용한 고객의 구매액 예측모형

홍태호; 김은미

Support Vector Regression에서 분리학습을 이용한 고객의 구매액 예측모형
The Prediction of Purchase Amount of Customers Using Support Vector Regression with Separated Learning Method 원문보기

지능정보연구 = Journal of intelligence and information systems, v.16 no.4, 2010년, pp.213 - 225

초록
AI-Helper

본 연구에서는 기업의 마케팅 프로모션에 따른 반응고객의 구매액 예측을 위한 방법을 제시하고 SVR의 효과적인 학습방법을 제시하였다. 프로모션에 의한 고객의 구매액을 기반으로 고객을 5등급으로 등급화하고 각 등급 내에서 SVR을 적용하여 고객의 구매액을 예측하였다. 본 연구에서 제안하는 예측된 고객의 등급 내에서 고객 구매액을 예측하는 분리데이터 학습법이 프로모션에 반응한 모든 고객을 대상으로 구매액을 예측하는 전체데이터 학습법보다 높은 예측성과를 보여주었다. 일반적으로 세분화된 고객집단을 하나의 집단으로 보고 동일한 마케팅 전략을 제시하나 본 연구를 통해 구매액에 따라 등급화 된 고객의 등급 내에서 다시 고객의 거래 구매액을 예측하여 동일한 집단 내에서도 차별화된 마케팅 전략을 제시할 수 있는 기반을 제시하였다. 즉 동일한 등급에서도 고객 구매액에 따라 고객의 우선순위를 정할 수 있으며, 이는 마케팅 담당자가 프로모션을 제시할 고객을 선정할 때 유용한 정보로 활용될 수 있다.

Abstract ▼ AI-Helper

Data mining has empowered the managers who are charge of the tasks in their company to present personalized and differentiated marketing programs to their customers with the rapid growth of information technology. Most studies on customer' response have focused on predicting whether they would respond or not for their marketing promotion as marketing managers have been eager to identify who would respond to their marketing promotion. So many studies utilizing data mining have tried to resolve the binary decision problems such as bankruptcy prediction, network intrusion detection, and fraud detection in credit card usages. The prediction of customer's response has been studied with similar methods mentioned above because the prediction of customer's response is a kind of dichotomous decision problem. In addition, a number of competitive data mining techniques such as neural networks, SVM(support vector machine), decision trees, logit, and genetic algorithms have been applied to the prediction of customer's response for marketing promotion. The marketing managers also have tried to classify their customers with quantitative measures such as recency, frequency, and monetary acquired from their transaction database. The measures mean that their customers came to purchase in recent or old days, how frequent in a period, and how much they spent once. Using segmented customers we proposed an approach that could enable to differentiate customers in the same rating among the segmented customers. Our approach employed support vector regression to forecast the purchase amount of customers for each customer rating. Our study used the sample that included 41,924 customers extracted from DMEF04 Data Set, who purchased at least once in the last two years. We classified customers from first rating to fifth rating based on the purchase amount after giving a marketing promotion. Here, we divided customers into first rating who has a large amount of purchase and fifth rating who are non-respondents for the promotion. Our proposed model forecasted the purchase amount of the customers in the same rating and the marketing managers could make a differentiated and personalized marketing program for each customer even though they were belong to the same rating. In addition, we proposed more efficient learning method by separating the learning samples. We employed two learning methods to compare the performance of proposed learning method with general learning method for SVRs. LMW (Learning Method using Whole data for purchasing customers) is a general learning method for forecasting the purchase amount of customers. And we proposed a method, LMS (Learning Method using Separated data for classification purchasing customers), that makes four different SVR models for each class of customers. To evaluate the performance of models, we calculated MAE (Mean Absolute Error) and MAPE (Mean Absolute Percent Error) for each model to predict the purchase amount of customers. In LMW, the overall performance was 0.670 MAPE and the best performance showed 0.327 MAPE. Generally, the performances of the proposed LMS model were analyzed as more superior compared to the performance of the LMW model. In LMS, we found that the best performance was 0.275 MAPE. The performance of LMS was higher than LMW in each class of customers. After comparing the performance of our proposed method LMS to LMW, our proposed model had more significant performance for forecasting the purchase amount of customers in each class. In addition, our approach will be useful for marketing managers when they need to customers for their promotion. Even if customers were belonging to same class, marketing managers could offer customers a differentiated and personalized marketing promotion.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구에서는 고객의 구매액에 따른 등급을 적용한 고객등급별 구매액 예측을 위해 와 같이 연구 프레임워크를 제시하였다.
기업은 새로운 고객을 획득하고 기존고객을 유지하기 위해 다양한 마케팅 프로모션을 제공하고 있다. 정보기술의 발달로 고객 데이터베이스에 대한 접근이 용이해 짐에 따라 기업은 고객정보, 거래정보 등의 고객데이터를 활용하여 마케팅 프로모션을 제공할 목표고객을 선정하고자 한다. 모든 고객에게 무차별적으로 제공되는 프로모션은 불필요한 비용의 지출은 물론이고 고객과의 관계도 악화시킬 수 있기 때문에 프로모션을 제공할 목표 고객의 선정은 중요하다(Cönül et al.

제안 방법

전체데이터 학습법인 LMW와 구매고객의 등급을 적용하여 동일한 등급 내에서 학습하여 고객의 구매액을 예측한 분리데이터 학습법인 LMS에서 SVR을 적용하였다. SVR을 위해 각 등급별로 데이터를 랜덤하게 4 : 1로 나누어 학습용과 검증용으로 사용하였다.
SVR의 커널함수로 RBF 커널을 사용하였으며 모수 C는 0.1, 1, 50로 하였고 σ는 1, 0.1, 0.05로 설정하였으며 ε-무감도 손실함수(ε-insensive loss function)의 ε값은 0.05, 0.1, 0.5로 설정하여 공개소프트웨어인 LIBSVM(http://www.csie.ntu.edu.tw/~cjlin/libsvm)을 사용하였다.
본 연구에서는 이러한 문제점의 해결방안으로 고객을 5등급으로 분류하는 모형을 통해 고객의 구매액에 대한 구매 범위를 좁혔다. 고객 등급화 모형은 일반적으로 많이 사용되는 RFM 모형에 근거하였으며, 각 등급별로 구매액을 예측하는 4개의 SVR 모형을 개발하였다. SVR과 같은 데이터를 통해서 학습을 하는 데이터마이닝 기법은 학습표본이 동질적인(homogenous) 표본에서의 학습이 용이하다는 가정에 근거하여 분리데이터 학습법을 제시하였다.
본 연구에서는 고객의 구매액을 예측하기위해 SVR을 적용하였다. 구매액 예측모형의 성과를 높이기 위해 고객의 등급을 분류하고 본 연구에서 제안된 분리데이터 학습을 적용한 결과 제안한 분리데이터 학습법이 통계적으로 유의하게 우수한 성과를 보였다.
그 이유는 구매액의 범위가 너무 넓기 때문에 예측의 오류 또한 넓어지는 문제점을 안고 있기 때문이다. 본 연구에서는 이러한 문제점의 해결방안으로 고객을 5등급으로 분류하는 모형을 통해 고객의 구매액에 대한 구매 범위를 좁혔다. 고객 등급화 모형은 일반적으로 많이 사용되는 RFM 모형에 근거하였으며, 각 등급별로 구매액을 예측하는 4개의 SVR 모형을 개발하였다.
본 연구에서는 프로모션에 대한 고객의 반응여부를 기반으로 이루어지는 고객의 구매액 예측을 이진분류가 아닌 다분류를 통한 고객등급별 구매액 예측방법으로 분리데이터 학습법(LMS; Learning Method using Separated data for classified purchasing customers)제안한다. 분리데이터 학습법은 고객을 구매 거래액에 따라 5개의 등급으로 등급화 하여 고객의 구매액 범위를 좁히고 각 등급별로 구매액 예측모형을 개발하였다.
본 연구에서는 프로모션에 대한 고객의 반응여부를 기반으로 이루어지는 고객의 구매액 예측을 이진분류가 아닌 다분류를 통한 고객등급별 구매액 예측방법으로 분리데이터 학습법(LMS; Learning Method using Separated data for classified purchasing customers)제안한다. 분리데이터 학습법은 고객을 구매 거래액에 따라 5개의 등급으로 등급화 하여 고객의 구매액 범위를 좁히고 각 등급별로 구매액 예측모형을 개발하였다. 프로모션에 반응하는 모든 고객을 대상으로 구매액을 예측하는 것보다 고객의 등급을 적용한 분리데이터 학습법은 구매액 예측오류의 범위를 좁힐 수 있으며 동일한 등급 내에서 구매액에 따라 고객의 우선순위를 정할 수 있기 때문에 마케팅 담당자가 프로모션을 제시할 고객을 선정할 때 등급별 고객의 구매액 예측을 통해 유용한 정보를 제공받을 수 있다.
분리데이터 학습법은 구매액에 대한 고객의 등급을 적용한 다분류 기반의 학습법으로 동일한 등급 내에서의 학습을 통해 고객의 구매액을 예측하여 고객의 구매액 범위를 좁히고 이에 대한 오류의 범위도 좁힐 수 있다. 일반적으로 세분화된 고객집단을 하나의 집단으로 보고 동일한 마케팅 전략을 제시하나 본 연구에서 제안하는 분리데이터 학습법인 LMS를 통해 구매액에 따른 세분화 된 집단 내에서도 차별화된 마케팅 전략을 제시할 수 있는 방안을 제시한다. 세분화된 집단 내에서 고객의 구매액에 따른 우선순위를 정할 수 있으며 이는 마케팅 담당자가 프로모션을 제시할 목표고객을 선정할 때 유용한 정보를 제공할 수 있다.

대상 데이터

본 연구에서는 다이렉트 마케팅 데이터로 Direct Marketing Association의 DMEF04 데이터셋(http://www.directworks.org)을 사용하였다. DMEF04 데이터셋은 실제 마케팅 활동을 통해 얻어진 101,532명의 고객들에 대한 데이터로 주문수, 주문 금액, 주문항목 등에 대한 91개의 변수로 이루어져 있다.
(2008)과 Malthouse(2001) 등의 연구에서 사용된 16개의 독립변수를 사용하여 구매액 예측모형을 개발하였다. <표 2>에 제시되어 있는 독립변수를 사용하여 프로모션에 반응한 고객집단으로 분류된 고객을 대상으로 구매액을 예측하였다. 구매액에 의한 5등급의 고객들 중 프로모션에 반응을 보이지 않은 5등급의 고객은 제외하고 나머지 등급의 고객을 대상으로 구매액을 예측하였다.

데이터처리

SVR을 이용한 고객 구매액의 예측성과는 예측 값과 실제값의 예측오차를 통해 MAE(Mean Absolute Error)와 MAPE(Mean Absolute Percent Error)로 나타내었다. <표 3>은 반응고객 전체를 학습하는 LMW를 이용한 고객등급별 구매액 예측성과로 MAE와 MAPE가 대체적으로 높게 나타난다.
고객의 구매액 예측을 위해 Vapnik(1995)이 제안한 SVR을 적용하였으며 전체데이터 학습법(LMW; Learning Method using Whole data for purchasing customers)과 분리데이터 학습법(LMS; Learning Method using Separated data for classified purchasing customers)을 비교분석 한다. 전체데이터 학습법은 프로모션에 대한 고객의 반응여부에 따라 반응한 고객집단 전체를 대상으로 학습하는 이진분류 기반의 학습법으로 반응고객의 구매액을 예측한다.

이론/모형

고객의 구매액 예측을 위해 91개의 입력변수 중 Kim et al.(2008)과 Malthouse(2001) 등의 연구에서 사용된 16개의 독립변수를 사용하여 구매액 예측모형을 개발하였다. <표 2>에 제시되어 있는 독립변수를 사용하여 프로모션에 반응한 고객집단으로 분류된 고객을 대상으로 구매액을 예측하였다.
구매액에 의한 5등급의 고객들 중 프로모션에 반응을 보이지 않은 5등급의 고객은 제외하고 나머지 등급의 고객을 대상으로 구매액을 예측하였다. 전체데이터 학습법인 LMW와 구매고객의 등급을 적용하여 동일한 등급 내에서 학습하여 고객의 구매액을 예측한 분리데이터 학습법인 LMS에서 SVR을 적용하였다. SVR을 위해 각 등급별로 데이터를 랜덤하게 4 : 1로 나누어 학습용과 검증용으로 사용하였다.

성능/효과

LMS을 이용한 각 등급의 MAE와 MAPE는 모든 등급에서 전체데이터 학습법인 LMW의 MAE와 MAPE보다 향상된 예측성과를 보인다. LMW에서 가장 높은 예측성과를 보였던 3등급에서의 예측성과가 LMS에서도 가장 높은 예측성과를 보여주며 MAPE가 0.275로 나타나LMW의 0.327에서보다 향상되었다. 또한 LMW에서 예측성과가 가장 낮게 나타났던 4등급의 예측성과는 LWS에서 0.
LMW에서는 반응한 모든 고객을 대상으로 학습했기 때문에 고객의 거래 구매액 범위도 넓으며 이에 대한 예측오차도 크게 나타난다. LMW의 전체 성과를 보면 MAPE가 0.670으로 나타나고 각 등급별로 예측성과를 살펴보면 다른 등급에 비해 3등급에서의 MAPE가 0.327로 예측성과가 가장 좋게 나타나며 4등급에서의 MAPE가 1.023으로 예측성과가 가장 낮게 나타난다. 고객의 등급을 반영한 LMS의 예측성과는 <표 4>와 같다.
고객의 각 등급별로 LMW와 LMS의 구매액 예측성과가 통계적으로 유의한지 대응표본 t-test를 통해 살펴 본 결과 <표 5>와 같다. 각 등급에서 LMW와 LMS의 차이를 통계적으로 검증한 결과 모든 등급에서 유의하게 나타났다.
고객의 등급을 반영한 LMS의 예측성과는 <표 4>와 같다. 고객의 등급을 적용하여 고객의 구매액에 대한 범위를 좁힌 결과 LMS을 이용한 고객등급별 구매액의 예측 성과는 LMW보다 높은 예측성과를 보인다. LMS을 이용한 각 등급의 MAE와 MAPE는 모든 등급에서 전체데이터 학습법인 LMW의 MAE와 MAPE보다 향상된 예측성과를 보인다.
본 연구에서는 고객의 구매액을 예측하기위해 SVR을 적용하였다. 구매액 예측모형의 성과를 높이기 위해 고객의 등급을 분류하고 본 연구에서 제안된 분리데이터 학습을 적용한 결과 제안한 분리데이터 학습법이 통계적으로 유의하게 우수한 성과를 보였다. 기존의 고객반응예측 연구들은 고객의 구매 여부에 초점을 둔 이진분류 모형의 개발이 주였다.
327에서보다 향상되었다. 또한 LMW에서 예측성과가 가장 낮게 나타났던 4등급의 예측성과는 LWS에서 0.386으로 0.637만큼 향상된 결과를 보여주었다<;그림 3>. LMS에서는 구매액에 따른 고객의 각 등급별로 구매액을 예측하여 등급별로 예측성과가 비슷하게 나타났으나 LMW에서는 각 등급별로 예측성과의 차이가 크게 나타났다.
SVR과 같은 데이터를 통해서 학습을 하는 데이터마이닝 기법은 학습표본이 동질적인(homogenous) 표본에서의 학습이 용이하다는 가정에 근거하여 분리데이터 학습법을 제시하였다. 실증분석 결과 분리데이터 학습방법은 기존의 모든 샘플에서 하나의 예측모형을 개발할 때보다 매우 효과적임을 통계적으로 밝혀냈다.

후속연구

본 연구에서는 고객의 구매액을 예측하기 위해 SVR을 적용하였으나 다양한 파라미터를 적용해 보지 못했다. 예측성과를 높이기 위해 다양한 파라미터를 적용하여 예측성과를 더 향상 시킬 수 있도록 해야 할 것이며 고객의 구매거래액이 아닌 다른 특성을 통해서도 동일 집단 내에서 차별화할 수 있는 방안을 제시할 수 있도록 해야 할 것이다.
본 연구에서는 고객의 구매액을 예측하기 위해 SVR을 적용하였으나 다양한 파라미터를 적용해 보지 못했다. 예측성과를 높이기 위해 다양한 파라미터를 적용하여 예측성과를 더 향상 시킬 수 있도록 해야 할 것이며 고객의 구매거래액이 아닌 다른 특성을 통해서도 동일 집단 내에서 차별화할 수 있는 방안을 제시할 수 있도록 해야 할 것이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	고객반응 예측모형은 무엇에 중요한 영향을 미치는가?	고객반응 예측모형은 다이렉트 마케팅에서 프로모션을 제공할 목표고객의 선정에 중요한 영향을 미친다(Prinzie and Van der Poel, 2005). 고객 반응 예측모형을 통해 기업이 제시하는 마케팅 프로모션에 대한 고객의 반응여부를 예측하고 반응할 확률이 높은 고객을 선별하며 얼마나 많은 고객들에게 프로모션을 제공할지 결정하도록 도와준다(Kim et al.
	프로모션이란 무엇인가?	기업들은 고객의 구매를 촉진하기 위해 다양한 프로모션을 펼치고 있다. 프로모션은 고객들의 제품구매를 유도하거나 일정기간 동안 반복구매가 더 많이 일어나도록 하기 위한 모든 방법으로 기업의 이윤을 증대시키며 고객과의 관계를 보다 강화시킬 수 있다(고용식, 2005). 기업의 프로모션에 대한 고객의 반응은 고객이 기업의 마케팅 활동에 노출되면서 일어나는 고객의 선호도, 기대, 허락, 태도 등이 있을 수 있으며 고객의 반응이 높을수록 기업은 더 많은 이익을 기대할 수 있을 것이다.
	Support Vector Machines은 어떤 분야에서 성공적으로 적용되어 왔는가?	SVM은 구조적 위험 최소화(SRM; Structural Risk Minimization)에 기반하기 때문에 경험적 위험 최소화(ERM; Empirical Risk Minimization)에 기반한 신경망(neural networks)보다 일반화하기가 더 용이하고 우수한 성과를 보여 왔다(Tay and Cao, 2001). 이러한 이유 때문에 SVM은 기업신용평가(Huang et al., 2004), 프로모션 고객의 반응예측(Cho and Shin, 2006), 이탈고객의 예측(Coussement and Van den Poel, 2008) 등 다양한 분야에서 성공적으로 적용되어 왔다. SVM은 분류문제의 예측에 적용된 반면에, SVM의 회귀모형에 ε-무감도 손실함수(ε-insensitive loss function)을 도입하여 Support Vector Regression(SVR)이 회귀문제의 영역까지 확장되어 왔다(Vapnik et al.

참고문헌 (21)

고용식, "세일즈 프로모션전략으로서의 VMD에 관한 연구", 한국마케팅과학회 2005 춘계학술대회 발표논문집, (2005), 321-339.
김진화, 남기찬, 이상종, "Support Vector Machine 기법을 이용한 고객의 구매의도 예측", Information Systems Review, 10권 2호(2008), 137-158.

원문보기 상세보기
안현철, 김경재, 한인구, "Support Vector Machine 을 이용한 고객구매예측모형", 한국지능정보시스템학회논문지, 11권 3호(2005), 69-81.
홍태호, 박지영, "RCMDE를 적용한 프로모션에 따른 고객등급예측", 한국인터넷전자상거래학회, 한국정보시스템학회 2010년 춘계공동 학술대회논문집, (2010), 155-168.
Baesens, B., S. Viaene, D. Van den Poel, J. Vanthienen and G. Dedene, "Bayesian neural network learning for repeat purchase modelling in direct marketing", European Journal of Operational Research, Vol.138, No.1 (2002), 191-211.

상세보기
Cho, S. and H. Shin, "Response modeling with support vector machines", Expert Systems with Applications, Vol.30, No.4(2006), 746-760.

상세보기
Conul, F. F., B. D. Kim and M. Shi, "Mailing smarter to catalog customer", Journal of Interactive Marketing, Vol.14, No.2(2000), 2-16.

상세보기
Coussement, K. and D. Van den Poel, "Churn prediction in subscription services : An application of support vector machines while comparing two parameter-selection techniques", Expert Systems with Applications, Vol.34, No.1(2008), 313-327.

상세보기
Huang, Z., S. Chen, C. Hsu, W. Chen and S. Wu, "Credit rating analysis with support vector machines and neural networks : a market comparative study", Decision Support Systems, Vol.37, No.4(2004), 543-558.

상세보기
Kim, D., H. Lee and S. Cho, "Response Modeling with Support Vector Regression", Expert Systems with Applications, Vol.34, No.2(2008), 1102-1108.

상세보기
Kim, Y. S. and W. N. Street, "An intelligent system for customer targeting a data mining approach", Decision Support Systems, Vol.37, No.2(2004), 215-228.

상세보기
Lu, C., T. Lee, C. Chiu, "Financial time series forecasting using independent component analysis and support vector regression", Decision Support Systems, Vol.47, No.2(2009), 15-125.
Malthouse, E. C., "Assessing the performance of direct marketing scoring models", Journal of Interactive Marketing, Vol.15, No.1(2001), 49-62.

상세보기
Prinzie, A. and D. Van den Poel, "Constrained optimization of data-mining problems to improve model performance : A direct-marketing application", Expert Systems with Applications, Vol.29, No.3(2005), 630-640.

상세보기
Shin, H. and S. Cho, "Response Modeling with Support Vector Machine", Expert Systems with Applications, Vol. 30, No.4(2006), 746-760.

상세보기
Suh, E. H., K. C. Noh and C. K. Suh, "Customer list segmentation using the combined response model", Expert Systems with Applications, Vol.17, No.2(1999), 89-97.

상세보기
Tay, F. E. H. and L. Cao, "Application of support vector machines in financial time series forecasting", Omega, Vol.29, No.4(2001), 497-505.
Vapnik, S. Golowich and A. Smola, "Support vector method for function approximation regression estimation, and signal processing", In Mozer, M., Jordan, M., Petsche, T. editors, Advances in Neural Information Processing Systems 9, MIT Press, Cambridge, MA, (1999), 281-287.
Vapnik, The Nature of Statistical Learning Theory, Springer, N.Y. 1995.
Wang, K., S. Zhou, Q. Yang and J. M. S. Yeung, "Mining customer value : From association rules to direct marketing", Data Mining and Knowledge Discovery, Vol.11(2005), 57-79.

상세보기
Zahavi, J. and N. Levin, "Applying neural computing to target marketing", Journal of Direct Marketing, Vol.11, No.4(1997), 76-93.

상세보기

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증