[논문]Logistic Regression을 이용한 이탈고객예측모형

정한나; 박혜진; 김남형; 전치혁; 이재욱

Logistic Regression을 이용한 이탈고객예측모형
Churn Prediction Model using Logistic Regression 원문보기

정한나 (포항공과대학교 산업경영공학과) , 박혜진 (포항공과대학교 산업경영공학과) , 김남형 (포항공과대학교 산업경영공학과) , 전치혁 (포항공과대학교 산업경영공학과) , 이재욱 (포항공과대학교 산업경영공학과)

금융산업에서 고객의 이탈비율은 기대수익에 영향을 미친다는 점에서 예측이 필요한 부분이며 최근 들어 정확한 예측을 통한 비용관리가 이루어지면서 고객 이탈을 예측하는 것이 중요한 문제로 떠오르고 있다. 그러나 보험 고객 데이터가 대용량이고 불균형한 출력 값을 갖는 특성으로 인해 기존의 방법으로 예측 모델을 만드는 것이 적합하지 않다. 본 연구에서는 대용량 데이터를 처리하는 데 효과적으로 알려져 있는 Trust-region Newton method를 적용한 로지스틱 회귀분석을 통해 이탈고객을 예측하는 것을 주된 연구로 하며, 불균형한 데이터에서의 예측정확도를 높이기 위해 Oversampling, Clustering, Boosting 등을 이용하여 고객 데이터에 적합한 이탈 고객 예측 모형을 제시하고자 한다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본래 Classification에 Clustering방법을 이용하는 것은 Semi-supervised learning에서 제안된 것으로 Transduction라 한다[5]. 본 연구는 Semi-supervised learning은 아니나 각 Cluster별 Classification model을 만들었을 때 정확도에 유의할만한 향상을 가져와 제안하는 바이다.
본 연구에서는 Logistic regression을 이용하여 이탈고객을 예측하는 방법을 제안하였다. 고객정보데이터의 특성이 Largescale이며 Imbalance하다는 점에서 이에 적합한 분석방법을 제안하였다는 데 본 연구의 의의가 있다.
반면에 LBFGS method는 Approximate inverse Hessian matrix를 사용하여 Trust-region Newton method보다 느린 수렴 속도를 보인다. 본 연구에서는 대용량 데이터의 Logistic regression analysis에 Trustregion Newton method를 적용해 봄으로써 좀더 빠르고 정확한 결과를 내도록 하였다.
Imbalanced data를 처리하는 기법에는 Weighted accuracy 또는 ROC curve를 구하거나 데이터를 Oversampling하는 기법들이 적용될 수 있다[3]. 본 연구에서는 이러한 기법들 중에서 보험고객 이탈 데이터 특성에 잘 맞는 기법들을 사용한 연구를 제안하고자 한다.

제안 방법

K-means clustering으로 전체 고객을 8개의 Cluster로 나누었으며 Target의 비율은 각 Cluster별로 비슷하였다[표2]. 이것으로 고객정보로 알 수 있는 특징별로 Target값이 민감하게 다르지는 않다는 것과 각 특성의 고객별로 비율의 고객이 이탈한 것으로 한사실로 보아 각 군집내에서 고객의 이탈여부에 따라 Classification modeling을 하였을 때 좀 더 자세한 Model이 만들어질수 있음을 알 수 있다.
데이터의 특징을 파악하고 데이터 마이닝에 적합하도록 일부 변수에 정규화, 결측치 처리, 변수 재정의를 실행한다.
데이터전처리 과정으로 데이터 결측치 처리, 변수재정의, 추가독립변수 정의를 수행하였으며 결과적으로 38개의 변수를 가지고 분석을 진행하였다.
본 연구에서는 Adaboost를 사용하였으며 반복은 20번 시행되었다. 기본 알고리즘에서 중요도를 Reset하는 부분을 삭제하고 재계산되는 중요도의 비율을 80%로 다소 크게 두었는데 이는 정확도가 50% 이하로 떨어질 경우 재계산이 필요한 데이터의 수가 많기 때문이다.
정확도 계산시 2-fold Cross validation을 사용하여 Overfitting에 따른 정확도의 왜곡을 막도록 하였다. 제안된 각 단계를 지남에 따른 정오분류표를 [표 3]에서 [표 6]까지 나타내었다.
Logistic regression이 사용자에게 사용하기 쉽고 이해하기 편한 결과를 가져온다는 것을 고려할 때 Logistic regression을 이용한 고객 Classification 문제는 좀 더 논의될 여지가 있다. 좀 더 Accurate한 결과를 위해서는 목적식을 푸는 기법을 본 연구에서 사용한 Regularized logistic regression대신 Bayesian logistic regression 또는 Kernel logistic regression 등을 이용하여 좀 더 효과적이며 정확도가 높은 알고리즘을 만들 수 있다.

이론/모형

Logistic regression은 Large-scale에 효과적이라고 알려진 Trust-region Newton method를 사용한다. 이때 각 Parameter는 TRON software에 사용되는 η₀=10^{^}(-4), η₁=0.
고객의 특성이 매우 다양하여 분류분석에 필요한 Key factor를 찾기 힘든 점을 방지하기 위하여 K-means clustering을 이용하였다. 이는 비슷한 특징을 가진 고객군 중에서 이탈과 지속을 나누는 Factor를 좀 더 자세하게 관찰할 수 있도록 하여 각 Cluster별정확도를 높이며 궁극적으로 전체 정확도를 높일 수 있다[4].
본 연구에서는 Preprocessing, Oversampling, Clustering, Logistic regression, Boosting을 사용하여 분석하였으며 개요는 [그림 1]과 같다.
이러한 문제점들을 극복하고 예측 모델을 만들기 위해 대용량 데이터를 처리하는 데 효과적으로 알려져 있는 Trust-region Newton method를 적용한 로지스틱 회귀분석 기법을 사용하였으며 불균형한 데이터에서의 예측정확도를 높이기 위해 Oversampling, Clustering, Boosting 등을 이용하였다.

성능/효과

본 연구의 장점은 Large-scale matrix에 적합한 Logistic regression을 위해 TRON method를 이용하여 다른 방법보다 Computational time을 줄였다는 것과 고객정보 데이터와 같은 Imbalanced data를 분류하는 체계적인 방법을 제안하였다는 것에 있다. Oversampling, Clustering, Boosting등의 Technique이 사용되었고 결과적으로 Target 정확도를 높이는데 성공하였다.
Oversampling과 Clustering을 거친 데이터를 Logistic regression을 이용하여 분류할 때에 Boosting을 사용하여 Iterative하게 정확도를 향상시킨 결과, Target정확도는 34.36%로 증가하였다[표 6]. 모든 정확도가 Test set의 정확도임을 감안할때 Boosting의 단점이라 할 수 있는 Overfitting의 문제가 본 데이터에는 크게 영향을 주지 않았음을 알 수 있다.
Oversampling한 후 Logistic regression으로 분류했을 때의 Target정확도는 19.27%로 Oversampling을 하기 전에 비해 150배의 증가를 보였다[표 4]. Oversampling을 한 후의 이탈고객 데이터는 21241개이나 Original data의 이탈고객 분류 결과와 직접적인 비교를 할 수 있도록 1557개로 보정하여 정오분류표에 나타내었고 이때 비율에는 변함이 없다.
Oversampling을 한 후 각 Cluster별로 다른 Logistic regression model을 세워 정확도를 구한 결과는 [표 5]과 같다. 각 Cluster별로 구해진 Target정확도를 비율에 따라 환산하여 구하였으며 이때 Target정확도는 29.68%로 증가하여 Transduction이 Classification 문제에서도 효과를 보인 것을 확인할 수있다.
결과적으로 Target정확도는 34.36%까지 증가하였고 본 데이터가 실제의 고객정보를 담고 있는 것임을 고려할 때에 상당히 Acceptable한 결과임을 알 수 있다.
고객정보 데이터를 분석결과 전체 40001개의 데이터 중 1557개의 이탈고객 데이터, 즉 Target 데이터가 있었으며 이는 3.89%로 극도로 Imbalance한 데이터에 속한다.
36%로 증가하였다[표 6]. 모든 정확도가 Test set의 정확도임을 감안할때 Boosting의 단점이라 할 수 있는 Overfitting의 문제가 본 데이터에는 크게 영향을 주지 않았음을 알 수 있다.
본 연구에서 사용한 고객정보 데이터는 이탈비율이 전체 고객 데이터의 약 4%를 차지하는 Imbalanced data로 정확한 예측을 하기가 까다롭다. 기존의 이탈고객관리(Churn management)에 관한 연구를 살펴보면 주로 이동통신에 관한 선행연구가 주를 이루었으며 Regression, Neural network, Decision tree등의 Data mining 기법들이 주로 사용되어왔다[2].
데이터에 대한 다변량 정규분포의 가정이 필요 없고, 설명변수로 연속형과 범주형자료를 다 포함시킬 수 있다는 장점을 가지고 있다. 본 연구에서 이탈고객예측에 사용한 데이터는 반응변수가 이항변수이며, 다양한 형태의 자료를 변수로 가지고 있으며, 각 변수의 분포가 고르지 못하므로 Logistic regression model이 적합할 것으로 판단되었다.
데이터의 Target class가 매우 작아 Logistic regression을 통해 분류할 때 제대로된 결과를 낼 수 없으므로 Oversampling을통해 30%까지 Target class의 데이터를 늘리는 것이 필요하다[4]. 본 연구에서는 Oversampling 방법 중 Data duplication을 이용하며 이는 Imbalance의 정도가 매우 심할 경우 한 Class를 Outlier와 구별하지 못하는 단점을 해결할 수 있다.
그러나 예측 모델을 만들기 위한 학습데이터는 매우 불균형한 출력 값을 가질 뿐 아니라 너무 방대하기 때문에 기존의 방법으로는 효과적인 모델을 만들기 매우 어렵다. 본 연구의 분석에 사용한 데이터도 전체 데이터 중에서 약 4%정도만 이탈 고객에 해당하는 관측치로 매우 불균형적인 정보를 담고 있다. 또한 고객 정보 데이터의 Feature의 개수가 많아 Curse of dimensionality 문제를 야기 시킬 수 있으며 Numerical-valued 데이터와 Categorical-valued 데이터가 섞여 있는 형식으로 되어 있어 분석하기 매우 까다롭다.
본 연구의 장점은 Large-scale matrix에 적합한 Logistic regression을 위해 TRON method를 이용하여 다른 방법보다 Computational time을 줄였다는 것과 고객정보 데이터와 같은 Imbalanced data를 분류하는 체계적인 방법을 제안하였다는 것에 있다. Oversampling, Clustering, Boosting등의 Technique이 사용되었고 결과적으로 Target 정확도를 높이는데 성공하였다.
89%로 극도로 Imbalance한 데이터에 속한다. 이 중 Target의 비율을 30%정도로 늘리기 위해 Duplication를 실행하였으며 그 결과 34.50%의 비율의 이탈고객이 생성되었다. Sample에 따른 이탈고객과 지속고객의 비율은 [표 1]과 같다.
K-means clustering으로 전체 고객을 8개의 Cluster로 나누었으며 Target의 비율은 각 Cluster별로 비슷하였다[표2]. 이것으로 고객정보로 알 수 있는 특징별로 Target값이 민감하게 다르지는 않다는 것과 각 특성의 고객별로 비율의 고객이 이탈한 것으로 한사실로 보아 각 군집내에서 고객의 이탈여부에 따라 Classification modeling을 하였을 때 좀 더 자세한 Model이 만들어질수 있음을 알 수 있다.
각 단계가 추가됨에 따라 Target정확도가 증가하였다. 특히 Oversampling을 하고 나서 150배 정도의 향상을 보였고 Clustering 후에는 이전 단계에 비해 53.9%, Boosting을사용한 후에는 하기 전에 비해 15.8%의 증가를 보인 것을 확인하였다.

후속연구

Logistic regression이 사용자에게 사용하기 쉽고 이해하기 편한 결과를 가져온다는 것을 고려할 때 Logistic regression을 이용한 고객 Classification 문제는 좀 더 논의될 여지가 있다. 좀 더 Accurate한 결과를 위해서는 목적식을 푸는 기법을 본 연구에서 사용한 Regularized logistic regression대신 Bayesian logistic regression 또는 Kernel logistic regression 등을 이용하여 좀 더 효과적이며 정확도가 높은 알고리즘을 만들 수 있다.

핵심어

질문

논문에서 추출한 답변

기존의 방법으로는 효과적인 예측 모델을 만들기 매우 어려운 이유는?

그러나 예측 모델을 만들기 위한 학습데이터는 매우 불균형한 출력 값을 가질 뿐 아니라 너무 방대하기 때문에 기존의 방법으로는 효과적인 모델을 만들기 매우 어렵다. 본 연구의 분석에 사용한 데이터도 전체 데이터 중에서 약 4%정도만 이탈 고객에 해당하는 관측치로 매우 불균형적인 정보를 담고 있다.

고객의 이탈을 예측하려는 시도는 어떠한 부분에서 자주 일어나는 것인가?

고객의 이탈을 예측하려는 시도는 Churn prediction부분에서 자주 일어나고 있는 부분이며 이탈 고객에 대한 스코어링을 통해 기존 우량고객의 이탈을 미리 예측하고 기대 수익 예측에도 도움이 될 것이라는 점에서 필요한 연구라 할 수 있겠다. 특히 이탈 고객에 대한 예측 모델을 구축함으로써 고객 이탈을 방지하고 이탈에 대한 재가입을 유도할 수 있어 그 기대효과가 크다.

전략적으로 고객과 시장을 세분화하여 Target 마케팅을 추진하는 것이 중요한 이유는?

최근 금융 환경 위기 및 경기 불황으로 인하여 보험 계약이탈 및 신계약 감소현상이 나타나고 이에 대한 경쟁력 확보방안이 요구되고 있다. 시장의 움직임 또한 가격 및 상품 자유화, 진입 장벽 완화 등의 규제 완화 양상을 띄고 있으며 고객이 보험 회사의 수익과 직결되어 고객의 Bargaining power가 강화되고 있다. 따라서 전략적으로 고객과 시장을 세분화하여 Target 마케팅을 추진하는 것이 중요하다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

Logistic Regression을 이용한 이탈고객예측모형
Churn Prediction Model using Logistic Regression 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

이론/모형

성능/효과

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

Logistic Regression을 이용한 이탈고객예측모형 Churn Prediction Model using Logistic Regression 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

이론/모형

성능/효과

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

Logistic Regression을 이용한 이탈고객예측모형
Churn Prediction Model using Logistic Regression 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper