[논문]공통요인분석자혼합모형의 요인점수를 이용한 일반화가법모형 기반 신용평가

임수열; 백장선

doi:10.7465/jkdi.2012.23.2.235

공통요인분석자혼합모형의 요인점수를 이용한 일반화가법모형 기반 신용평가
A credit classification method based on generalized additive models using factor scores of mixtures of common factor analyzers 원문보기

Journal of the Korean Data & Information Science Society = 한국데이터정보과학회지, v.23 no.2, 2012년, pp.235 - 245

초록
AI-Helper

로지스틱판별분석은 금융 분야에서 유용하게 사용되고 있는 통계적 기법으로 신용평가 시 해석이 쉽고 우수한 분별력으로 많이 활용되고 있지만 종속변수에 대한 설명변수들의 비선형적인 관계를 설명하는 부분에는 한계점이 있다. 일반화가법모형은 로지스틱판별모형의 장점과 함께 종속변수와 설명변수 사이의 비선형적인 관계도 설명할 수 있다. 그러나 연속형 설명변수의 수가 대단히 많은 경우이 두 방법은 모형에 유의한 변수를 선택해야하는 문제점이 있다. 따라서 본 연구에서는 다수의 연속형 설명변수들을 공통요인분석자혼합모형에 의한 차원축소를 통해 변환된 소수의 요인점수들을 일반화가법모형의 새로운 연속형 설명변수로 사용하여 신용분류를 하는 방법을 제시한다. 실제 금융자료를 이용하여 로지스틱판별모형과 일반화가법모형, 그리고 본 연구에서 제안한 방법에 의한 정분류율을 비교한 결과 본 연구에서 제안한 방법의 분류 성능이 더 우수하였다.

Abstract ▼ AI-Helper

Logistic discrimination is an useful statistical technique for quantitative analysis of financial service industry. Especially it is not only easy to be implemented, but also has good classification rate. Generalized additive model is useful for credit scoring since it has the same advantages of logistic discrimination as well as accounting ability for the nonlinear effects of the explanatory variables. It may, however, need too many additive terms in the model when the number of explanatory variables is very large and there may exist dependencies among the variables. Mixtures of factor analyzers can be used for dimension reduction of high-dimensional feature. This study proposes to use the low-dimensional factor scores of mixtures of factor analyzers as the new features in the generalized additive model. Its application is demonstrated in the classification of some real credit scoring data. The comparison of correct classification rates of competing techniques shows the superiority of the generalized additive model using factor scores.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구의 목적은 원자료를 이용한 로지스틱판별모형과 일반화가법모형(GAM), 그리고 본 연구에서 제안한 MCFA를 통해 얻은 q-차원의 요인점수를 이용한 일반화가법모형(GAM)의 분류 성능을 비교하여 제안된 방법의 우수성을 밝히는데 있다. 이를 위하여 호주 금융자료의 경우 총 690개의 자료 중에서 무작위로 각각 490개와 200개를 훈련자료와 검증자료로서, 독일 금융자료의 경우 총 1,000개의 자료 중 무작위로 각각 700개와 300개를 훈련자료와 검증자료로 나누었으며, 이렇게 나뉜 훈련 자료와 검증 자료에 대하여 로지스틱판별분석, GAM, 그리고 MCFA를 이용한 GAM 모형에 적용하여 정분류율을 구하였다.

가설 설정

MCFA는 각 성분(집단)별로 공통의 요인적재행렬을 가정하며, 요인벡터는 서로 다른 평균과 공분산을 갖는 요인모형을 가정한다. 즉, g개의 집단이 존재하는 경우 고차원(p-차원) 변수벡터 X_j가 i번째 그룹에 속해 있다고 한다면, 그것이 다음과 같이 p-차원 보다 훨씬 작은 저차원(q-차원)의 요인벡터 U_ij에 의한 요인분석 모형을 따른다고 가정한다.
MCFA는 각 성분(집단)별로 공통의 요인적재행렬을 가정하며, 요인벡터는 서로 다른 평균과 공분산을 갖는 요인모형을 가정한다. 즉, g개의 집단이 존재하는 경우 고차원(p-차원) 변수벡터 X_j가 i번째 그룹에 속해 있다고 한다면, 그것이 다음과 같이 p-차원 보다 훨씬 작은 저차원(q-차원)의 요인벡터 U_ij에 의한 요인분석 모형을 따른다고 가정한다.

제안 방법

1. 전체자료를 훈련자료와 검증자료로 무작위로 나눈 후, 훈련자료에 대하여 q = 1부터 시작하여 q = 2, 3등으로 한 단계씩 증가하여 MCFA를 적용하여 모수들을 추정한다.
3. 각각의 q에 대응하는 추정된 요인점수벡터들을 GAM에 투입하여 검증자료를 분류하고 정분류율을 계산한다.
4. 가장 높은 정분류율을 도출한 q값에 대응한 MCFA 모수추정치들을 저장하고, 향후 분류하려는 새로운 개체에 대한 요인점수벡터를 추정한 후 이를 GAM에 적용하여 분류한다.
각 실험마다 동일한 수의 훈련자료와 검증자료의 추출을 100번 반복 시행하였으며, 100번 반복 추출 후 각 실험마다 얻게 되는 정분류된 신용분류(우량/불량)의 평균을 정분류율로 사용하였다. 또한 짝비교 t−검정을 통해 각각의 두 방법들 사이의 분류성능을 비교하였다.
즉, 본 연구에서와 같이 전체자료를 훈련자료와 검증자료로 무작위로 나눈 후, 훈련자료에 대하여 q = 1부터 시작하여 q = 2, 3등으로 한 단계씩 증가하여 MCFA를 적용하여 모수들을 추정한 다음 그것들을 이용하여 검증자료에 대한 각각의 q에 대응하는 요인점수들을 추정한다. 검증자료에 대하여 각각의 q에 대응하는 추정된 요인점수들을 GAM에 투입하여 분류한 후 정분류율을 계산하여 가장 높은 정분류율을 도출한 q값을 선택한다.
로지스틱회귀분석의 변수선택 방법 중 단계적 선택법(stepwise)을 이용하여 모형을 선택한 결과 연속형 설명변수 중 X4, X5, X6, 범주형 설명변수 중 X8, X9, X11, X12, X14가 모형에 유의하였다. 따라서 로지스틱판별분석의 경우 로지스틱회귀분석을 통해 모형에 유의했던 연속형 설명변수 3개와 범주형 설명변수 5개를 분석에 사용하였다. GAM은 로지스틱판별분석의 설명변수 중 비선형관계의 설명변수가 존재할 경우 매끄러운 함수로 관계식을 표현하고 적절한 평활함수추정방법을 이용하여 비선형 관계식을 추정함으로써 로지스틱판별모형에서는 고려할 수 없는 비선형 설명변수의 특성까지 고려하는 통계적 분류기법이다.
로지스틱회귀분석의 변수선택 방법 중 단계적 선택법을 이용하여 모형을 선택한 결과 연속형 설명변수 중 X1 ∼ X3의 변수가 모형에 유의하였으며 범주형 설명변수 중 X8 ∼ X11, X13, X14, X16, X20의 변수가 로지스틱판별분석 모형에 유의한 변수임을 알 수 있었다. 따라서 로지스틱판별분석의 경우 연속형 설명변수 3개와 범주형 설명변수 8개를 사용하여 분석에 사용하였다. 또한 그림 3.
따라서 본 연구에서는 모형에 적합한 변수를 선택하는 방법 대신 다수의 연속형 설명변수의 정보를 소수의 특징변수로 축약할 수 있는 방법으로서 Baek 등(2010)이 제안한 공통요인분석자혼합모형(Mixtures of Common Factor Analyzers; MCFA)을 이용하여 고차원의 연속형 설명변수 대신에 새로운 저차원의 요인점수를 GAM의 새로운 특징변수로 사용함으로써 각 판별모형에 따른 분류 성능을 비교하였다.
이때 GAM은 비선형 설명변수도 고려할 수 있는 모형으로 로지스틱판별분석이 갖는 문제점을 해결할 수 있는 방법이 될 수 있지만 로지스틱판별모형과 GAM은 설명변수의 수가 많을 경우 변수 선택의 문제점을 갖게 된다. 따라서 본 연구에서는 이러한 문제점을 해결함과 동시에 연속형 설명변수의 차원 축소도 가능한 공통요인분석자혼합모형 (MCFA)을 이용하여 구한 새로운 저차원의 요인점수를 연속형 설명변수 대신 GAM에 적용하는 새로운 신용평가 모형을 제안하고, 실제 자료를 이용하여 기존의 방법들과 분류 성능을 비교하였다.
여기서 3개의 연속형 설명변수 X4, X5, X6모두 잔차의 누적합이 0에서 크게 벗어나고 있으므로 비선형 변수로 고려할 수 있다. 따라서 원자료를 이용한 GAM의 경우 로지스틱판별분석에서 모형에 유의하였던 연속형 설명변수 3개는 평활함수를 이용하여 비모수적 방법을 사용하였으며, 범주형 설명변수 5개는 모수적 방법을 이용하였다.
본 절에서는 실제 금융자료에 대하여 일반적인 로지스틱판별분석과 GAM, 그리고 MCFA를 통해 구한 저차원의 요인점수를 이용한 GAM의 신용분류에 따른 정분류율의 차이를 비교하여 성능의 차이를 검증한다. 실험에서 사용된 자료는 Baesens 등(2003)에서 사용된 호주 금융회사와 독일 금융회사의 실제 신용평가 자료이다.
하지만 2차원 요인점수를 이용한 GAM의 경우 다른 세 가지 분류모형보다 매우 우수한 분류 성능을 나타낸다. 이 때, 2차원 요인점수 GAM 모형은 두 요인 점수추정치들 사이에 상관관계가 존재하였으므로 2차원 평활스플라인을 적용하여 비선형 회귀함수를 추정하였다.
본 연구의 목적은 원자료를 이용한 로지스틱판별모형과 일반화가법모형(GAM), 그리고 본 연구에서 제안한 MCFA를 통해 얻은 q-차원의 요인점수를 이용한 일반화가법모형(GAM)의 분류 성능을 비교하여 제안된 방법의 우수성을 밝히는데 있다. 이를 위하여 호주 금융자료의 경우 총 690개의 자료 중에서 무작위로 각각 490개와 200개를 훈련자료와 검증자료로서, 독일 금융자료의 경우 총 1,000개의 자료 중 무작위로 각각 700개와 300개를 훈련자료와 검증자료로 나누었으며, 이렇게 나뉜 훈련 자료와 검증 자료에 대하여 로지스틱판별분석, GAM, 그리고 MCFA를 이용한 GAM 모형에 적용하여 정분류율을 구하였다.
MCFA 모형의 요인의 차원 q는 해당 자료에 대하여 가장 높은 분류성능을 도출하는 값을 선택하여 사용한다. 즉, 본 연구에서와 같이 전체자료를 훈련자료와 검증자료로 무작위로 나눈 후, 훈련자료에 대하여 q = 1부터 시작하여 q = 2, 3등으로 한 단계씩 증가하여 MCFA를 적용하여 모수들을 추정한 다음 그것들을 이용하여 검증자료에 대한 각각의 q에 대응하는 요인점수들을 추정한다. 검증자료에 대하여 각각의 q에 대응하는 추정된 요인점수들을 GAM에 투입하여 분류한 후 정분류율을 계산하여 가장 높은 정분류율을 도출한 q값을 선택한다.
2는 GENMOD 절차에 의한 결과로서 3개의 연속형 설명변수 중 X2는 비선형 변수로 판단되며 적절한 평활함수가 필요함을 알 수 있다. 즉, 원자료를 이용한 GAM의 경우 로지스틱판별분석에서 모형에 유의하였던 연속형 설명변수 3개 중에서 X2에 대해서만 평활함수를 이용한 비모수적 추정방법을 사용하여 해당 회귀함수를 추정하였으며, 범주형 설명변수 8개는 모수적 방법을 이용하였다.
지금부터는 금융 원자료를 이용한 로지스틱판별분석, GAM, 그리고 MCFA를 이용하여 구한 요인점수 (1차원 또는 2차원)를 이용한 GAM 등 3가지 판별모형에 대한 분류성능 결과를 알아본다.
실험에서 사용된 자료는 Baesens 등(2003)에서 사용된 호주 금융회사와 독일 금융회사의 실제 신용평가 자료이다. 특히 호주 금융자료의 경우 총 37개의 결측값이 존재하고 있으며 연속형 설명변수의 결측값은 각 변수의 평균, 범주형 설명변수의 결측값은 각 변수의 최빈값으로 대체하여 사용하였다. 또한 호주 금융자료의 경우 원자료 자체가 정보보호를 위하여 변수에 대한 이름 및 속성 등이 포함되어 있지 않지만, 독일 금융자료의 경우 변수에 대한 정보가 공개되어 있다.

대상 데이터

본 절에서는 실제 금융자료에 대하여 일반적인 로지스틱판별분석과 GAM, 그리고 MCFA를 통해 구한 저차원의 요인점수를 이용한 GAM의 신용분류에 따른 정분류율의 차이를 비교하여 성능의 차이를 검증한다. 실험에서 사용된 자료는 Baesens 등(2003)에서 사용된 호주 금융회사와 독일 금융회사의 실제 신용평가 자료이다. 특히 호주 금융자료의 경우 총 37개의 결측값이 존재하고 있으며 연속형 설명변수의 결측값은 각 변수의 평균, 범주형 설명변수의 결측값은 각 변수의 최빈값으로 대체하여 사용하였다.

데이터처리

또한 짝비교 t−검정을 통해 각각의 두 방법들 사이의 분류성능을 비교하였다.

성능/효과

실제 자료인 호주와 독일 금융자료를 이용하여 연속형 설명변수 대신 MCFA를 적용하여 연속형 설명변수를 1차원 요인점수 또는 2차원 요인점수로 변환하여 GAM을 시행하였을 때 개인고객의 신용상태에 대한 정분류율이 원래의 변수 자료를 사용한 로지스틱판별분석과 GAM 보다 모두 우수한 분류 성능을 보였다. 따라서 MCFA를 이용한 실험방법의 분류율이 그렇지 않은 실험방법보다 우수한 분류 성능을 갖는 신용평가 모형임을 알 수 있다.
3은 독일 금융자료에 대한 검증자료의 신용분류 (우량/불량)에 대한 정분류율의 결과이다. 로지스틱판별분석과 GAM을 비교한 경우 GAM의 분류율이 로지스틱판별분석에 비하여 모두 더 높은 분류율을 보인다. 하지만 1차원 요인점수를 이용한 GAM의 경우 호주 금융자료와는 다르게 원자료를 이용한 GAM보다 오히려 낮은 분류율을 보이고 있다.
로지스틱판별분석과 비교할 때 GAM의 특징은 로그오즈 모형에서 선형관계인 설명변수는 로지스틱판별분석과 같이 선형함수 그대로 사용하지만, 비선형관계인 설명변수에 대해서는 평활함수추정방법(smoothing function estimation)을 이용하여 비선형관계식을 추정할 수 있게 함으로써 종속변수의 값을 예측하는데 있어서 효율적인 분류 방법이 된다는 점이다. 또한, 만약에 두 개의 설명변수 x_i와 x_j가 강한 상관관계를 갖고 있다면 로그오즈 모형에 S(x_i, x_j)항을 추가할 수 있으며 이를 2차원 평활함수추정방법을 이용하여 추정할 수 있다.
로지스틱회귀분석의 변수선택 방법 중 단계적 선택법(stepwise)을 이용하여 모형을 선택한 결과 연속형 설명변수 중 X4, X5, X6, 범주형 설명변수 중 X8, X9, X11, X12, X14가 모형에 유의하였다. 따라서 로지스틱판별분석의 경우 로지스틱회귀분석을 통해 모형에 유의했던 연속형 설명변수 3개와 범주형 설명변수 5개를 분석에 사용하였다.
로지스틱회귀분석의 변수선택 방법 중 단계적 선택법을 이용하여 모형을 선택한 결과 연속형 설명변수 중 X1 ∼ X3의 변수가 모형에 유의하였으며 범주형 설명변수 중 X8 ∼ X11, X13, X14, X16, X20의 변수가 로지스틱판별분석 모형에 유의한 변수임을 알 수 있었다.
실제 자료인 호주와 독일 금융자료를 이용하여 연속형 설명변수 대신 MCFA를 적용하여 연속형 설명변수를 1차원 요인점수 또는 2차원 요인점수로 변환하여 GAM을 시행하였을 때 개인고객의 신용상태에 대한 정분류율이 원래의 변수 자료를 사용한 로지스틱판별분석과 GAM 보다 모두 우수한 분류 성능을 보였다. 따라서 MCFA를 이용한 실험방법의 분류율이 그렇지 않은 실험방법보다 우수한 분류 성능을 갖는 신용평가 모형임을 알 수 있다.
호주 금융자료는 총 690명의 개인에 대한 6개의 연속형 설명변수(X1, X2, · · · , X6)와 2개에서 14개까지의 범주를 갖는 8개의 범주형 설명변수(X7, X8, · · · , X14)로 이루어져 있다. 연속형 설명변수들에 대하여 커널밀도함수를 추정해보면 모든 연속형 설명변수들의 분포들이 오른쪽으로 기울어져 있다는 특징을 알 수 있었다. 또한 표 3.
하지만 1차원 요인점수와 2차원 요인점수를 이용한 GAM의 경우 평균 정분류율의 차이는 없다. 즉 MCFA를 이용하여 새로운 저차원의 요인점수를 이용할 경우의 분류성능이 원자료를 이용한 모형보다 더 우수한 분류성능을 갖는다고 판단된다.
2는 호주금융자료에 대한 각 방법별 정분류율의 분류성능에 대한 짝 비교 t−검정 결과이다. 표 4.2의 결과를 보면 MCFA를 이용하여 구한 요인점수를 이용한 GAM의 경우 원자료를 이용한 로지스틱판별모형과 GAM보다 우수한 분류성능을 보이고 있음을 알 수 있다. 하지만 1차원 요인점수와 2차원 요인점수를 이용한 GAM의 경우 평균 정분류율의 차이는 없다.

후속연구

마지막으로 MCFA는 고차원 소표본 자료의 군집 및 판별분석에 더욱 유용한 방법으로 제시된 것이지만, 그 자체가 모형기반 (model-based)인 방법으로서 중간차원 혹은 대단위 자료에도 언제나 적용이 가능하다. 본 연구에서 분석한 신용평가 자료는 중간차원의 연속형 설명변수만을 가지고 있었지만 향후 연구에서는 고차원의 신용평가 자료를 적용하여 MCFA의 유용성을 검증하고자 한다.

질의응답

핵심어	질문	논문에서 추출한 답변
	일반화가법모형과 로지스틱판별분석은 어떠한 경우 문제점이 생기는가?	일반화가법모형은 로지스틱판별모형의 장점과 함께 종속변수와 설명변수 사이의 비선형적인 관계도 설명할 수 있다. 그러나 연속형 설명변수의 수가 대단히 많은 경우이 두 방법은 모형에 유의한 변수를 선택해야하는 문제점이 있다. 따라서 본 연구에서는 다수의 연속형 설명변수들을 공통요인분석자혼합모형에 의한 차원축소를 통해 변환된 소수의 요인점수들을 일반화가법모형의 새로운 연속형 설명변수로 사용하여 신용분류를 하는 방법을 제시한다.
	로지스틱판별분석은 무엇인가?	로지스틱판별분석은 금융 분야에서 유용하게 사용되고 있는 통계적 기법으로 신용평가 시 해석이 쉽고 우수한 분별력으로 많이 활용되고 있지만 종속변수에 대한 설명변수들의 비선형적인 관계를 설명하는 부분에는 한계점이 있다. 일반화가법모형은 로지스틱판별모형의 장점과 함께 종속변수와 설명변수 사이의 비선형적인 관계도 설명할 수 있다.
	일반화가법모형은 로지스틱판별모형의 장점과 함께 무엇에 대해 설명할 수 있는가?	로지스틱판별분석은 금융 분야에서 유용하게 사용되고 있는 통계적 기법으로 신용평가 시 해석이 쉽고 우수한 분별력으로 많이 활용되고 있지만 종속변수에 대한 설명변수들의 비선형적인 관계를 설명하는 부분에는 한계점이 있다. 일반화가법모형은 로지스틱판별모형의 장점과 함께 종속변수와 설명변수 사이의 비선형적인 관계도 설명할 수 있다. 그러나 연속형 설명변수의 수가 대단히 많은 경우이 두 방법은 모형에 유의한 변수를 선택해야하는 문제점이 있다.

참고문헌 (11)

기승도, 강기훈 (2010). 일반화가법모형에서 축소방법의 적용연구. , 23, 207-218.

원문보기 상세보기
구자용, 최대우, 최민성 (2005). 스플라인을 이용한 신용 평점화. , 18, 543-553.

원문보기 상세보기
한성실, 정기문 (2004). 로지스틱 회귀모형을 이용한 채택확률모형. , 6, 1153-1161.
홍종선, 정민섭 (2011). 신용평가에서 로지스틱회귀를 이용한 미결정자 추론. , 22, 149-157.

원문보기 상세보기
Baek, J., McLachlan, G. J. and Flack, L. (2010). Mixtures of factor analyzers with common factor loadings: applications to the clustering and visualisation of high-dimensional data. IEEE Transactions on Pattern Analysis and Machine Intelligence, 32, 1298-1309.

상세보기
Baesens, B., Van Gestel, T., Viaene, S., Stepanova, M., Suykens, J. and Vanthienen, J. (2003). Benchmarking state-of-the-art classification algorithms for credit scoring. Journal of the Operational Research Society, 54, 627-635.

상세보기
Berkson, J. (1951). Why I prefer logits to probits. Biometrics, 7, 327-339.

상세보기
Brooks, C. A., Clark, R. R., Hadgu, A. and Jones, A. M. (1988). The robustness of the logistic risk functions. Communication in Statistics, Simulation, 17, 1-24.
Ghahramani, Z. and Hinton, G. E. (1996). The EM algorithm for mixture of factor analyzers, Technical Report CRG-TR-96-1, 8, University of Toronto, Canada.
Lin, D. Y., Wei, L. J. and Ying, Z. (2002). Model-checking techniques based on cumulative residuals. Biometrics, 58, 1-12.

상세보기
Press, S. R. and Wilson, S. (1978). Choosing between logistic regression and discriminant analysis. Journal of the American Statistical Association, 73, 669-705.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증