선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 연구에서는 데이터마이닝의 의사결정나무를 이용하여 실제 발생하지 않은 거래를 실물 없이 거래한 것처럼 조작하여 대금을 정산하는 행위인 허위거래를 탐지하는 모형을 제시하였다. 이를 위해 실제 농산물 도매시장의 데이터를 수집하여 데이터의 특성을 분석하였고, 모형을 통해 허위거래와 정상거래를 분류하는 패턴을 도출한 후, 시험용 데이터를 이용하여 모형을 평가하는 단계를 거쳐 결과의 적합성을 확인하였다(Lee, 2013).
- 산업재해 발생 시 심사 과정과 급여지급 후에 부정수급으로 판명된 산재 청구 건을 데이터마이닝을 통해서 분석하여 부정수급의 유형을 발견한 연구도 시도되었는데. 이 연구에서는 총 61,536명의 최초요양 신청을 한 산재근로자 자료를 대상으로 다양한 데이터마이닝 기법을 오분류 비용 측면에서 비교ㆍ평가하였다(Ham and Hong, 2008). 김태형과 김영화(Kim and Kim, 2013)는 여신기관을 대상으로 신용 및 카드 대출심사에 데이터마이닝을 적용하여 총 9가지의 분류모형을 구축하고 비교하였다.
- 반면에 ‘허위거래’의 경우는 이미 부정이 발생한 이후 정산자료가 입력되기 때문에 데이터 내에서는 부정거래를 탐지할 수가 없다. 본 연구에서는 데이터마이닝의 분류모형(classification)의 일환으로 거래부정 예측모형을 구축하고자 하였다. 이를 위해서는 데이터에 ‘부정’ 또는 ‘정상’ 거래를 구분하여 주는 목표변수가 반드시 필요하나 ‘정산가 임의정정’과 ‘기록상장’의 경우 목표변수의 수집이 가능하지 않았기 때문에 목표변수의 수집이 가능했던 ‘허위거래’만을 대상으로 실증분석을 수행하였다.
제안 방법
- 3V(Volume, Variety, Velocity)로 정의되는 빅데이터는 무엇보다도 멀티미디어 콘텐츠, SNS를 통한 메시지 등과 같이 비정형 데이터의 종류가 다양화되고 양이 기하급수적으로 증가하고 있는 사회적ㆍ기술적 환경에 부합하여 탄생한 개념이라 해도 과언이 아니다(McKinsey, 2011; Stubbs, 2014). 많은 기업이나 기관들에서는 불확실한 경영 및 경제환경 하에서 전략적 우위를 선점하기 위해 빅데이터를 수집하고 분석하여 효과적으로 가치를 창출하고자 한다. 그러나 빅데이터의 개념이 소개되기 이전에도 다양한 산업 군에서는 이미 엄청난 양의 정형 데이터가 쌓여 왔으나 이에 대한 충분한 분석을 통한 활용 조차도 초보단계 수준에 불과한 것이 현실이다.
- 본 연구에서는 데이터마이닝의 의사결정나무를 이용하여 실제 발생하지 않은 거래를 실물 없이 거래한 것처럼 조작하여 대금을 정산하는 행위인 허위거래를 탐지하는 모형을 제시하였다. 이를 위해 실제 농산물 도매시장의 데이터를 수집하여 데이터의 특성을 분석하였고, 모형을 통해 허위거래와 정상거래를 분류하는 패턴을 도출한 후, 시험용 데이터를 이용하여 모형을 평가하는 단계를 거쳐 결과의 적합성을 확인하였다(Lee, 2013).
- 이를 위해서는 데이터에 ‘부정’ 또는 ‘정상’ 거래를 구분하여 주는 목표변수가 반드시 필요하나 ‘정산가 임의정정’과 ‘기록상장’의 경우 목표변수의 수집이 가능하지 않았기 때문에 목표변수의 수집이 가능했던 ‘허위거래’만을 대상으로 실증분석을 수행하였다.
- 실증분석에서는 수입자유화로 인해 최근 거래 물량이 급증하고 있는 ‘수입과일’ 품목을 대상으로 ‘판매원표 허위작성’ 거래에 대한 분석을 수행하였다.
- 의사결정나무는 분류나 예측에 변별력이 낮은 변수들을 모형 구축 시 자체적으로 배제시키므로 기초 통계분석에서 살펴 본 20개의 모든 변수들을 입력변수로 정하였다. 그러나 거래 건수에 있어서는 허위거래의 수(171건)가 전체 데이터(25,171)에서 차지하는 비율이 0.
- 의사결정나무는 분류나 예측에 변별력이 낮은 변수들을 모형 구축 시 자체적으로 배제시키므로 기초 통계분석에서 살펴 본 20개의 모든 변수들을 입력변수로 정하였다. 그러나 거래 건수에 있어서는 허위거래의 수(171건)가 전체 데이터(25,171)에서 차지하는 비율이 0.68%에 불과해 허위거래의 패턴을 도출하기가 어렵다고 판단하여 허위거래의 수와 정상거래의 수의 비율을 각각 25%와 75%로 결정하였다. 따라서 최종 모델링에 사용한 데이터의 수는 허위거래 171건과 정상거래 500건으로 총 671건이며, 정상거래 25,000건 중 임의 표본 추출을 통해 500건의 정상거래를 선정하였다.
- 특히 [Table 3]의 변수 평균 값 비교표에서 정상거래 대비 허위거래 평균 값의 비율 각각 203%와 207%로 상대적으로 다른 변수들에 비해 비율이 크지 않았던 ‘경락가(Auction Price)’와 ‘(월 품목) 거래금액 평균(ATA)’이 ‘(월 품목 출하자) 거래금액 평균 (ATAP)’과 조합하여 허위거래를 구분하는 주요 규칙을 구성하였다.
- 또한 예측모형의 구축과 모형의 예측력 시험을 위해 전체 데이터를 [Table 5]와 같이 모형 추정용(training) 데이터와 모형 시험용(test) 데이터로 구성하였다. 이와 더불어 임의 표본 추출과정에서 발생하는 데이터의 치우침(bias)을 예방하고, 결과의 일반화를 도모하기 위해 위의 방법을 3회 반복하여 3개의 데이터 세트를 만들었다.
- 모형 구축 시 모형의 과잉맞춤(overfit)으로 인한 예측력 저하를 방지하기 위해 마디의 최저 순수도 및 최소 관측 개수를 이용한 가지치기(pruning) 방식을 택하였다. 이 값들은 모형 구축 전에 미리 정하는데, 마디의 최저 순수도는 마디를 구성하는 사례들에서 한 종류의 부류 값에 속한 사례의 비율이 사전에 정의한 최저 순수도보다 커지면 나무의 확장을 중지하는 방식이며, 최소 관측개수는 끝마디에 포함된 사례의 개수가 정의된 값 이하가 되면 확장을 중지하는 방식이다.
- 따라서 최저 순수도의 값을 낮게 정의할수록, 또한 최소 관측개수의 값을 크게 할수록 나무의 구조는 단순화된다(Chang, 2005). 본 연구에서는 위의 두 가지 중 먼저 만족되는 기준에 도달하면 나무의 확장을 멈추었으며, 최종적으로 [Table 6]과 같이 4개의 주요규칙(룰)을 도출하였다.
- 이를 위해 실제 농산물 도매시장의 데이터를 수집하여 표준화와 파생변수 생성 등의 데이터 정제 및 보강 작업을 선 수행하였으며, 기초 통계분석 à 예측모델링 à 모형평가의 단계를 거쳐 예측모형을 구축하고 결과의 적합성을 확인하였다.
- 일반적으로 분류작업에 사용하는 데이터마이닝 기법으로는 ‘의사결정나무’, ‘신경망’, ‘회귀분석’ 등이 있는데, 본 연구에서는 분류나 예측의 근거를 알수 있고, 어떠한 속성(변수)들이 각각의 부류 값에 결정적인 영향을 주는가를 쉽게 파악하고자 하는 현장의 요구를 수렴하여 ‘의사결정나무’를 데이터마이닝 기법으로 선정하였다.
대상 데이터
- 6개 농산물 도매시장법인으로부터 20xx년 1월부터 32개월 간의 청과거래 정산데이터 42,313,819건을 수집하여 데이터마트를 구축하였다. 이 데이터는 총 34개의 변수로 구성되어 있었으나 동일한 값이 기록되어 있는 변수, 빈 값을 다수 포함하고 있는 변수, 개인정보를 포함하고 있는 변수, 단순히 거래레코드를 식별하기 위한 변수 등을 제외한 후, [Table 1]과 같이 총 16개의 변수를 선정하였다.
- 또한 경매구분 값이 ‘전자경매’, ‘비상장거래’, ‘정가ㆍ수의매매’ 중에서 ‘정가ㆍ수의매매’이고, 품목코드가 수입과일1)*을 의미하는 품목들을 선정하였으며, 거래일은 최근 1년으로 한정하였다.
- 실증분석에 사용된 변수는 파생변수를 포함한 31개 중 20개와 목표변수 등으로 총 21개이다. [Table 2]에서 선정했던 최초 입력변수 중에서‘경매구분’, ‘품목코드’와 같이 분석의 범위를 정의하는데 사용했던 변수들과 ‘거래수량’, ‘거래단량’과 같이 파생변수를 생성하는데 사용했던 최초 입력변수 11개는 더 이상 자체적인 의미가 없다고 판단하여 제외하였다.
- 68%에 불과해 허위거래의 패턴을 도출하기가 어렵다고 판단하여 허위거래의 수와 정상거래의 수의 비율을 각각 25%와 75%로 결정하였다. 따라서 최종 모델링에 사용한 데이터의 수는 허위거래 171건과 정상거래 500건으로 총 671건이며, 정상거래 25,000건 중 임의 표본 추출을 통해 500건의 정상거래를 선정하였다. 또한 예측모형의 구축과 모형의 예측력 시험을 위해 전체 데이터를 [Table 5]와 같이 모형 추정용(training) 데이터와 모형 시험용(test) 데이터로 구성하였다.
- 따라서 최종 모델링에 사용한 데이터의 수는 허위거래 171건과 정상거래 500건으로 총 671건이며, 정상거래 25,000건 중 임의 표본 추출을 통해 500건의 정상거래를 선정하였다. 또한 예측모형의 구축과 모형의 예측력 시험을 위해 전체 데이터를 [Table 5]와 같이 모형 추정용(training) 데이터와 모형 시험용(test) 데이터로 구성하였다. 이와 더불어 임의 표본 추출과정에서 발생하는 데이터의 치우침(bias)을 예방하고, 결과의 일반화를 도모하기 위해 위의 방법을 3회 반복하여 3개의 데이터 세트를 만들었다.
- 6개 농산물 도매시장법인으로부터 20xx년 1월부터 32개월 간의 청과거래 정산데이터 42,313,819건을 수집하여 데이터마트를 구축하였다. 이 데이터는 총 34개의 변수로 구성되어 있었으나 동일한 값이 기록되어 있는 변수, 빈 값을 다수 포함하고 있는 변수, 개인정보를 포함하고 있는 변수, 단순히 거래레코드를 식별하기 위한 변수 등을 제외한 후, [Table 1]과 같이 총 16개의 변수를 선정하였다.
데이터처리
- 기초 통계분석은 데이터에 대한 이해도를 높이고, 허위 및 정상 거래에 영향을 미치는 변수들의 변별력을 파악하고자 하는 목적으로, 개별변수들의 평균 및 표준편차를 비교한 후 변수 간의 상관관계 분석하는 단계로 수행하였다. 이 단계를 통해 파악된 변수들은 향후 허위거래 예측 모델링에 주요한 역할을 할 것으로 예견하였으며, 실제로 예측모델의 신뢰도 및 설명력 제고에 도움이 되었다.
- 실증분석은 ‘기초통계분석’ à ‘예측모델링’ à ‘모형평가’ 순으로 진행하였으며, SPSS Modeler를 사용하였다.
성능/효과
- 본 연구를 위해 수집한 데이터도 6개의 도매시장법인이 독립적으로 시스템을 운영하여 기록함에 따라 데이터 레벨에 의한 의미충돌이 발견되었으며, 주로 유사한 객체가 다른 데이터 타입 혹은 데이터 포맷 형식으로 표현됨으로써 발생하는 ‘데이터 표현’ 충돌이 다수였다.
- 최종적으로 25,171건의 레코드가 추출되었으며, 171건을 ‘허위거래’로 나머지 25,000건을 ‘정상거래’로 분류하였다.
- 이 표에 따르면 ‘(월 품목) 거래물량 평균(ATV)’과 ‘(월 품목 출하자) 1단위 거래금액의 평균과의 편차비율(RTAP)’의 정상 거래 대비 허위거래 평균 값의 비율은 각각 99%, 101%로 차이가 거의 없는 것으로 나타났다.
- 그러나 정상거래 대비 허위거래 평균 값의 비율이 1,194%인 ‘(월 품목 출하자) 거래금액 평균(ATAP)’은 허위거래의 값들이 정상거래의 최상위 값보다 우측에 넓게 분포함으로써 정상거래에 비해 평균 값과 표준편차가 확연히 크다는 것을 보여준다.
- 즉, 상호의존도가 높은 변수들이 예측모형에 함께 포함될 경우 모형의 예측력 및 설명력을 저하시키는 문제가 발생하기 때문에 정상거래 대비 허위거래 평균 값 비율이 각각 1,180%, 1,115%로 큰 변별력을 지녔던 ‘A: 거래금액(Trade Amount)’, ‘I: (월 품목 중도매인) 거래금액 평균(ATAW)’ 등은 ‘F: (월 품목 출하자) 거래금액 평균(ATAP)’과 함께 최종모형에 포함되지 않을 확률이 높다고 볼 수 있다.
- 결과적으로 최종 모형에서는 기초 통계분석에서 예측된 바와 같이 ‘(월 품목 출하자) 거래금액 평균(ATAP)’이 허위거래와 정상거래를 구분하는 주요 변수로 선정되었다.
- 정상거래의 패턴에 있어서도 정상거래 대비 허위거래 평균 값의 비율 각각 99%와 96%로 변별력이 없다고 추정했던 ‘(월 품목) 거래물량 평균(ATV)’과 ‘(월 품목 중도매인) 1단위 거래금액 평균(AUTAW)’이 규칙에 포함되어 있음을 알 수 있다.
- 예를 들어, 데이터 세트 2의 경우 100건의 정상거래 중 99건을 정상거래로, 34건의 허위거래 중 27건을 허위거래로 정분류한 것으로 나타났다. 결과적으로 3개의 데이터 세트에 대한 모형의 정상거래 정분류율은 평균 99%, 허위거래의 정분류율은 평균 79%로 나타났다.
- 31%에 해당하는 총 119건의 허위 의심거래를 추출하였고 이것을 월별ㆍ품목별로 정리한 것이다. 월별로는 2월과 4월에 각각 34건과 30건으로 가장 많은 허위의심거래가 탐지되었으며, 품목별로는 오렌지 거래가 86건, 포도 거래가 20건으로 오렌지와 포도가 전체 의심거래의 89%를 차지했다. 이 같은 결과로 토대로 본 연구의 기여도는 모든 거래를 확인하는 것보다는 선택과 집중 차원에서 허위의심거래 군을 추출하고, 이 거래 군에 대해 심도있는 검증 및 확인 작업을 수행하는 것이 보다 효율적인 방법이라는 것을 실증분석을 통해 제시하였다는 데에 있다.
- 월별로는 2월과 4월에 각각 34건과 30건으로 가장 많은 허위의심거래가 탐지되었으며, 품목별로는 오렌지 거래가 86건, 포도 거래가 20건으로 오렌지와 포도가 전체 의심거래의 89%를 차지했다. 이 같은 결과로 토대로 본 연구의 기여도는 모든 거래를 확인하는 것보다는 선택과 집중 차원에서 허위의심거래 군을 추출하고, 이 거래 군에 대해 심도있는 검증 및 확인 작업을 수행하는 것이 보다 효율적인 방법이라는 것을 실증분석을 통해 제시하였다는 데에 있다. 향후 이러한 연구를 허위거래뿐만 아니라 낙찰부정, 경매조작 등과 같이 다양화되는 부정거래에 적용하게 되면 보다 지대한 효과를 거둘 수 있으리라 사료된다.
후속연구
- 이 같은 결과로 토대로 본 연구의 기여도는 모든 거래를 확인하는 것보다는 선택과 집중 차원에서 허위의심거래 군을 추출하고, 이 거래 군에 대해 심도있는 검증 및 확인 작업을 수행하는 것이 보다 효율적인 방법이라는 것을 실증분석을 통해 제시하였다는 데에 있다. 향후 이러한 연구를 허위거래뿐만 아니라 낙찰부정, 경매조작 등과 같이 다양화되는 부정거래에 적용하게 되면 보다 지대한 효과를 거둘 수 있으리라 사료된다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.