[논문]작은 데이터에 대한 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 성능 평가

황규백; 장병탁

작은 데이터에 대한 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 성능 평가
Evaluation of Bayesian Model Averaging (BMA) of Bayesian Network Classifiers (BNCs) on Small Datasets 원문보기

황규백 (서울대학교 컴퓨터 공학부 바이오지능 연구실) , 장병탁 (서울대학교 컴퓨터 공학부 바이오지능 연구실)

작은 데이터에서 베이지안망 분류기(Bayesian network classifier, BNC)를 학습할 때, 과대적합(overfitting)으로 인한 일반화 성능의 저하가 초래된다 이런 경우, 베이지안 모델 평균화(Bayesian model averaging, BMA)는 모델 자체에 대한 불확실성을 분석 과정에서 고려함으로써, 성능 저하를 피할 수 있는 수단을 제공한다. 본 논문에서는 BNC의 BMA의 작은 데이터에 대한 성능을 평가 및 분석한다. 특히, 노드의 순서에 대한 평균화의 효과가 연구된다. 인공데이터에 대한 실험 결과, 노드의 순서가 BNC의 BMA의 분류 성능에 미치는 영향은 지대하며, 이는 데이터의 크기가 극히 작은 경우의 성능 저하에 직접적인 원인이 된다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 의 작은 데이터에 대한 성능을 평가 맟 분석하였다. 우선, BMA를 이용하는 경우 작은 데이터로도 뛰어난 분류 성능을 얻을 수 있었다.
본 논문에서는 작은 데이터에 대한 BNC의 BMA의 성능을 평가 및 분석한다. 특흥I, 이전에는 시도된 바가 없는 노드 순서에 대한 BMA롤 BNC에 적용한다.

제안 방법

실험에서는 BNC의 B어A를 ALARM 망μ]에서 생성된 데이터룔 통해 평가했다. ALARM 망은 37개의 이산 변수(노드)로 구성되어 있으며, 각 변수는 2 ~ 4개의 값을 가진다, 실험에서는 이진 변수인 Catecholamine 노 드를 클래스 변수로 상정하였다. 학습데이터의 크기로는 25, 50, 100, 500, 1,000이 이용되었으며, 데이터 생성과정에 기인하는 편차률 고려하여 각 경우에서 10번씩 데이터를 생성 및 실험하였다.
y축은 추춮돤 순서의 log 점수(log(W))롤 나타낸다. 각 학솝데이터의 크기에 대해서 10번씩 독립적인 데이터 생성을 통한 실험을 행하였다. 모든 경우에 약 10, 000번의 시행 후에는 점수상으로는 안정적인 모드에 접어듬욜 알 수 있다.
다른 크기의 학습데 이 터 ((a) 25, (b) 50, (c) 100, (d) 500, (e) 1000)에서 학습된 BNC의 BMA의 분류 성능(평균 및 표준편차). 성능은 최대 값을 1로 normalize 한 ROC curve의 넓이로 평가했다. *축은 평균화된 순서의 개수(식(11)의 7)를 나타낸다.
실험에서는 BNC의 B어A를 ALARM 망μ]에서 생성된 데이터룔 통해 평가했다. ALARM 망은 37개의 이산 변수(노드)로 구성되어 있으며, 각 변수는 2 ~ 4개의 값을 가진다, 실험에서는 이진 변수인 Catecholamine 노 드를 클래스 변수로 상정하였다.
특흥I, 이전에는 시도된 바가 없는 노드 순서에 대한 BMA롤 BNC에 적용한다. 인공데이터에 대한 실험을 통해, 다양한 데이터의 크기, BMA의 근사화의 정도(평균화에 이용되는 순서의 개수)가 분뮤 성능에 미치는 영향이 분석된다.

대상 데이터

본 논문에서는 1개의 이산 변수 서亀 X2, …, X)로 구성된 문제를 다룬다. 변수 집합 X는 하나의 클래스 변수 Xr파 n 0 I개의 속성 변수 (feature variable)로 구성된다.
학습데이터의 크기로는 25, 50, 100, 500, 1,000이 이용되었으며, 데이터 생성과정에 기인하는 편차률 고려하여 각 경우에서 10번씩 데이터를 생성 및 실험하였다. 분류성능의 평가를 위해서 3, 000개의 예제를 가지는 평가데이터를 따로 생성하였다. 분류 성능의 측정은 ROC(receiver operating characteristics) curve의 넓이를 이용 하였다.
ALARM 망은 37개의 이산 변수(노드)로 구성되어 있으며, 각 변수는 2 ~ 4개의 값을 가진다, 실험에서는 이진 변수인 Catecholamine 노 드를 클래스 변수로 상정하였다. 학습데이터의 크기로는 25, 50, 100, 500, 1,000이 이용되었으며, 데이터 생성과정에 기인하는 편차률 고려하여 각 경우에서 10번씩 데이터를 생성 및 실험하였다. 분류성능의 평가를 위해서 3, 000개의 예제를 가지는 평가데이터를 따로 생성하였다.

데이터처리

우리는 이러한 현상의 분석을 위해, 추출된 순서들과 원래 순서 사이 의 rank correlation coefficiente- 계산하였다. Rank corr리ation coefficient에서 -1.

이론/모형

노드의 개수가 "일 때, 가능한 순서는 "!개이므로, 이에 대해 평균화하는 것은 불 가능하다. [8]에서는 이를 근사화하기 위해 MCMC(Markov chain Monte Carlo) 기법을 이용하였다. 이 기법은 순서의 posterior probability P(<1£>) 에 기반한 순서를 생성하는 사슬올 이용하여 7개의 순서 {<1, <2, … 를 생성해 낸다.
본 논문에서는 이러한 마코프사슬을 만드는데 메트로폴리스 알고리즘 [13]을 이용했다. 이 알고리즘은 아래의 식에 따라서 현 순서(에서 다음 순서 <-(< 자신도 포함)으로의 이동을 결정한다.
분류성능의 평가를 위해서 3, 000개의 예제를 가지는 평가데이터를 따로 생성하였다. 분류 성능의 측정은 ROC(receiver operating characteristics) curve의 넓이를 이용 하였다. 마지막으로, 망 구조의 prior로는 복잡한 구조에 낮은 확뷸율 부여하는 아래의 일반적인 prior를 이용하였다.

성능/효과

우선, BMA를 이용하는 경우 작은 데이터로도 뛰어난 분류 성능을 얻을 수 있었다. 또한, 노드 순서가 학습 성능에 미치는 영향이 지대함을 알 수 있었으며, 이는 학습데이터가 극히 작은 경우의 성능 저하의 원인임을 알 수 있었다. 따라서, 앞으로의 연구 방향은 작은 데이터에서 정확한 노드 순서를 효율적으로 얻어낼 수 있는 방법에 초점을 맞추어야 할 것이다.
각 경우에 따른 분류성능은 그림 2와 같다. 우선 기본적으로 모든 경우에 분류 성능이 상당히 좋음을 알 수 있다(ROC 면적 평균 0.85 이상). 이는 학습데이터의 크기가 상당히 작았던 점을 고려하면 BMA의 성능이 매우 뛰어남을 알 수 있는 결과이다.
이는 또한 과대 적 합(overfitting) 문제의 해결과 일반화 성능의 향상에 도움올 준다. 하나의 문제점은 가능한 베이지안망의 개수가 노드의 수의 지수숭 이상으로, 알반적안 경우, BNC의 BMA는 불가능하다는 점이다. 하지만 최근, 베이지안망의 BMA에 대한 근사화 기법들이 연구되고 있다[8, 4).

후속연구

또한, 노드 순서가 학습 성능에 미치는 영향이 지대함을 알 수 있었으며, 이는 학습데이터가 극히 작은 경우의 성능 저하의 원인임을 알 수 있었다. 따라서, 앞으로의 연구 방향은 작은 데이터에서 정확한 노드 순서를 효율적으로 얻어낼 수 있는 방법에 초점을 맞추어야 할 것이다. 적 철한 순서를 얻을 수 있다면, 이러한 노드에 대한 효율적인 BMA를 통해 데이터의 크기가 작은 경우의 분류 문제를 잘 해결할 수 있다고 생각된다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

작은 데이터에 대한 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 성능 평가
Evaluation of Bayesian Model Averaging (BMA) of Bayesian Network Classifiers (BNCs) on Small Datasets 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

작은 데이터에 대한 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 성능 평가 Evaluation of Bayesian Model Averaging (BMA) of Bayesian Network Classifiers (BNCs) on Small Datasets 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

작은 데이터에 대한 베이지안망 분류기(BNC)의 베이지안 모델 평균화(BMA) 성능 평가
Evaluation of Bayesian Model Averaging (BMA) of Bayesian Network Classifiers (BNCs) on Small Datasets 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper