[논문]의사 샘플 신경망을 이용한 토석류 퇴적 모델의 파라미터 추정

허경용; 이창우; 박충식

doi:10.9708/jksci/2012.17.11.011

의사 샘플 신경망을 이용한 토석류 퇴적 모델의 파라미터 추정
Parameter Estimation in Debris Flow Deposition Model Using Pseudo Sample Neural Network 원문보기

韓國컴퓨터情報學會論文誌 = Journal of the Korea Society of Computer and Information, v.17 no.11, 2012년, pp.11 - 18

허경용 (동의대학교 전자공학과) , 이창우 (국립산림과학원 산림방재연구과) , 박충식 (영동대학교 스마트IT학부)

초록
AI-Helper

토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 random walk model(RWM)을 사용하여 구성한 모델로 피해지 예측에서 그 효용성이 입증되었지만 몇 개의 자유 파라미터가 실험적으로 결정되어야 하는 문제점이 있다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류 데이터는 학습 데이터의 크기가 작아 기존 학습 기법을 적용하는데 어려움이 있다. 이 논문에서는 학습 데이터 크기 문제를 완화할 수 있는 신경망의 변형인 의사 샘플 신경망을 제안하였다. 의사 샘플 신경망은기존 샘플로부터 의사 샘플을생성하고 이를 학습에 사용한다. 의사 샘플은 해공간을 평탄화시키고 국부 최적해에 빠질 확률을 줄여줌으로써 기존 신경망에 비해 안정적인 파라미터 추정이 가능해진다. 이러한 사실은 실험 결과 통해 확인할 수 있다.

Abstract ▼ AI-Helper

Debris flow deposition model is a model to predict affected areas by debris flow and random walk model (RWM) was used to build the model. Although the model was proved to be effective in the prediction of affected areas, the model has several free parameters decided experimentally. There are several well-known methods to estimate parameters, however, they cannot be applied directly to the debris flow problem due to the small size of training data. In this paper, a modified neural network, called pseudo sample neural network (PSNN), was proposed to overcome the sample size problem. In the training phase, PSNN uses pseudo samples, which are generated using the existing samples. The pseudo samples smooth the solution space and reduce the probability of falling into a local optimum. As a result, PSNN can estimate parameter more robustly than traditional neural networks do. All of these can be proved through the experiments using artificial and real data sets.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

이들 파라미터는 직접적으로 관찰할 수 없는 값들로 지역에 따라 다른 값을 가지며 이전 연구에서는 경험적으로 그 값이 결정되었다. 따라서 보다 광범위한 지역에 적용하기 위해서는 토석류 모델에 필요한 세 가지 파라미터를 자동으로 결정하는 방법이 필요하며 이 논문은관측 가능한 값들로부터 RWM의 파라미터 값들을 자동으로 예측할 수 있도록 해주는 파라미터 추정 방법을 제시함에 그 목적이 있다.
하지만 모든 문제에서 충분한 양의 샘플을 획득할 수는 없으며 토석류 데이터 역시 마찬가지이다. 따라서 이 논문에서는 데이터의 부족을 해결하기 위해 의사 샘플(pseudo sample)을 이용하여 신경망을 학습시키는 방법을 제안한다. 제안하는 방법은 기존 샘플을 이용하여 의사 샘플을 생성하고 이를 신경망 학습에 사용함으로써 학습된 모델의 안정성을 높일 수 있으며 따라서 추정된 파라미터의 신뢰성을 높일 수 있다.
토석류 연구에서 관측 가능한 값들은 표고별 유역면적곡선과 유역면적별 계류차수의 두 가지이며, 직접적인 관측이 불가능하지만 RWM에서 필요로 하는 파라미터 값들은 1회 토사량, 관성 가중치, 정지조건의 세 가지이다. 이 논문에서는 이들 사이의 관계를 자동으로 학습하여 관측 가능한 값들로부터 RWM의 파라미터들을 자동으로 추정하는데 목적이 있다. 이러한 관계 학습을 위해 사용할 수 있는 방법은 많지만 토석류연구에서는 몇 가지 제한 사항이 있다.
이처럼 학습 샘플이 적은 경우 학습된 시스템의 신뢰성이 떨어지는 문제를 SSS (Small Sample Size) 문제라고 한다[3]. 이 논문에서는 인공 신경망을 사용함에 있어 SSS 문제를 완화하기 위해 의사 샘플을 생성하고 이를 학습에 사용하는 의사 샘플 신경망 (PSNN, Pseudo Sample Neural Network)을 제안한다. 제안한 PSNN은 의사샘플을 통해 국부 최적해에 수렴하는 현상을 줄일 수 있으며 따라서 보다 안정적인 파라미터 추정이 가능해진다.
이 논문에서는 토석류 퇴적 모델에 사용하는 Random Walk Model(RWM)의 파라미터 값들을 주어진 데이터로부터 자동으로 결정할 수 있는 방법을 제안하였다. 특히 토석류 데이터의 획득이 어려운 점을 고려하여 학습 샘플의 부족을 완화하는 방법으로 의사 샘플을 활용하여 신경망을 학습시키는 의사샘플 신경망(pseudo sample neural network)을 제안하였다.

제안 방법

토석류로인한 피해는 토석류의 흐름을 예측하고 이에 따라 적절한 위치에 구조물을 설치함으로써 줄일 수 있으며, random walk model (RWM)은 토석류의 퇴적 행태를 나타내기에 적합한 모델이다[1]. RWM은 토석류가 하류로 내려올 때 경사가 급한곳으로 진행한다는 가정 하에 이동방향 및 퇴적 위치를 결정하며 이를 위해 1회에 흘려 내리는 토사량 (1회 유송량), 토석류 이동시 유체의 직진성 (관성가중치), 토석류가 퇴적하는 경사도 (정지조건) 등 3개의 매개변수를 통해 토석류의 이동 및피해범위를 예측한다. RWM을 2006년 토석류가 집중적으로발생한 인제군을 대상으로 분석한 결과를 인제군의 다른 토석류 발생지 4개소에 적용해 본 결과 퇴적면적에 있어 56%의 일치율을 보였으며 이를 이용하여 토석류에 의한 위험 지도를 시범 제작하였다[2].
RWM은 토석류가 하류로 내려올 때 경사가 급한곳으로 진행한다는 가정 하에 이동방향 및 퇴적 위치를 결정하며 이를 위해 1회에 흘려 내리는 토사량 (1회 유송량), 토석류 이동시 유체의 직진성 (관성가중치), 토석류가 퇴적하는 경사도 (정지조건) 등 3개의 매개변수를 통해 토석류의 이동 및피해범위를 예측한다. RWM을 2006년 토석류가 집중적으로발생한 인제군을 대상으로 분석한 결과를 인제군의 다른 토석류 발생지 4개소에 적용해 본 결과 퇴적면적에 있어 56%의 일치율을 보였으며 이를 이용하여 토석류에 의한 위험 지도를 시범 제작하였다[2].
데이터는 먼저 정규화를 시행하였다. 신경망에서는 일반적으로 출력이 [-1 1]로 제한되므로 입력과 출력의 모든 차원을 독립적으로 식 (3)을 사용하여 정규화하였다.
오류의 합이 1보다 큰 경우 수렴에 실패한 것으로 간주한것은 반복적인 실험을 통해 오류의 분포를 가우시안 함수로 추정하고 2σ이하의 오류를 나타내는 경우만을 테스트에 사용하기 위함이다. 복잡한 구조의 신경망의 경우 작은 오류값을 보일 수는 있지만 구조가 복잡해질수록 많은 학습 데이터를 필요로 하고 일반화 특성이 나빠지므로 그림 5에서 오류가 국부적으로 최소가 되는 가장 간단한 구조, 한 개의 은닉층과 5개의 은닉 노드를 가지는 구조를 선택하였다. 선택된 구조는 신경망과 의사 샘플 신경망의 기본 구조로 사용하였다.
1. 인공 데이터를 이용한 실험

실험에서는 먼저 앞 장에서 사용하였던 2차 함수 학습의 예를 확장하여 신경망과 의사 샘플 신경망의 성능을 비교하였다. 앞 장에서는 2차 함수의 샘플을 얻기 위해 y값에만 가우시안 잡음을 첨가한데 비해 이 장에서는 x값에도 가우시안잡음을 첨가하였다.
이 때 Σ는 샘플 X의 분산-공분산 행렬을 나타내고, NPS는 각 분포에서 생성하는 샘플의 개수로 이 논문에서는 실험적으로 결정하였다.
제안한 의사 샘플 신경망은 토석류 퇴적 모델을 위한 파라미터 추정에 사용하였다. 실험에 사용한 데이터는 표 1과 같다.
이 논문에서는 토석류 퇴적 모델에 사용하는 Random Walk Model(RWM)의 파라미터 값들을 주어진 데이터로부터 자동으로 결정할 수 있는 방법을 제안하였다. 특히 토석류 데이터의 획득이 어려운 점을 고려하여 학습 샘플의 부족을 완화하는 방법으로 의사 샘플을 활용하여 신경망을 학습시키는 의사샘플 신경망(pseudo sample neural network)을 제안하였다. 의사 샘플은 기존 샘플과 가우시안 분포를 이용하여 생성된다.

데이터처리

그림 3에서 보아 알 수 있듯이 의사 샘플을 이용하여 학습한 신경망의 경우 보다 실제 함수에 근접한 결과를 보여주고 있다. 이 때 두 신경망의 비교는 실제 함수의 값(y_i)과 신경망에서 출력된 값(o_i)의 차이를 제곱하여 합한 오류(sum square error)로 비교하였다.

이론/모형

따라서 PSNN은 학습 과정에서 의사 샘플 구성을 위한 전처리 단계를 도입함으로써 구성할 수 있다. PSNN의 학습 방법은 토석류 데이터의 크기를 고려하여 일괄 학습(batch learning)을 사용하였다. PSNN에서 의사 샘플은 기존 샘플을 평균으로 가지는 가우스 분포에서 생성하며 이 때 가우스 분포의 분산은 샘플의분산을 샘플의 수로 나눈 값을 사용하였다.
PSNN에서 의사 샘플은 기존 샘플을 평균으로 가지는 가우스 분포에서 생성하며 이 때 가우스 분포의 분산은 샘플의분산을 샘플의 수로 나눈 값을 사용하였다. 가우스 분포 이외의 분포를 활용할 수도 있지만 샘플의 수가 적은 경우에는 분포를 추정하기가 어려우며, 모든 분포는 가우스 분포의 혼합으로 설명할 수 있고 샘플의 수가 많은 경우 모든 분포는 가우스 분포로 수렴한다는 중심 극한 정리(central limit theorem)[10]에 따라 이 연구에서는 가우스 분포를 사용하였다. N개의 샘플 X={x₁,x_2,.
학습 결과는 일반화 오류(generalization error)를 측정하여 평가하는 것이 일반적이며, 이 때 주어진 샘플을 학습용과 테스트용으로 나누어 진행하는 cross-validation을 따른다. 데이터의 개수가 적은 경우에는 테스트 데이터를 하나의 데이터 포인트로 구성하는 leave-one-out 방법을 사용한다. 이보다 데이터가 더 적은경우에는 동일한 샘플 집합을 학습과 테스트에 동일하게 사용하는 test-on-train 방법을 사용할 수 있다.
Test-on-train은동일한 샘플을 학습과 테스트에 사용하기 때문에 일반화 오류를 측정할 수 없어 객관적인 평가 방법으로는 적합하지 않지만, 너무 적은 데이터로 학습을 진행하는 경우 학습된 모델 자체의 신뢰성이 떨어지므로 다른 방법을 사용할 수 없다. 이 논문에서도 test-on-train 방법을 사용하였다.
데이터의 개수가 적은 경우에는 테스트 데이터를 하나의 데이터 포인트로 구성하는 leave-one-out 방법을 사용한다. 이보다 데이터가 더 적은경우에는 동일한 샘플 집합을 학습과 테스트에 동일하게 사용하는 test-on-train 방법을 사용할 수 있다. Test-on-train은동일한 샘플을 학습과 테스트에 사용하기 때문에 일반화 오류를 측정할 수 없어 객관적인 평가 방법으로는 적합하지 않지만, 너무 적은 데이터로 학습을 진행하는 경우 학습된 모델 자체의 신뢰성이 떨어지므로 다른 방법을 사용할 수 없다.

성능/효과

앞 장에서는 2차 함수의 샘플을 얻기 위해 y값에만 가우시안 잡음을 첨가한데 비해 이 장에서는 x값에도 가우시안잡음을 첨가하였다. 또한 은닉층의 개수와 각 은닉층의 노드개수를 변화시킨 서로 다른 구조의 신경망에 대해 실험하여 구조에 관계없이 의사 샘플 신경망이 신경망에 비해 안정적임을 보인다.
이 경우 일반화 오류(generalization error)는 크게 나타나는 것이 일반적이다. 이 논문에서는 충분한 샘플이 확보되지 않아 일반화 오류는 비교할 수 없었다. 이에 비해 의사 샘플 신경망은 대부분이 작은 오류 값을 나타내고 있다.
제안하는 방법은 기존 샘플을 이용하여 의사 샘플을 생성하고 이를 신경망 학습에 사용함으로써 학습된 모델의 안정성을 높일 수 있으며 따라서 추정된 파라미터의 신뢰성을 높일 수 있다.

후속연구

우리나라의 토석류 피해는 대부분 집중 호우에 의해 발생되고 그 위치가 국지적으로 밀집된 양상을 보인다. 따라서 토석류 피해 위험지를 예측하고 이를 통해 사방구조물의 적지선정 및 경계 피난 체제 구축을 통해 피해의 규모를 줄일 수 있을 것으로 기대할 수 있다. 위험지 예측 및 구조물 위치 선정을 위해 이전 연구에서는 random walk model(RWM)[1]을 이용하여 토석류 퇴적 모델을 구축하고 이를 통해 성공적인 결과를 얻을 수 있었다[2].
이 논문에서는 인공 신경망을 사용함에 있어 SSS 문제를 완화하기 위해 의사 샘플을 생성하고 이를 학습에 사용하는 의사 샘플 신경망 (PSNN, Pseudo Sample Neural Network)을 제안한다. 제안한 PSNN은 의사샘플을 통해 국부 최적해에 수렴하는 현상을 줄일 수 있으며 따라서 보다 안정적인 파라미터 추정이 가능해진다. 이러한 사실들은 실험 결과를 통해 확인할 수 있다.
현재 추가적인 데이터 획득이 진행중이며 진행 과정에서 얻어진 데이터를 이용한 실험에서도 이 논문에서와 유사한 결과를 얻을 수 있었다. 향후 추가된 데이터를 이용하며 엄밀한 검증을 진행할 예정에 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	토석류 퇴적 모델의 장점은?	토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 random walk model(RWM)을 사용하여 구성한 모델로 피해지 예측에서 그 효용성이 입증되었지만 몇 개의 자유 파라미터가 실험적으로 결정되어야 하는 문제점이 있다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류 데이터는 학습 데이터의 크기가 작아 기존 학습 기법을 적용하는데 어려움이 있다.
	토석류 퇴적 모델의 문제점은?	토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 random walk model(RWM)을 사용하여 구성한 모델로 피해지 예측에서 그 효용성이 입증되었지만 몇 개의 자유 파라미터가 실험적으로 결정되어야 하는 문제점이 있다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류 데이터는 학습 데이터의 크기가 작아 기존 학습 기법을 적용하는데 어려움이 있다.

참고문헌 (10)

L. Grady, "Random Walks for Image Segmentation," IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 28, No. 11, pp. 1768-1783, Nov. 2006.

상세보기
Chang-Woo Lee, Choongshik Woo, and Ho-Joong Youn, "Analysis of Debris Flow Hazard Zone by the Optimal Parameters Extraction of Random Walk Model ？ Case on Debris Flow Area of Bonghwa County in Gyeongbuk Province," Journal of Korean Forest Society Vol. 100, No. 4, pp. 664-671, Apr. 2011.
R.P.W. Duin, "Small sample size generalization," Proceedings of the 9th Scandinavian Conference on Image Analysis, pp. 957-964, Oct. 1995.
S. Haykin, "Neural Networks: A Comprehensive Foundation," 2nd ed. Prentice Hall, 1998.
C.M. Bishop, "Pattern Recognition and Machine Learning," 2nd ed. Springer, 2007
R. Polikar, L. Udpa, S.S. Udpa, and V. Honavar, "Learn++: An Incremental Learning Algorithm for Supervised Neural Networks" IEEE Transactions on Systems,Man, and Cybernetics - Pact C: Applications and Reviews, Vol. 31, No. 4, pp. 497-508, Aug. 2001.
D. Foley, "Considerations of sample and feature size," IEEE Transactions on Information Theory, Vol. 18, No. 5, pp. 618-628, Oct. 1972.

상세보기
S. Uchimura, Y. Hamamoto, and S. Tomita, "Effects of the sample size in artificial neural network classifier design," Proceedings of the IEEE International Conference on Neural Networks, pp. 2126-2129, Dec. 1995.
T.G. Niel, T.R. McVicar, and B. Datt, "On the relationship between training sample size and data dimensionality: Monte Carlo analysis of broadband multi-temporal classification," Remote Sensing of Environment, Vol. 98, No. 4, pp. 468-480, Oct. 2005.

상세보기
D. Richard, "Probability: Theory and Examples," 4th ed. Cambridge University Press, 2004.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증