[논문]Unsupervised Learning-Based Pipe Leak Detection using Deep Auto-Encoder

Yeo, Doyeob; Bae, Ji-Hoon; Lee, Jae-Cheol

doi:10.9708/jksci.2019.24.09.021

[국내논문] Unsupervised Learning-Based Pipe Leak Detection using Deep Auto-Encoder 원문보기

韓國컴퓨터情報學會論文誌 = Journal of the Korea Society of Computer and Information, v.24 no.9, 2019년, pp.21 - 27

Yeo, Doyeob (Electronics and Telecommunications Research Institute (ETRI)) , Bae, Ji-Hoon (Daegu Catholic University) , Lee, Jae-Cheol (Korea Atomic Energy Research Institute)

Abstract ▼ AI-Helper

In this paper, we propose a deep auto-encoder-based pipe leak detection (PLD) technique from time-series acoustic data collected by microphone sensor nodes. The key idea of the proposed technique is to learn representative features of the leak-free state using leak-free time-series acoustic data and the deep auto-encoder. The proposed technique can be used to create a PLD model that detects leaks in the pipeline in an unsupervised learning manner. This means that we only use leak-free data without labeling while training the deep auto-encoder. In addition, when compared to the previous supervised learning-based PLD method that uses image features, this technique does not require complex preprocessing of time-series acoustic data owing to the unsupervised feature extraction scheme. The experimental results show that the proposed PLD method using the deep auto-encoder can provide reliable PLD accuracy even considering unsupervised learning-based feature extraction.

Keyword

표/그림 (9)

그림 Fig. 1. Image feature extraction for pipe leak detection[2]
그림 Fig. 2. Basic architecture of the auto-encoder
그림 Fig. 3. Threshold  for pipe leakdetection using the deep auto-encoder
그림 Fig. 4. Laboratory facility environment for pipe leak detection [2]
그림 Fig. 5. Acoustic data reconstruction using the trained deep auto-encoder
표 Table 1. Experimental conditions for leak hole diameter (mm)
표 Table 2. Experimental conditions for escaping air pressure (bar)
표 Table 3. Classification accuracy [%] for pipe leak detection
표 Table 4. Classification accuracy [%] versus the number of leak data to determine the threshold 

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 장에서는 음향 센서에서 수집한 시계열 음향 데이터들을 이용한 오토인코더 기반의 플랜트 배관 누출탐지 방법을 소개하고자 한다.
또한, 음향신호의 특성상 여러 종류의 잡음(Noise)이 발생할 수 있기 때문에, 음향신호 데이터를 효과적으로 학습시키기 위해서는 간단한 선형 모델이 아닌 딥 뉴럴네트워크 구조의 인코더와 디코더가 필요하다. 이러한 이유 때문에 본 연구에서는 딥 오토인코더 기반의 비지도학습을 이용한 배관 누출탐지 방법을 소개하고자 한다.
플랜트 배관의 누출 상황의 경우, 선행 시간대의 데이터 특성이 현재 시간대의 데이터 특성에 크게 영향을 미치지 못한다고 가정하였다. 본 논문에서는 정상상태가 유지되다가 사전 징후 없이 갑작스런 균열이 발생하는 경우도 다루기 위하여, 인코더 및 디코더 구조 중에서 순환신경망 구조를 배제하였다. 또한, 사용하고자 하는 데이터 형태가 시계열 데이터이기 때문에, 본 연구에서는 인코더 및 디코더 구조로써 컨볼루셔널 뉴럴 네트워크가 아닌 다층신경망 구조를 적용하였다.
인코더의 노드 개수는 {7500, 5000, 2500, 2500, 1250, 1250}과 같이 구성하였으며, 디코더의 노드 개수는{1250, 2500, 2500, 5000, 7500, 15000}와 같이 구성하였다. 본 논문에서 인코더 및 디코더의 구조는 실험적인 검증을 통하여 설계하였다.
본 논문에서는 비지도학습 기반의 딥 오토인코더를 이용한 배관 누출탐지 방법에 대해 제안하였다. 음향 센서로부터 수집된 시계열 음향 데이터를 이용하였으며, 정상상태의 음향 데이터만 이용하여 딥 오토인코더를 학습한 후 누출상태인지 정상상태인지 구분하였다.
음향 센서로부터 수집된 시계열 음향 데이터를 이용하였으며, 정상상태의 음향 데이터만 이용하여 딥 오토인코더를 학습한 후 누출상태인지 정상상태인지 구분하였다. 또한, 본 논문에서는 임계치 T값을 정하기 위하여 통계적인 방법 및 실험적인 방법을 이용하여 T를 정하는 방법에 대해 제안하였다. 실험 결과에서는 기존의 지도학습 기반의 배관 누출판별 방법에 비해 약 1% 정도 성능은 떨어지지만, 제안한 방법을 이용하면 복잡한 전처리 과정 없이, 누출상태의 음향 데이터가 단 10개만 있어도 98.
본 연구에서는 누출상태와 정상상태를 구분하기 위하여 통계적인 방법을 이용하여 수동으로 임계치 T값을 정하였다. 또한, T보다 높은 결과값을 나타낼 경우에 누출이라 판단하고, T보다 낮은 결과값을 나타낼 경우에 정상이라 판단하였다.
본 논문에서는 음향센서로부터 수집된 데이터를 이용한 비지도 학습(Unsupervised learning) 기반의 플랜트 배관계에 대한 미세누출 탐지 방법을 제안하고자 한다.

가설 설정

2절에서 기술한 바와 같이, 딥 오토인코더에서 인코더와 디코더를 설계하는데 사용할 수 있는 딥 뉴럴 네트워크 구조로는 다층신경망, 컨볼루셔널 뉴럴 네트워크, 순환신경망 등이 있다. 플랜트 배관의 누출 상황의 경우, 선행 시간대의 데이터 특성이 현재 시간대의 데이터 특성에 크게 영향을 미치지 못한다고 가정하였다. 본 논문에서는 정상상태가 유지되다가 사전 징후 없이 갑작스런 균열이 발생하는 경우도 다루기 위하여, 인코더 및 디코더 구조 중에서 순환신경망 구조를 배제하였다.
누출이 없는 배관의 정상상태에서의 음향센서 데이터를 이용하여 딥 오토인코더를 학습하게 되면, 이를 이용하여 누출 및 정상상태에 대한 판단을 수행하여야 한다. 본 연구의 딥 오토인코더는 정상상태의 음향신호만을 이용하여 학습을 수행하기 때문에, 검증 시에 정상상태의 음향센서 데이터를 딥 오토인코더 모델에 입력할 경우 수식 (1)의 값이 작게 나오고, 누출상태의 음향센서 데이터를 입력할 경우 수식 (1)의 값이 크게 나온다고 가정한다.
다음으로, 임의의 입력 데이터에 대하여 수식 (1)의 값이 T보다 큰 경우에는 누출상태로 판단하고, 수식 (1)의 값이 T보다 작은 경우에는 정상상태로 판단한다. 본 논문에서는 임계치 설정 및 결과 검증을 위하여 누출상태의 음향 데이터가 있다고 가정한다.
또한, L과 B에서의 표본 평균과 표본 분산을 각각 (µ_L,#), (µ_B,#⁾라고 정의하자. 본 논문에서는 계산의 편의를 위하여, L과 B가 정규 분포를 이루고, 각각의 집합이 표본 평균과 표본 분산을 정규 분포의 평균과 분산으로 갖고 있다고 가정한다. 즉,L ∼ N(µ_L,#), B ∼ N(µ_B,#)이라 하면, 잘 학습된 딥 오토인코더는 µ_L > µ_B가 될 것이다.

제안 방법

본 논문에서는 정상상태가 유지되다가 사전 징후 없이 갑작스런 균열이 발생하는 경우도 다루기 위하여, 인코더 및 디코더 구조 중에서 순환신경망 구조를 배제하였다. 또한, 사용하고자 하는 데이터 형태가 시계열 데이터이기 때문에, 본 연구에서는 인코더 및 디코더 구조로써 컨볼루셔널 뉴럴 네트워크가 아닌 다층신경망 구조를 적용하였다.
본 논문에서 이용한 딥 오토인코더는, 인코더를 이용하여 입력 데이터에 대한 압축을 수행하기 위해, 은닉층이 깊어짐에 따라 다층신경망의 노드 수를 줄이고, 디코더를 이용하여 압축된 데이터의 복원을 수행하기 위해, 은닉층이 깊어짐에 따라 다층신경망의 노드를 늘리는 방식으로 설계하였다. 또한, 입력과 출력을 직접 비교하기 위하여 입력 데이터의 차원과 출력의 차원이 같아지도록 딥 오토인코더를 설계하였다.
본 논문에서 이용한 딥 오토인코더는, 인코더를 이용하여 입력 데이터에 대한 압축을 수행하기 위해, 은닉층이 깊어짐에 따라 다층신경망의 노드 수를 줄이고, 디코더를 이용하여 압축된 데이터의 복원을 수행하기 위해, 은닉층이 깊어짐에 따라 다층신경망의 노드를 늘리는 방식으로 설계하였다. 또한, 입력과 출력을 직접 비교하기 위하여 입력 데이터의 차원과 출력의 차원이 같아지도록 딥 오토인코더를 설계하였다. 시계열 음향신호를 이용하여 배관 누출탐지 문제에 적용한 딥 오토인코더의 상세구조는 다음의 IV장에서 자세히 다루고자 한다.
은 n차원 공간에서의 유클리드안 놈(Euclidean norm)을 나타낸다. 따라서, 수식 (1)의 손실함수가 최소가 되도록 딥 오토인코더를 학습하며, 인코더에서는 시계열 음향신호에 대한 특징을 비지도학습 방법을 통해 추출한다.
입력 음향신호의 경우, 복수의 센서들로부터 수집한 각 데이터마다 최대 및 최소값이 다르기 때문에, 딥 오토인코더를 학습시키기 위해서는 입력 데이터에 대한 정규화(Normalization) 과정이 필요하다. 따라서, 본 논문에서는 딥 오토인코더를 학습하기 위해, 수집된 음향센서 신호 크기 범위를 [-1,1] 사이로 정규화 하여 모델의 입력 데이터로 이용한다. 또한, 입력 음향신호에는 수집 센서의 동작 환경 문제나 잡음 때문에 발생하는 이상치(Outlier)들이 포함될 수 있다.
한편, 본 논문에서 제안하는 방법에서는 다층신경망을 이용한 딥 오토인코더를 이용한 모델을 제안하였는데, 수식 (1)에서 정의된 손실함수를 줄이는 방향으로 학습이 진행이 되어야 한다. 하지만, 딥 오토인코더에 배치정규화를 적용하게 되면 배치가 바뀜에 따라 D(E(x_i)) 결과 또한 바뀌게 되어 오히려 학습에 부정적인 영향을 미칠 수 있다.
게다가, 딥 오토인코더 학습 시 손실함수가 0에 가깝게 학습이 되었다 하더라도 검증 시 배치가 바뀌게 된다면, 정확한 결과를 주지 못하는 경우가 발생할 수 있다. 따라서, 본 논문의 딥 오토인코더 구조에서는 배치정규화 과정이 없는 인코더 및 디코더 구조 설계를 고려하였다.
본 장에서는 음향 센서를 통해 수집한 시계열 음향 데이터를 이용하여 누출과 정상상태를 구분하는 딥 오토인코더에 대한 실험 결과에 대해 분석할 것이다. 본 논문에서 기술한 배관 누출탐지를 위한 딥 오토인코더 구현 시, 전 세계적으로 널리 활용되고 있는 딥러닝 프레임워크 중의 하나인 텐서플로우(Tensorflow)를 사용하였다.
정상상태의 음향 데이터는 무작위로 추출하여 60%는 딥 오토인코더를 학습하는데 이용하였고, 40%는 딥 오토인코더의 성능을 검증하는데 이용하였다. 또한, 누출 음향 자료 중에서 #는 누출상태와 정상상태를 구분하는 임계치를 결정하는데 사용하였고, #와 #는 딥 오토인코더의 성능을 검정하는데 이용하였다.

대상 데이터

본 논문에서 제안한 딥 오토인코더를 이용한 배관 누출 방법에 대한 실험을 위하여, Fig. 4에서와 같은 공장 설비에 음향 센서를 설치하여 시계열 음향 데이터를 수집하였다.
따라서, 누출상태 데이터는 총 100×5×5×4 = 10,000개를 수집하였고, 마찬가지로 정상상태 데이터도 총 10,000개를 수집하였다.
결과적으로, 본 논문의 실험에서는 누출상태 데이터와 정상상태 데이터는 크기가 50,000×15,000인 행렬 데이터를 사용하였다.
이때, 정상 및 누출 데이터 모두 0.5초 동안 음향 센서로부터 150kHz 샘플링(Sampling)으로 수집하여 크기가 10,000×75,000인 행렬 데이터로 구성하였다.
[2]에서와 같이, 누출상태의 음향 데이터는 100군데의 누출 지점으로부터 수집하였다. 또한, 각각의 누출 지점에 대하여 5종의 누출 구멍 직경들과 5 종의 누출 압력들에 대해 총 25 종의 조합을 만들어 4개의 음향 센서에서 누출상태의 음향 데이터들을 수집하였다.
[2]에서와 같이, 누출상태의 음향 데이터는 100군데의 누출 지점으로부터 수집하였다. 또한, 각각의 누출 지점에 대하여 5종의 누출 구멍 직경들과 5 종의 누출 압력들에 대해 총 25 종의 조합을 만들어 4개의 음향 센서에서 누출상태의 음향 데이터들을 수집하였다. 따라서, 누출상태 데이터는 총 100×5×5×4 = 10,000개를 수집하였고, 마찬가지로 정상상태 데이터도 총 10,000개를 수집하였다.
5초 동안 음향 센서로부터 150kHz 샘플링(Sampling)으로 수집하여 크기가 10,000×75,000인 행렬 데이터로 구성하였다. 또한, 0.5초동안 수집된 신호를 0.1초 단위로 나누어 길이가 75,000인 음향 데이터를 길이가 15,000인 데이터 5개로 구성하여 실험에 이용하였다. 결과적으로, 본 논문의 실험에서는 누출상태 데이터와 정상상태 데이터는 크기가 50,000×15,000인 행렬 데이터를 사용하였다.
본 논문의 실험에서 사용한 입력 자료 하나의 길이는 15,000이고, 딥 오토인코더는 총 6개의 은닉층을 가진 다층신경망 구조의 인코더와 디코더로 구성하였다. 인코더의 노드 개수는 {7500, 5000, 2500, 2500, 1250, 1250}과 같이 구성하였으며, 디코더의 노드 개수는{1250, 2500, 2500, 5000, 7500, 15000}와 같이 구성하였다.
본 논문에서 제안한 배관 누출판별 실험 결과는 Table 3과 Table 4에 나타나 있다. 본 논문에서는 정상상태의 음향 데이터만을 이용하여 딥 오토인코더를 학습하였고, 정상과 누출상태를 구분하는 임계치 T를 정하는데 있어서는 정상 및 누출상태의 음향 데이터를 이용하였다. 임계치를 정할 때, 딥 오토인코더를 학습하는데 이용한 정상상태의 데이터 모두를 이용하였으며, Table 3에서는 누출상태의 음향신호 # 중에서 20%, 40%, 60%, 80%, 100%를 이용하였다.
본 논문에서는 비지도학습 기반의 딥 오토인코더를 이용한 배관 누출탐지 방법에 대해 제안하였다. 음향 센서로부터 수집된 시계열 음향 데이터를 이용하였으며, 정상상태의 음향 데이터만 이용하여 딥 오토인코더를 학습한 후 누출상태인지 정상상태인지 구분하였다. 또한, 본 논문에서는 임계치 T값을 정하기 위하여 통계적인 방법 및 실험적인 방법을 이용하여 T를 정하는 방법에 대해 제안하였다.
임계치를 정할 때, 딥 오토인코더를 학습하는데 이용한 정상상태의 데이터 모두를 이용하였으며, Table 3에서는 누출상태의 음향신호 # 중에서 20%, 40%, 60%, 80%, 100%를 이용하였다.

이론/모형

또한, 입력 음향신호에는 수집 센서의 동작 환경 문제나 잡음 때문에 발생하는 이상치(Outlier)들이 포함될 수 있다. 이러한 이상치들은 6시그마 방법(6시그마는 ETRI KSB융합연구단에서 구현한 전처리 라이브러리의 함수를 이용)을 이용하여 모델 입력 전에 제거하였다.
본 장에서는 음향 센서를 통해 수집한 시계열 음향 데이터를 이용하여 누출과 정상상태를 구분하는 딥 오토인코더에 대한 실험 결과에 대해 분석할 것이다. 본 논문에서 기술한 배관 누출탐지를 위한 딥 오토인코더 구현 시, 전 세계적으로 널리 활용되고 있는 딥러닝 프레임워크 중의 하나인 텐서플로우(Tensorflow)를 사용하였다.

성능/효과

[2]의 결과에 따르면, 시계열 음향 데이터와 순환신경망(Recurrent neural network: RNN)을 이용하여 누출 및 정상상태를 분류하였을 때에는 84.53%의 분류 정확도를 나타내었으나, [2]에서 제안한 방법을 이용하면, 기계적 잡음이 있는 환경에서도 99.97%의 분류 정확도를 얻을 수 있다.
Table 4. Classification accuracy [%] versus the number of leak data to determine the threshold T

Table 3의 결과에서와 같이, 본 논문에서 제안한 방법을 적용한 배관의 누출판별 정확도는 99.00%로 도출되었다. 이 수치는 5번의 실험을 통해 구한 정확도들의 평균값이다.
이는[2]에서 제안한 지도학습 기반의 배관 누출판별 방법에 비하여 약 1% 낮은 수치이다. 하지만, 본 논문에서 제안한 방법은 별도의 복잡한 전처리 과정이 필요하지 않고, 정상상태의 데이터만을 이용한 비지도학습 기반의 방법이라는 점에서 실제 산업 현장 상황에 쉽게 적용 가능하다는 장점이 있다.
또한, 본 논문에서는 임계치 T값을 정하기 위하여 통계적인 방법 및 실험적인 방법을 이용하여 T를 정하는 방법에 대해 제안하였다. 실험 결과에서는 기존의 지도학습 기반의 배관 누출판별 방법에 비해 약 1% 정도 성능은 떨어지지만, 제안한 방법을 이용하면 복잡한 전처리 과정 없이, 누출상태의 음향 데이터가 단 10개만 있어도 98.62%의 분류 정확도를 도출하는 것을 실험적으로 검증하였다.

후속연구

본 연구에서처럼 임계치를 이용하여 상태를 구분하는 접근 방법은 결과값의 선형이진 분류에만 적용 가능하다. 따라서, 향후에는일반적인 분류를 위하여, 인코더에서 압축된 결과와 분류기(Classifier)를 이용한 배관 누출판별에 대해 연구할 예정이다.

LOADING...

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증