[논문]CNN-LSTM 합성모델에 의한 하수관거 균열 예측모델

장승주; 장승엽

doi:10.12814/jkgss.2022.21.2.011

CNN-LSTM 합성모델에 의한 하수관거 균열 예측모델
Short-Term Crack in Sewer Forecasting Method Based on CNN-LSTM Hybrid Neural Network Model 원문보기

한국지반신소재학회논문집 = Journal of the Korean Geosynthetics Society, v.21 no.2, 2022년, pp.11 - 19

장승주 (Civil Eng. Office 1, Seoul Metro) , 장승엽 (Dept. of Transportation System Engineering, Graduate School of Transportation)

초록
AI-Helper

본 연구에서는 하수관거 내부에서 촬영된 균열 데이터를 활용하여 균열검출에 대한 시계열 예측 성능을 개선하기 위해 GoogleNet의 전이학습과 CNN- LSTM(Long Short-Term Memory) 결합 방법을 제안하였다. LSTM은 합성곱방법(CNN)의 장기의존성 문제를 해결할 수 있으며 공간 및 시간적 특징을 동시에 모델링 할 수 있다. 제안 방법의 성능을 검증하기 위해 하수관거 내부 균열 데이터를 활용하여 학습데이터, 초기학습률 및 최대 Epochs를 변화하면서 RMSE를 비교한 결과 모든 시험 구간에서 제안 방법의 예측 성능이 우수함을 알 수 있다. 또한 데이터가 발생하는 시점에 대한 예측 성능을 살펴본 결과 역시 제안방법이 우수하게 나타나 균열검출의 예측에서 제안 방법이 효율적인 것을 검증하였다. 기존 합성곱방법(CNN) 단독 모델과 비교함으로써 본 연구를 통해 확보된 제안 방법과 실험 결과를 활용할 경우 콘크리트 구조물의 균열데이터뿐만 아니라 시계열 데이터가 많이 발생하는 환경, 인문과학 등 다양한 영역에서 응용이 가능하다.

Abstract ▼ AI-Helper

In this paper, we propose a GoogleNet transfer learning and CNN-LSTM combination method to improve the time-series prediction performance for crack detection using crack data captured inside the sewer pipes. LSTM can solve the long-term dependency problem of CNN, so spatial and temporal characteristics can be considered at the same time. The predictive performance of the proposed method is excellent in all test variables as a result of comparing the RMSE(Root Mean Square Error) for time series sections using the crack data inside the sewer pipe. In addition, as a result of examining the prediction performance at the time of data generation, the proposed method was verified that it is effective in predicting crack detection by comparing with the existing CNN-only model. If the proposed method and experimental results obtained through this study are utilized, it can be applied in various fields such as the environment and humanities where time series data occurs frequently as well as crack data of concrete structures.

주제어

표/그림 (15)

그림 Fig. 1. History of Artificial Neural Network Technology
그림 Fig. 2. Basic CNN (Convolutional Neural Network)
그림 Fig. 3. Convolutional Layer (Height of input: H, Width of input: W, k: Number of class, Number of channels: C_in, Number of output: C_out)
그림 Fig. 4. Softmax function
그림 Fig. 5. The repeating module in an LSTM contains four interacting layers
그림 Fig. 6. Meaning of Symbols
그림 Fig. 7. Structure of LSTM (t: time, I_t: Input gate, f_t: forget gate, O_t: Output gate, C_t: Cell state, h_t: Hidden state, X_t: Input from CNN flattened layer, σ: Activation function)
그림 Fig. 8. A hybrid CNN-LSTM architecture
그림 Fig. 9. Flowchart for CNN-LSTM hybrid model
그림 Fig. 10. Sample images with crack
그림 Fig. 11. Sample images without crack
그림 Fig. 12. Accuracy and loss graphs (MAX epoch= 40, initial learning rate=0.0003)
그림 Fig. 14. CNN; Convergence of prediction
그림 Fig. 13. Accuracy and loss graphs (MAX epoch=15, initial learning rate=0.001)
그림 Fig. 15. CNN-LSTM; Convergence of prediction

참고문헌 (25)

Aizenberg, I., Aizenberg, N. N. and Vandewalle, J. P. L. (2000), Multi-Valued and Universal Binary Neurons: Theory, Learning and Applications, Springer Science & Business Media. pp.81-137.
Bengio, Y. (1991), Artificial Neural Networks and their Application to Speech/Sequence Recognition, McGill University Ph.D. thesis.
Bengio, Y. (2012), Practical recommendations for gradient-based training of deep architectures, Neural Networks, Tricks of the Trade, pp.437-478.
Dang, L. M., Kyeong, S. J., Li, Y., Wang, H., Nguyen, T. N. and Moon, H. J. (2021), Deep learning-based sewer defect classification for highly imbalanced dataset, Computers & Industrial Engineering, Vol.161, 107630.

상세보기
De Carvalho, A. C. L. F., Fairhurst, M. C. and Bisset, D. (1994), An integrated Boolean neural network for pattern classification, Pattern Recognition Letters, Vol.15, No.8, pp.807-813.

상세보기
Dechter, R. (1986), Learning while searching inconstraint-satisfaction problems, University of California, Computer Science Department, Cognitive Systems Laboratory. pp.178-183.
Deng, L., Hassanein, K. and Elmasry, M. (1994), Analysis of correlation structure for a neural predictive model with applications to speech recognition, Neural Networks, Vol.7, No.2, pp.331-339.

상세보기
Fukushima, K. (1980), Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position, Biol, Cybern, Vol.36, No.4, pp.193-202.

상세보기
Hinton, G. E. (2007), Learning multiple layers of representation, Trends in Cognitive Sciences, Vol.11, No.10, pp.428-434.

상세보기
Hi nton, G. E., Dayan, P., Frey, B. J. and Neal, R. (1995), The wake-sleep algorithm for unsupervised neural networks, Vol.268, No.5214, pp.1158-1161.

상세보기
Hinton, G. E., Osindero, S. and Teh, Y. W. (2006), A Fast Learning Algorithm for Deep Belief Nets, Neural Computation, Vol.18, No.7, pp.1527-1554.

상세보기
Hochreiter, S. (1991), Untersuchungen zu dynamischen neuronalen Netzen Archived 2015-03-06atthe Wayback Machine, Diploma thesis, Institut f. Informatik, Technische Univ.
Hwang, C. H., Kim, H. S. and Jung, H. K. (2018), Detection and Correction Method of Erroneous Data Using Quantile Pattern and LSTM, JICCE, Vol.16, No.4, pp.242-247.

원문보기 상세보기
Ivakhnenko, A. G. (1971), Polynomial theory of complex systems, IEEE Transactions on Systems, Man and Cybernetics, Vol.4, pp.364-378.

상세보기
Ivakhnenko, A. G., Lapa, V. G. and McDonough, R. N. (1967), Cybernetics and forecasting techniques, American Elsevier, New York.
Jiang, J., Li, C., Sun, L., Guo, D., Zhang, Y. and Wang, W. (2021), A deep learning algorithm for multi-source data fusion to predict water quality of urban sewer networks, Journal of Cleaner Production, Vol.318, No.10. pp. 2411-2502.
McKim, R. A., and Sinha, S. K. (1999), Condition assessment of underground sewer pipes using a modified digital image processing paradigm, Tunnelling and Underground Space Technology, Vol.14, pp.29-37.

상세보기
Moselhi, O. and Shehab-Eldeen, T. (1999), Automated detection of surface defects in water and sewer pipes, Automation in Construction, Vol.8, No.5, pp.581-588.

상세보기
Nguyen, V. Q., Ma, L. V. and Kim, J. (2018), LSTM-based anomaly detection on big data for smart factory monitoring, Journal of Digital Contents Society, Vol.19, No.4, pp.789-79.

원문보기 상세보기
Samuel, A. L. (1959), Some Studies in Machine Learning Using the Game of Checkers Offsite Link, IBM Journal of Research and Development, Vol.3, No.3, pp. 206-226.

상세보기
Son, B. J. and Lee, K. H. (2017), Crack Recognition of Sewer with Low Resolution using Convolutional Neural Network(CNN) Method, Journal of Korean Society for Advanced Composite Structures, Vol.8, No.4, pp.58-65.

상세보기
Wang, M. Z., Kumar, S. S. and Cheng, J. C. P. (2021), Automated sewer pipe defect tracking in CCTV videos based on defect detection and metric learning, Automation in Construction 121.103438

상세보기
Xu, K., Lxmoore, A. R. and Davies, T. (1998), Sewer pipe deformation assessment by image analysis of video surveys, Pattern Recognition, Vol.31, No.2, pp.169-180.

상세보기
Yang, M. D., and Su, T. C. (2008), Automated diagnosis of sewer pipe defects based on machine learning approaches, Expert Systems with Applications, Vol.35, No.3, pp.1327-1337.

상세보기
Yang, M. D., Su, T. C., Pan, N. F., and Yang, Y. F. (2011), Systematic image quality assessment for sewer inspection, Expert Systems with Applications, Vol.38, No.3, pp.1766-1776.

상세보기

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증