[논문]미세먼지 예측 성능 개선을 위한 CNN-LSTM 결합 방법

황철현; 신강욱

doi:10.6109/jkiice.2020.24.1.57

미세먼지 예측 성능 개선을 위한 CNN-LSTM 결합 방법
CNN-LSTM Combination Method for Improving Particular Matter Contamination (PM2.5) Prediction Accuracy 원문보기

한국정보통신학회논문지 = Journal of the Korea Institute of Information and Communication Engineering, v.24 no.1, 2020년, pp.57 - 64

황철현 (Department of Smart IT Software, Kyoung-Bok University) , 신강욱 (K-Water Institute, Korea Water Resources Corporation)

초록
AI-Helper

최근 IoT 센서의 확산과 빅데이터, 인공지능 관련 기술의 발전으로 인해 미세먼지 오염도에 대한 시계열 예측 관련 연구가 활발하게 진행되고 있다. 하지만 미세먼지 오염도를 나타내는 데이터가 급격히 변하는 특성(Extreme)을 가지고 있어 기존의 시계열 예측방법으로는 현장에서 사용할 수 있는 수준의 정확도를 내지 못하고 있다. 이 논문에서는 LSTM을 활용하여 미세먼지 오염도를 예측할 때 CNN을 통한 환경상황을 분류한 결과를 반영하는 방법을 제안한다. 이 방법은 LSTM과 CNN이 독립적이지만 인터페이스를 통해 하나의 네트워크로 통합되기 때문에, 응용 LSTM보다 이해하기 쉽다. Beijing PM2.5 데이터를 활용한 제안 방법의 검증 실험에서 예측 정확도와 변화 시기에 대한 예측력이 다양한 실험 case에서 일관되게 향상된 결과를 보였다.

Abstract ▼ AI-Helper

Recently, due to the proliferation of IoT sensors, the development of big data and artificial intelligence, time series prediction research on fine dust pollution is actively conducted. However, because the data representing fine dust contamination changes rapidly, traditional time series prediction methods do not provide a level of accuracy that can be used in the field. In this paper, we propose a method that reflects the classification results of environmental conditions through CNN when predicting micro dust contamination using LSTM. Although LSTM and CNN are independent, they are integrated into one network through the interface, so this method is easier to understand than the application LSTM. In the verification experiments of the proposed method using Beijing PM2.5 data, the prediction accuracy and predictive power for the timing of change were consistently improved in various experimental cases.

주제어

표/그림 (14)

그림 Fig. 1 The Architecture of APNet
그림 Fig. 2 Hybrid Model of ConvLSTM and CNN
그림 Fig. 3 The Architecture of Proposed CNN-LSTM Combination Method
그림 Fig. 4 Process Design of Proposed CNN Model
그림 Fig. 5 Process Design of Proposed LSTM Model
표 Table. 1 Hyper Parameters of Deep Learning Networks
표 Table. 2 Comparison of Experiment Results
표 Table. 3 Comparison of predicted values for the first 15 data occurrences
그림 Fig. 6 Comparison of Extreme Data Occurrence
표 Table. 4 Extreme Data Generation and Prediction
표 Table. 5 Comparison of predicted values for the first 15 data occurrences
그림 Fig. 7 Comparison of Exist and Proposal Method's RMSE
그림 Fig. 8 Comparison of Exist and Proposal Method's F1 Score
그림 Fig. 9 Comparison of predicted values for the first 15 data occurrences

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

다음은 제안 방법이 기존의 LSTM 예측에서 문제로 제시되었던 극단적인 데이터 환경에서도 좋은 예측 성능을 보여주고 있는지를 살펴보기 위한 분석을 제시하였다. 다음 그림 6은 극단적인 데이터가 발생한 시점을 표시하고 이때 제안 방법이 변화를 예측했는지를 시각적으로 표현하였다.
본 논문에서는 여러 제약 조건으로 인해 제안 방법과 비교 대상을 결합 모형인 APNet이나 ConvLSTM과 성능 비교하지 못하고 기존 LSTM 단독 모델과 비교함으로써 타 결합 방법과 성능 비교를 수행하지 못한 제약을 가지고 있다. 이는 향후에 추가적으로 연구가 되어야 할 분야이다.
본 논문에서는 환경 데이터를 활용하여 미세먼지 오염도에 대한 시계열 예측 성능을 개선하기 위해 CNN- LSTM 결합 방법을 제안하였다.
이 논문은 극단적으로 변하는 미세먼지 오염도 데이터에서 시계열 예측 성능을 향상시키기 위해 딥러닝 방법인 CNN(Convolutional Neural Network)과 LSTM을 결합하는 방법을 제시하는 것을 목표로 한다. 이를 위해 우선, 미세먼지 오염도를 제외한 환경측정 데이터를 CNN에 입력하여 현재 환경상황을 분류하고, 과거 동일 환경 상황에서 추출한 미세먼지 오염도 추세정보와 직전의 미세먼지 오염도 데이터를 활용하여 LSTM에 입력한 다음, 최종적으로 미래의 미세먼지 오염도 값을 예측하는 방법을 제안한다.
역할을 수행한다. 환경 상황이 유사한 과거 사례를 학습하여 새로운 환경 상황에서 미세먼지 오염도에 대한 증감 추세를 예측한다. 즉, 과거에 수집된 강우, 풍속 등의 시계열 환경 데이터를 입력하여 미세먼지 오염도에 대한 시계열 변화율을 산출한다.

제안 방법

5를 제외한 6개의 환경데이터를 활용하였다. PM_2.5 데이터에 대한 증감추세를 분류하기 위해 총 8개 증감구간으로 구분하였고, 제안한 변환 과정을 거쳐 LSTM 의 입력 값으로 사용하였다.
두 번째 방법은 CNN과 LSTM의 변형 모델인 ConvLSTM을 상호 독립적인 모델로 구성한다. 이 방법은 측정 지점 주위의 공간적인 특징을 모델링한다.
둘째, 환경 상황 정보를 기록한 데이터를 CNN에 입력하고 해당시간의 미세먼지 오염도 증감 추세를 Label 정보로 매칭하여 CNN을 학습시킨 후 환경 상황 정보만을 입력하여 환경 상황과 가장 매칭되는 미세먼지 오염도 증감 추세를 도출한다.
사례에서 기존 LSTMe 실제 값에서 데이터 변화가 발생하고 이를 look_back을 통해 입력된 이후 예측 값이 생성되는데 반해, 제안 방법은 변화 시점을 예측하여 예측 값을 생성한다.
LSTM 입력 데이터를 생성한다. 생성된 입력데이터를 활용하여 LSTM을 학습하고 예측한다.
셋째, 가장 최근의 미세먼지 오염도를 측정한 시계 열값과 CNN의 출력 값을 미세먼지 오염도로 변환한 값을 활용하여 LSTM 입력 데이터를 생성한다. 생성된 입력데이터를 활용하여 LSTM을 학습하고 예측한다.
추정하는 연구가 수행되었다. 이 연구는 촬영된 이미지에서 특징을 추출한 후 이미지 특징과 미세먼지 오염도와 상관관계를 구하거나, 이미지 분류를 위한 딥러닝을 활용하여 미세먼저 오염도를 추정하였다.
방법을 제시하는 것을 목표로 한다. 이를 위해 우선, 미세먼지 오염도를 제외한 환경측정 데이터를 CNN에 입력하여 현재 환경상황을 분류하고, 과거 동일 환경 상황에서 추출한 미세먼지 오염도 추세정보와 직전의 미세먼지 오염도 데이터를 활용하여 LSTM에 입력한 다음, 최종적으로 미래의 미세먼지 오염도 값을 예측하는 방법을 제안한다.
제안 방법 검증을 위해 Beijing PM_2.5 데이터를 활용하여 LSTM 단독모델로 구성된 기존 방법과 제안 결합 방법의 예측 성능을 비교하는 실험을 수행하였다.
제안 방법에서 LSTMe 가장 최근에 측정된 미세먼지 오염도 데이터를 학습하여 다음 주기의 미세먼지 오염도 데이터를 예측하는 역할을 수행한다.
제안 방법의 효과를 검증하기 위해 공개된 Beijing PM_2.5를 실험데이터로 활용하여, 기존 LSTM과 제안 방법인 CNN-LSTM 결합 모델의 예측 정확도를 비교하는 실험과 함께, 미세먼지 오염도를 나타내는 PM_2.5 값이 급격히 변화하는 시점을 예측하는 분류 정확도 시험을 수행하여 예측 모델이 급격히 변화하는 시계열 데이터에 얼마나 효과적으로 대응하는지를 실험하였다.
제안된 CNN-LSTM 결합 방법은 상호 독립적으로 구성된 CNN과 LSTM의 기본 모형을 활용하여 Neural Network의 계층(Layer) 차원의 결합 없이 인터페이스로 연결된 네트워크 구조이다.
제안된 방법에서 CNNe 예측 시점의 환경 상황을 판단하는 역할을 수행한다. 환경 상황이 유사한 과거 사례를 학습하여 새로운 환경 상황에서 미세먼지 오염도에 대한 증감 추세를 예측한다.
제안한 CNN-LSTM 결합 방법은 CNN과 LSTM의 기본 모델을 사용하여 상호 독립적으로 구성하고 인터페이스를 통해 두 모델이 하나의 네트워크로 동작한다. 또한 LSTM에 입력되는 가장 최근의 데이터에 임의의 CNN에서 예측된 값을 추가 입력하여 미세먼지 오염도 데이터의 급격히 변화하는 특성을 반영한다.
환경 상황이 유사한 과거 사례를 학습하여 새로운 환경 상황에서 미세먼지 오염도에 대한 증감 추세를 예측한다. 즉, 과거에 수집된 강우, 풍속 등의 시계열 환경 데이터를 입력하여 미세먼지 오염도에 대한 시계열 변화율을 산출한다.
첫 번째 방법은 CNN의 convolution layer와 LSTM을 결합하는 방식으로 환경 데이터에 대한 누적 값을 입력데이터로 활용한다. 이 모델은 APNet이라는 명칭으로 발표되었으며 실험을 통해 다른 모델에 비해 높은 예측정확도를 제공하는 것으로 증명되었다.

대상 데이터

실험에 사용된 Beijing PM_2.5 데이터는 2010년 1월 1 일부터 2014년 12월 31일까지 5년간 PM_2.5, 강우, 풍속 등 7개의 환경 측정 항목을 매시간 측정한 자료로 다수의 연구에서 사용된 공개된 데이터 세트이다.
총 41, 757개의 데이터 가운데 70%인 29, 229개를 학습 데이터로 활용하였고 30%인 12, 528개는 검증 데이터로 활용하였다. 특히 실험 횟수를 증가시키기 위해 검증 구간을 5개로 분할하여 예측 실험을 수행하였고, PM_2.
활용하였다. 특히 실험 횟수를 증가시키기 위해 검증 구간을 5개로 분할하여 예측 실험을 수행하였고, PM_2.5를 제외한 6개의 환경데이터를 활용하였다. PM_2.

데이터처리

따라서 예측 정확도는 개선 된 것으로 볼 수 있다. 개선 결과를 명확하게 알 수 있도록 표 3에서는 시험 구간에서 실제 발생한 값에 대한 기존 LSTM과 제안 방법에 의해 예측된 결과를 각각 비교하여 제시하였다.
그림 8에서는 제안 방법이 극단적인 데이터가 발생한 시점에서 변화를 예측하였는지를 살펴보기 위해 정확도(Precision)와 재현율(Recall)에 근거한 F1 Score 산출 결과를 기존 LSTM과 비교하여 제시하였다.
다음 표 2에서는 예측 실험 단위인 5개 구간에 대한 기존 LSTM 방법과 제안 방법의 RMSE를 비교하여 제시하였다.
실험 결과에 대한 예측 성능을 측정하기 위한 방법으로 RMSE(Root Mean Square Error) 활용하였다. RMSE 는 시계열 데이터 예측에서 가장 보편적으로 사용되는 검증 방법이다.

성능/효과

F1 Score 산출 결과 기존 LSTM의 F1 Score는 0.51이며 제안 방법은 0.83으로 극단적인 데이터가 발생하는 시점을 예측하는 성능 역시 제안 방법이 우수하다.
PM_2.5에 대한 시계열예 측 결과, 전체 시험구간(5개) 에서 제안방법의 예측정확도가 기존 LSTM 보다 높은 것으로 제시되었다. 따라서 제안 방법이 기존 방법에 비해 높은 예측 정밀도를 가진다고 할 수 있다.
5에 대한 시계열예 측 결과, 전체 시험구간(5개) 에서 제안방법의 예측정확도가 기존 LSTM 보다 높은 것으로 제시되었다. 따라서 제안 방법이 기존 방법에 비해 높은 예측 정밀도를 가진다고 할 수 있다.
5 데이터를 활용하여 5개 시계열 구간에 대한 RMSE를 비교한 결과 모든 시험 구간에서 제안 방법의 예측 성능이 우수함을 알 수 있다. 또한 극단적인 데이터가 발생하는 시점에 대한 예측 성능을 F1 Score로 살펴본 결과 역시 제안 방법이 우수하게 나타나 미세먼지 오염도 예측에서 제안 방법이 효율적인 것을 검증하였다.
시험 구간 전체에서 총 5, 895개 시점에서 급격히 데이터가 변화하였고 이에 대해 기존 LSTM 모델은 2, 995 개를 예측하여 50.8%의 정확도를 보였으며, 제안 방법은 4, 875개를 예측하여 82.7%의 정확도를 보여 제안 방법이 데이터가 급격히 변화하는 시점에 대한 예측력이 기존 LSTM보다 높다.
활용한다. 이 모델은 APNet이라는 명칭으로 발표되었으며 실험을 통해 다른 모델에 비해 높은 예측정확도를 제공하는 것으로 증명되었다. 다음 그림 1은 CNN-LSTM 결합구조 사례인 APNet을 제시하였다.
제안 방법의 성능을 검증하기 위해 Beijing PM_2.5 데이터를 활용하여 5개 시계열 구간에 대한 RMSE를 비교한 결과 모든 시험 구간에서 제안 방법의 예측 성능이 우수함을 알 수 있다. 또한 극단적인 데이터가 발생하는 시점에 대한 예측 성능을 F1 Score로 살펴본 결과 역시 제안 방법이 우수하게 나타나 미세먼지 오염도 예측에서 제안 방법이 효율적인 것을 검증하였다.
표 2에서 제시된 바와 같이 실험에 적용된 5개 구간 모두에서 기존 LSTM을 수행했을 때 보다 제안 방법을 활용했을 때 RMSE가 낮게 산출 되었다. 따라서 예측 정확도는 개선 된 것으로 볼 수 있다.

후속연구

본 연구를 통해 확보된 제안 방법과 실험결과를 활용할 경우 미세먼지 오염도 데이터뿐만 아니라 급격히 변화하는 시계열 데이터가 많이 발생하는 환경, 사회과학 등 다양한 영역에서 응용될 수 있다.

참고문헌 (7)

D. Y. Jin, K. J. Han, and J. H. Kim, "Estimation of Fine Dust Pollution Using The Atmospheric Images," Korea Environment Institute Working Paper, 2018.
C. J. Huang, and P. H. Kuo, "A Deep CNN-LSTM Model for Particulate Matter (PM2.5) Forecasting in Smart Cites," Sensors 18, Jul. 2018.
Y. Qi, Q. Li, H. Karimian, and D. Liu, "A hybrid model for spatiotemporal forecasting of (PM2.5) based on graph convolutional neural network and long short-term memory," Sci. Total Environ., vol. 664, pp. 1-10, May. 2019.

상세보기
S. G. Lee, and J. T. Shin, "Hybrid Model of Convolutional LSTM and CNN to Predict Particulate Matter," IJIEE., vol. 9, no. 1, pp. 34-38, Mar. 2019.

상세보기
C. Liu, F. Tsow, Y. Zou, and N Tao, "Particle Pollution Estimation Based on Image Analysis," PLoS ONE 11(2) :doi: 10.1371/journal.pone.0145955.

상세보기
C. H. Hwang, H. S. Kim, and H. K. Jung, "Detection and Correction Method of Erroneous Data Using Quantile Pattern and LSTM," JICCE., vol. 16, no. 4, pp. 242-247, Dec. 2018.

원문보기 상세보기
V. Q. Nguyen, L. V. Ma, and J. Kim, "LSTM-based anomaly detection on big data for smart factory monitoring," Journal of Digital Contents Society, vol. 19, no. 4, pp. 789-799, 2018. DOI:10.9728/dcs.2018.19.4.789.

원문보기 상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증