[논문]IoT 스트리밍 센서 데이터에 기반한 실시간 PM10 농도 예측 LSTM 모델

김삼근; 오택일

doi:10.5762/kais.2018.19.11.310

[국내논문] IoT 스트리밍 센서 데이터에 기반한 실시간 PM10 농도 예측 LSTM 모델
Real-time PM10 Concentration Prediction LSTM Model based on IoT Streaming Sensor data 원문보기

한국산학기술학회논문지 = Journal of the Korea Academia-Industrial cooperation Society, v.19 no.11, 2018년, pp.310 - 318

김삼근 (한경대학교 컴퓨터시스템연구소&컴퓨터공학과) , 오택일 (한경대학교 컴퓨터공학과)

초록
AI-Helper

최근 사물인터넷(IoT)의 등장으로 인터넷에 연결된 다양한 기기들에 의해 대규모의 데이터가 생성됨에 따라 빅데이터 분석의 중요성이 증가하고 있다. 특히 실시간으로 생성되는 대규모의 IoT 스트리밍 센서 데이터를 분석하여 새로운 의미 있는 미래 예측을 통해 다양한 서비스를 제공하는 것이 필요하게 되었다. 본 논문은 AWS를 활용하여 IoT 센서로부터 생성되는 스트리밍 데이터에 기반하여 실시간 실내 PM10 농도 예측 LSTM 모델을 제안한다. 또한 제안 모델에 따른 실시간 실내 PM10 농도 예측 서비스를 구축한다. 논문에 사용된 데이터는 PM10 IoT 센서로부터 24시간 동안 수집된 스트리밍 데이터이다. 이를 LSTM의 입력 데이터로 사용하기 위해 PM10 시계열 데이터로부터 30개의 연속된 값으로 이루어진 시퀀스 데이터로 변환한다. LSTM 모델은 바로 인접한 공간으로 이동해 가는 슬라이딩 윈도우 프로세스를 통하여 학습한다. 또한 모델의 성능 개선을 위해 24시간마다 수집한 스트리밍 데이터에 대해 점진적 학습 방법을 적용한다. 제안한 LSTM 모델의 성능을 평가하기 위해 선형회귀 모델 및 순환형 신경망(RNN) 모델과 비교한다. 실험 결과는 제안한 LSTM 예측 모델이 선형 회귀보다 700%, RNN 모델보다는 140% 성능 개선이 있음을 보여주었다.

Abstract ▼ AI-Helper

Recently, the importance of big data analysis is increasing as a large amount of data is generated by various devices connected to the Internet with the advent of Internet of Things (IoT). Especially, it is necessary to analyze various large-scale IoT streaming sensor data generated in real time and provide various services through new meaningful prediction. This paper proposes a real-time indoor PM10 concentration prediction LSTM model based on streaming data generated from IoT sensor using AWS. We also construct a real-time indoor PM10 concentration prediction service based on the proposed model. Data used in the paper is streaming data collected from the PM10 IoT sensor for 24 hours. This time series data is converted into sequence data consisting of 30 consecutive values from time series data for use as input data of LSTM. The LSTM model is learned through a sliding window process of moving to the immediately adjacent dataset. In order to improve the performance of the model, incremental learning method is applied to the streaming data collected every 24 hours. The linear regression and recurrent neural networks (RNN) models are compared to evaluate the performance of LSTM model. Experimental results show that the proposed LSTM prediction model has 700% improvement over linear regression and 140% improvement over RNN model for its performance level.

주제어

표/그림 (10)

그림 Fig. 1. RNN Architecture [9]
그림 Fig. 2. LSTM Architecture [2]
그림 Fig. 3. Training data acquisition from AWS IoT
그림 Fig. 4. PM10 raw data
그림 Fig. 5. Flow chart of the proposed PM10 prediction LSTM model
표 Table 1. LSTM_with_peepholes Parameter Settings: sliding_ window=30, window_shift=1
그림 Fig. 6. Flow chart of real-time PM10 prediction service
그림 Fig. 7. LSTM loss
그림 Fig. 8. Example of PM10 actual/prediction graphs
표 Table 2. Model Evaluation

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

이들 대부분 애플리케이션들의 핵심 요소는 예측을 위한 지능적인 학습 알고리즘이라고 할 수 있다. 본 논문에서는 AWS[1]를 활용하여 실시간으로 생성되는 IoT 스트리밍 센서 데이터를 수집하여 실내의 미세먼지 농도를 실시간으로 예측하는 서비스를 위한 LSTM(Long Short-Term Memory)[2] 기반의 미세먼지 농도 예측 모델을 제안하고, 제안 모델에 따른 실시간 미세먼지 농도 예측 서비스를 구축한다.
본 논문에서는 LSTM을 이용한 IoT 스트리밍 센서 데이터 기반의 PM10 농도 예측 모델을 제안한다. 사용된 데이터는 AWS IoT를 이용하여 IoT 환경에서 PM10 스트리밍 센서 데이터를 수집한 것이다.
이 연구에서는 PM10의 농도 변화를 모니터링 하다가 PM10 농도가 80μg/m3 이상이 되면 FAN을 구동시키는 시스템을 제안하였다.
그러나 IoT 스트리밍 데이터에 기반하여 실내의 PM10 농도를 실시간으로 예측하기 위한 LSTM 모델에 관한 연구는 활발하게 진행되지 않았다. 본 논문에서는 클라우드 환경에서 IoT 스트리밍 센서 데이터에 기반한 실내 PM10 농도 예측 LSTM 모델을 제안한다.
본 논문에서는 실내의 PM10 실시간 예측 서비스를 위한 LSTM 기반의 PM10 예측 모델을 제안하고, AWS를 활용하여 IoT 스트리밍 센서 데이터를 수집하여 제안 모델에 따른 실시간 IoT 센서 데이터 예측 분석 서비스를 구축하였다.

제안 방법

이렇게 수집한 시계열(time series)데이터를 LSTM 모델의 입력으로 사용할 수 있도록 시퀀스(sequence) 데이터로 변환시킨다. 변환된 시퀀스 데이터를 이용하여 LSTM 모델을 학습시키고, 학습된 모델을 이용하여 PM10 농도 예측을 수행한다. 순환형 신경망(RNN: Recurrent Neural Networks)[9]은 긴 시퀀스를 학습하는데 있어서 여러 시간 스텝을 지나가면서 기억을 못하는 기울기 소실 문제(vanishing gradient problem)[10]가 발생하여 데이터의 장기 의존성(long term dependency)을 반영하지 못한다는 문제점을 안고 있다.
PM10 스트리밍 데이터를 LSTM의 입력으로 사용하기 위해 먼저 1초 단위로 측정한 값들을 20초 단위 평균값으로 계산하고, 이를 30개의 연속된 값으로 구성된 시퀀스 데이터로 변환시킨다. 이렇게 변환된 시퀀스 데이터는 LSTM의 입력 데이터로 사용되며, 출력 데이터는 다음 20초 후의 PM10 농도를 예측한다.
따라서 IoT 시계열 데이터 스트림을 LSTM의 입력 데이터로 사용할 수 있도록 시퀀스 데이터로 변환시켜야 한다. 본 논문에서는 슬라이딩 윈도우 방법을 이용하여 시계열 데이터 스트림을 시퀀스 데이터 셋으로 변환시킨다.
, x_i+r+l-1>로 정의한다. 본 논문에서는 이와 같은 변환 규칙에 의해 스트리밍 데이터 셋(X)을 훈련 데이터 셋(시퀀스 집합)인 S = {s₁, ..., s_N-l+1}로 변환시켰다. 변환된 전체 데이터 셋(S)에서 80%의 훈련 데이터 셋을 LSTM 모델의 입력으로 사용하여 학습시키고, 20% 테스트 셋으로 LSTM의 일반화 성능을 평가하였다.
, s_N-l+1}로 변환시켰다. 변환된 전체 데이터 셋(S)에서 80%의 훈련 데이터 셋을 LSTM 모델의 입력으로 사용하여 학습시키고, 20% 테스트 셋으로 LSTM의 일반화 성능을 평가하였다.
본 논문에서는 모델의 예측 성능을 개선하기 위해 점진적 학습(incremental learning)[21] 방법을 적용하였다. 최초 모델 학습에서는 하루 24시간 동안 수집한 PM10 스트리밍 데이터를 이용하여 학습시키고, 다음 24시간 동안 수집한 데이터에서부터는 점진적 학습 방법을 반복적으로 적용시킨다. 즉 매일 00:00:00초부터 시작해서 다음 날 23:59:59초까지 측정된 약 4,320개의 스트리밍 데이터를 하나의 CSV 파일로 저장하고, 이 파일을 Amazon S3의 Training bucket에 업로드한다.
최초 모델 학습에서는 하루 24시간 동안 수집한 PM10 스트리밍 데이터를 이용하여 학습시키고, 다음 24시간 동안 수집한 데이터에서부터는 점진적 학습 방법을 반복적으로 적용시킨다. 즉 매일 00:00:00초부터 시작해서 다음 날 23:59:59초까지 측정된 약 4,320개의 스트리밍 데이터를 하나의 CSV 파일로 저장하고, 이 파일을 Amazon S3의 Training bucket에 업로드한다. 전날까지 학습된 모델 파일은 TensorFlow Serving에서 사용되고, 다음 날 마지막으로 저장된 모델 파일이 점진적 학습을 위해 사용된다.
이 장에서는 실험에 사용한 성능평가 알고리즘 및 훈련 데이터 셋, 테스트 셋을 이용한 다양한 실험결과를 기술하고, 선형회귀, RNN, LSTM 모델의 성능 비교를 수행한다. 성능 평가에 사용한 알고리즘은 MSE(Mean Square Error)와 RMSE (Root Mean Square Error)이다.
Table 2의 LSTM과 GRU 결과는 Adam 최적화 함수를 적용한 것이다. 본 논문에서는 PM10을 실시간으로 예측하기 위해 LSTM 모델을 사용하였고, 선형회귀와 RNN과의 비교를 통하여 성능을 평가하였다.
제안한 모델은 실시간으로 생성되는 IoT 스트리밍 센서 데이터의 특성에 따른 실시간 예측 서비스를 위해 기계학습 및 ANN 모델들을 생산 환경에 사용할 수 있도록 구현된 TensorFlow Serving을 사용하였다. 또한 다양한 알고리즘 중에서 스트리밍 시계열 데이터에 알맞은 LSTM 모델을 이용하여 IoT 센서 데이터를 학습하여 입력 값들을 분석하고, 애플리케이션에서 FAN을 ON시키는 것과 같은 환경요소에 따른 필요한 정보를 제공할 수 있는 예측 서비스를 구축하였다.

대상 데이터

본 논문에서는 LSTM을 이용한 IoT 스트리밍 센서 데이터 기반의 PM10 농도 예측 모델을 제안한다. 사용된 데이터는 AWS IoT를 이용하여 IoT 환경에서 PM10 스트리밍 센서 데이터를 수집한 것이다. 이렇게 수집한 시계열(time series)데이터를 LSTM 모델의 입력으로 사용할 수 있도록 시퀀스(sequence) 데이터로 변환시킨다.
[17]은 Feed-Forward ANN, 선형회귀, 클러스터링 알고리즘을 이용하여 PM10을 예측하는 연구를 수행하였다. 사용된 데이터는 핀란드 헬싱키의 2003년 9월 1일부터 11월 31일까지의 시계열 데이터이다. 시계열 데이터의 특징들로는 PM10, O₃, 상대 습도, 바람의 세기 및 방향 등이 있다.
본 논문에서는 LSTM 예측 모델의 입력으로 사용하기 위한 데이터를 AWS IoT 환경에서 IoT 센서로부터 PM10 스트리밍 데이터를 수집한다. Fig.
PM10 예측에 사용한 전체 데이터 개수는 4,320개이다. 훈련 데이터 셋과 테스트 데이터 셋은 반복된 시퀀스 데이터로 구성하였다.
PM10 예측에 사용한 전체 데이터 개수는 4,320개이다. 훈련 데이터 셋과 테스트 데이터 셋은 반복된 시퀀스 데이터로 구성하였다. 훈련 셋은 전체 데이터의 80%인 3,456개를 사용하였고, 테스트 셋은 나머지 20%인 864개를 사용하였다.
훈련 데이터 셋과 테스트 데이터 셋은 반복된 시퀀스 데이터로 구성하였다. 훈련 셋은 전체 데이터의 80%인 3,456개를 사용하였고, 테스트 셋은 나머지 20%인 864개를 사용하였다.
성능 비교에 사용한 모델들은 선형회귀, RNN, LSTM, LSTM_with_peepholes, GRU이다. Table 2의 LSTM과 GRU 결과는 Adam 최적화 함수를 적용한 것이다.

데이터처리

따라서 RMSE는 기존 연구 모델들과의 성능 비교에 자주 사용된다. 본 논문에서 제안한 LSTM 모델을 선형회귀 모델 및 RNN 신경망 모델과 비교한다. 실험 결과는 제안한 LSTM 예측 모델이 선형 회귀와 RNN 모델보다 훨씬 효율적임을 보여주었다.

이론/모형

LSTM 모델은 슬라이딩 윈도우(sliding window) 프로세스에 기반하여 학습한다. 슬라이딩 윈도우는 바로 인접한 데이터 셋으로의 이동 과정을 말한다.
활성함수로서 tanh[11]가 학습에 사용되고, 모델의 성능은 Adam 최적화 함수[12]에 의해 최적화된다. 본 논문에서는 LSTM 예측 모델의 성능을 측정하기 위해 RMSE(Root Mean Square Error)[13]를 사용한다. RMSE는 실제 값과 학습된 모델의 예측 값 사이의 차이를 의미한다.
LSTM 모델을 최적화하기 위해 Adam 최적화 함수를 사용한다. 이 함수는 보통 Non-stationary 시계열 데이터를 최적화하는데 사용된다.
본 논문에서는 모델의 예측 성능을 개선하기 위해 점진적 학습(incremental learning)[21] 방법을 적용하였다. 최초 모델 학습에서는 하루 24시간 동안 수집한 PM10 스트리밍 데이터를 이용하여 학습시키고, 다음 24시간 동안 수집한 데이터에서부터는 점진적 학습 방법을 반복적으로 적용시킨다.
본 논문에서 사용한 툴은 Python으로 구축된 딥 러닝툴인 TensorFlow[24]이다.
이 장에서는 실험에 사용한 성능평가 알고리즘 및 훈련 데이터 셋, 테스트 셋을 이용한 다양한 실험결과를 기술하고, 선형회귀, RNN, LSTM 모델의 성능 비교를 수행한다. 성능 평가에 사용한 알고리즘은 MSE(Mean Square Error)와 RMSE (Root Mean Square Error)이다.
평가 알고리즘으로 MSE와 RMSE를 사용하였다. 이들은 모델에 의해 생성된 예측 데이터와 실측 데이터 사이의 차이를 보여주는 좋은 방법이다.
제안한 모델은 실시간으로 생성되는 IoT 스트리밍 센서 데이터의 특성에 따른 실시간 예측 서비스를 위해 기계학습 및 ANN 모델들을 생산 환경에 사용할 수 있도록 구현된 TensorFlow Serving을 사용하였다. 또한 다양한 알고리즘 중에서 스트리밍 시계열 데이터에 알맞은 LSTM 모델을 이용하여 IoT 센서 데이터를 학습하여 입력 값들을 분석하고, 애플리케이션에서 FAN을 ON시키는 것과 같은 환경요소에 따른 필요한 정보를 제공할 수 있는 예측 서비스를 구축하였다.

성능/효과

본 논문에서 제안한 LSTM 모델을 선형회귀 모델 및 RNN 신경망 모델과 비교한다. 실험 결과는 제안한 LSTM 예측 모델이 선형 회귀와 RNN 모델보다 훨씬 효율적임을 보여주었다.
LSTM은 입력 게이트, Forget 게이트, 출력 게이트를 통해 정보를 추가하거나 삭제할 수 있다. 결론적으로, 게이트는 정보를 선택적으로 전달하는 역할을 하고, 이를 이용하여 이전 데이터를 제거함으로써 학습을 계속한다.

후속연구

향후에는 PM10 스트리밍 데이터는 물론 PM2.5, 실내외 온습도, 실외의 PM10/PM2.5 등의 다양한 인자들을 추가하여 PM10뿐만 아니라 PM2.5도 예측하는 것을 연구할 것이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	PM10이란 무엇인가?	5로 분류된다. PM10은 장시간 동안 공기 중에 부유하는 먼지 입자의 지름이 10μm 이하인 것을 말한다. 미세먼지는 기후 환경 변화의 영향으로 지속적으로 증가하고 있는 추세이다.
	경사하강법에서 나타나는 문제점은 무엇인가?	RNN의 학습 방법인 경사하강법(gradient descent)은 미분 값인 기울기 변화량을 이용하는데 이 변화량이 매우 작다면 기울기가 거의 0이 되고 이전 층의 모든 기울기들도 0이 된다. 따라서 여러 시간 스텝이 지날수록 주요 정보를 기억하지 못하게 되고, 결국 먼 과거의 상태는 현재 스텝의 학습에 도움을 주지 못하게 되어 학습이 더이상 진행되지 못하는 문제가 발생한다.
	RNN의 한계점은 무엇인가?	RNN의 강점은 현재의 작업을 이전 정보와 연결할 수 있다는 것이다. 그러나 RNN은 학습과정에서 긴 시퀀스를 처리하는데 주요 정보가 여러 시간 스텝을 지나가면서 소실되는 기울기 소실 문제가 발생하여 데이터의 장기 의존성(long-term dependency)을 고려하는데 한계가 있다. 따라서 RNN의 장기 의존성 문제를 해결하기 위해 LSTM이 연구되어 왔다.

참고문헌 (24)

Amazon Web Service, https://docs.aws.amazon.com/
Christopher Olah, Understanding LSTM Networks, 2015, Available From: https://www.cse.iitk.ac.in/users/sigml/lec/Slides/LSTM.pdf.
Korea Environment Corporation(KECO), Available From: http://www.airkorea.or.kr/dictionary_3. (accessed Sept., 12, 2018)
M. S. Souza, P. Coelho, A. da Silva, A. Pozza, "Using Ensembles of Artificial Neural Networks to Improve PM10 Forecasts", Chemical Engineering Transactions, Vol. 43, pp. 2161-2166, 2015. DOI: https://doi.org/10.3303/CET1543361
B. Oancea, S. C. Ciucu, "Time series forecasting using neural networks", Proceedings of the CKS 2013 International Conference, pp. 1402-1408, 2014, Available From: https://arxiv.org/ftp/arxiv/papers/1401/1401.1333.pdf.
Yanchen Liua, Zhe Wangc, Zhongchen Zhang, Jiajie Hong, Borong Lin, "Investigation on the Indoor Environment Quality of health care facilities in China", Building and Environment 141, pp. 273-287, 2018, DOI: https://doi.org/10.1016/j.buildenv.2018.05.054

상세보기
Gyu-Sik Kim, Youn-Suk Son, Jai-Hyo Lee, In-Won Kim, Jo-Chun Kim, Joon-Tae Oh, Hiesik Kim, "Air Pollution Monitoring and Control System for Subway Stations Using Environmental Sensors", Hindawi Publishing Corporation Journal of Sensors, Vol. 2016. DOI: https://doi.org/10.1155/2016/1865614
Jin-Ho Noh, Han-Ho Tack, "The Implementation of the Fine Dust Measuring System based on Internet of Things(IoT)", Journal of the Korea Institute of Information and Communication Engineering, Vol. 21, No. 4, pp. 829-835, 2017, DOI: http://www.dbpia.co.kr/Article/NODE07158660
Recurrent neural network, Wikipedia, 2018, https://en.wikipedia.org/wiki/Recurrent_neural_network
Xavier Glorot, Yoshua Bengio, "Understanding the difficulty of training deep feedforward neural networks", Proceedings of the Thirteenth International Conference on Artificial Intelligence and Statistics, PMLR 9, pp. 249-256, 2010, Available From: http://citeseerx.ist.psu.edu/viewdoc/download?doi10.1.1.207.2059&reprep1&typepdf
Hyperbolic function, Wikipedia, 2018, https://en.wikipedia.org/wiki/Hyperbolic_function
AdamOptimizer, https://www.tensorflow.org/api_docs/python/tf/train/AdamOptimizer
Root-mean-square deviation, Wikipedia, 2018, Available From: https://en.wikipedia.org/wiki/Root-mean-square_deviation.
D. Dunea, S. Iordache, C. Ianache, "Relationship between airborne particulate matter and weather conditions in targoviste urban area during cold months", Roumanian Journal of Chemistry, Vol. 60, pp. 595-601, 2015, Available From: https://www.researchgate.net/publication/284735048
WHO Air quality guidelines for particulate matter, ozone, nitrogen dioxide and sulfur dioxide, 2005, Available From: http://apps.who.int/iris/bitstream/handle/10665/69477/WHO_SDE_PHE_OEH_06.02_eng.pd
NAAQS Table, United States Environmental Protection Agency, 2016, Available From: https://www.epa.gov/criteria-air-pollutants/naaqs-table
D. Vlachogiannis, A. Sfetsos, "Time series forecasting of hourly PM10 values: model intercomparison and the development of localized linear approaches", WIT Transactions on Ecology and the Environment, Vol. 86, pp. 85-94, 2006 DOI: https://doi.org/10.2495/AIR06009
Hazrul Abdul Hamid, Ahmad Shukri Yahaya, Nor Azam Ramli, Ahmad Zia Ul-Saufie and Mohd Norazam Yasin, "Short Term Prediction of PM10 Concentrations Using Seasonal Time Series Analysis", MATEC Web of Conferences, Vol. 47, 2016. DOI: https://doi.org/10.1051/matecconf/20164705001
H. Weizhen, L. Zhengqiang, Z. Yuhuan, X. Hua, Z. Ying, L. Kaitao, L. Donghui, W. Peng, M. Yan, "Using support vector regression to predict PM10 and PM2.5", In IOP Conference Series: Earth and Environmental Science, Vol. 17, 2014. DOI: https://doi.org/10.1088/1755-1315/17/1/012268

상세보기
J. Chung, C. Gulcehre, K. H. Cho, Y. Bengio, "Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling", Neural Information Processing Systems, 2014, Available From: https://arxiv.org/pdf/1412.3555.pdf
Incremental learning, Wikipedia, 2018, https://en.wikipedia.org/wiki/Incremental_learning/
Docker, https://www.docker.com/
TensorFlow Serving, https://www.tensorflow.org/serving/
TensorFlow, https://www.tensorflow.org/

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증