본 연구에서는 Long Short Term Memory (LSTM) 신경망과 Gated Recurrent Unit(GRU) 신경망을 Internet of Things (IoT) 파워미터에 적용하여 단기 전력사용량 예측방법을 제안하고, 실제 가정의 전력사용량 데이터를 토대로 예측 성능을 분석한다. 성능평가 지표로써 Mean Absolute Error (MAE), Mean Absolute Percentage Error (MAPE), Mean Percentage Error (MPE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE)를 이용한다. 실험 결과는 GRU 기반의 모델이 LSTM 기반의 모델에 비해 MAPE 기준으로 4.52%, MPE 기준으로 5.59%만큼의 성능개선을 보였다.
본 연구에서는 Long Short Term Memory (LSTM) 신경망과 Gated Recurrent Unit(GRU) 신경망을 Internet of Things (IoT) 파워미터에 적용하여 단기 전력사용량 예측방법을 제안하고, 실제 가정의 전력사용량 데이터를 토대로 예측 성능을 분석한다. 성능평가 지표로써 Mean Absolute Error (MAE), Mean Absolute Percentage Error (MAPE), Mean Percentage Error (MPE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE)를 이용한다. 실험 결과는 GRU 기반의 모델이 LSTM 기반의 모델에 비해 MAPE 기준으로 4.52%, MPE 기준으로 5.59%만큼의 성능개선을 보였다.
In this paper, we propose a short-term power forecasting method by applying Long Short Term Memory (LSTM) and Gated Recurrent Unit (GRU) neural network to Internet of Things (IoT) power meter. We analyze performance based on real power consumption data of households. Mean absolute error (MAE), mean ...
In this paper, we propose a short-term power forecasting method by applying Long Short Term Memory (LSTM) and Gated Recurrent Unit (GRU) neural network to Internet of Things (IoT) power meter. We analyze performance based on real power consumption data of households. Mean absolute error (MAE), mean absolute percentage error (MAPE), mean percentage error (MPE), mean squared error (MSE), and root mean squared error (RMSE) are used as performance evaluation indexes. The experimental results show that the GRU-based model improves the performance by 4.52% in the MAPE and 5.59% in the MPE compared to the LSTM-based model.
In this paper, we propose a short-term power forecasting method by applying Long Short Term Memory (LSTM) and Gated Recurrent Unit (GRU) neural network to Internet of Things (IoT) power meter. We analyze performance based on real power consumption data of households. Mean absolute error (MAE), mean absolute percentage error (MAPE), mean percentage error (MPE), mean squared error (MSE), and root mean squared error (RMSE) are used as performance evaluation indexes. The experimental results show that the GRU-based model improves the performance by 4.52% in the MAPE and 5.59% in the MPE compared to the LSTM-based model.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
GRU는 LSTM보다 매개변수가 적고 수렴 속도가 빠르며 정확도도 비슷하다[5]. 따라서 본 논문은 LSTM 신경망과 GRU 신경망에 대해 알아보고 주거 지역 사회의 단기 전력 예측에 두 가지 신경망을 적용해 성능평가를 진행한다.
즉, 구조적으로 LSTM보다 간단하지만, 연산속도와 결과물의 성능이 더 뛰어나다는 점에서 최근에 집중 받고 있는 신경망이다. 본 연구는 이점에 초점을 맞추어 같은 환경에서 GRU와 LSTM 두 가지 학습 모델의 성능을 평가한다.
본 연구에서는 단기 전력 예측을 하나의 특징으로 GRU로 학습된 모델을 통해 예측하였다. UMass Trace Repository의 전력사용량 데이터로 구성한 모델을 학습시키고, 실험을 통해 하이퍼파라미터 5개를 설정하였다.
가설 설정
두 번째로, 셀의 개수이다. 이 파라미터는 은닉층에서 사용할 LSTM 또는 GRU 셀이 각각 계층마다 몇 개인지를 의미한다.
제안 방법
그림을 보면 두 모델 모두 실제 전력소모량의 흐름을 전반적으로 잘 예측하지만, GRU로 학습된 모델이 LSTM으로 학습된 모델보다 더 정확히 예측하는 것을 확인할 수 있다. 두 모델의 예측결과에 대해 성능평가를 Mean Absolute Error(MAE), Mean Absolute Percentage Error (MAPE), Mean Percentage Error (MPE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE)의 5가지 지표들로 진행하였다. 각 성능평가 방법을 수식으로 표현하면 다음과 같이 나타난다.
이어지는 3장에서는 본 연구에서 진행한 실험 데이터와 실험파라미터를 알아본다. 또한, 실험을 통해 나온 실험 결과를 분석하고 5가지 지표들로 각각 성능평가를 진행한다. 마지막으로 4장에서는 논문의 내용을 정리하고 진행 가능한 추후 연구에 대해 제시하며 본 논문을 마무리 짓는다.
본 연구에서 진행한 실험은 look_back, 셀의 개수, 배치 사이즈, 학습률 그리고 epoch로 총합 5개의 파라미터를 조정해가며 실험하였다.
대상 데이터
본 연구에서는 단기 전력 예측을 하나의 특징으로 GRU로 학습된 모델을 통해 예측하였다. UMass Trace Repository의 전력사용량 데이터로 구성한 모델을 학습시키고, 실험을 통해 하이퍼파라미터 5개를 설정하였다. 마지막으로 5가지 지표를 통해 성능평가를 진행하였고 GRU가 LSTM보다 연산속도가 빠르며 성능이 더 좋음을 확인하였다.
하루 동안의 데이터로 다음 데이터를 예측하기 위해 이 값은 96으로 설정했다. look_back 값이 96이 되면서 본 모델은 총 10560개 샘플들로 학습한다.
본 논문에서 진행한 실험은 매사추세츠 대학교가 공개적으로 제공하는 가정단위 전력사용량 데이터를 활용하였다[10, 11]. 이 데이터는 2014년부터 2016년까지 매사추세츠 서부에 있는 114개 아파트에 대한 전력사용량이다.
이 데이터는 2014년부터 2016년까지 매사추세츠 서부에 있는 114개 아파트에 대한 전력사용량이다. 본 실험에서는 114개 아파트의 전력사용량을 다 합친 후 15분 주기로 샘플링하여 데이터를 사용하였다. 학습 단계에서는 2016년 5월 24일부터 9월 11일까지의 데이터, 검증 단계에서는 9월 12일부터 21일까지의 데이터 그리고 테스트 단계에서는 9월 23일부터 24일까지의 데이터를 사용하여 실험을 진행하였다.
. 이 데이터는 2014년부터 2016년까지 매사추세츠 서부에 있는 114개 아파트에 대한 전력사용량이다. 본 실험에서는 114개 아파트의 전력사용량을 다 합친 후 15분 주기로 샘플링하여 데이터를 사용하였다.
본 실험에서는 114개 아파트의 전력사용량을 다 합친 후 15분 주기로 샘플링하여 데이터를 사용하였다. 학습 단계에서는 2016년 5월 24일부터 9월 11일까지의 데이터, 검증 단계에서는 9월 12일부터 21일까지의 데이터 그리고 테스트 단계에서는 9월 23일부터 24일까지의 데이터를 사용하여 실험을 진행하였다. 학습, 검증 그리고 테스트 각각에 대한 데이터의 변화 추이는 그림 4와 같다.
성능/효과
또한 MSE와 RMSE 기준을 통해 GRU로 학습하면 LSTM으로 학습한 것보다 오차가 감소함을 확인할 수 있다. 5가지 지표에 대해서 GRU의 실험 결과가 LSTM의 실험 결과보다 성능 개선된 것을 확인할 수 있다.
LSTM의 예측결과와 본 논문에서 진행한 실험의 결과의 성능을 정리해보면 표 2와 같이 나타난다. MAE 기준으로 1.58, MAPE 기준으로 4.52%, MPE 기준으로 5.59%만큼의 성능개선을 확인했다. 또한 MSE와 RMSE 기준을 통해 GRU로 학습하면 LSTM으로 학습한 것보다 오차가 감소함을 확인할 수 있다.
그림 5는 각각 LSTM과 GRU로 학습된 모델의 테스트 입력에 대한 예측결과를 보여준다. 그림을 보면 두 모델 모두 실제 전력소모량의 흐름을 전반적으로 잘 예측하지만, GRU로 학습된 모델이 LSTM으로 학습된 모델보다 더 정확히 예측하는 것을 확인할 수 있다. 두 모델의 예측결과에 대해 성능평가를 Mean Absolute Error(MAE), Mean Absolute Percentage Error (MAPE), Mean Percentage Error (MPE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE)의 5가지 지표들로 진행하였다.
59%만큼의 성능개선을 확인했다. 또한 MSE와 RMSE 기준을 통해 GRU로 학습하면 LSTM으로 학습한 것보다 오차가 감소함을 확인할 수 있다. 5가지 지표에 대해서 GRU의 실험 결과가 LSTM의 실험 결과보다 성능 개선된 것을 확인할 수 있다.
UMass Trace Repository의 전력사용량 데이터로 구성한 모델을 학습시키고, 실험을 통해 하이퍼파라미터 5개를 설정하였다. 마지막으로 5가지 지표를 통해 성능평가를 진행하였고 GRU가 LSTM보다 연산속도가 빠르며 성능이 더 좋음을 확인하였다.
후속연구
이러한 모델은 복잡한 네트워크를 가지게 될 텐데 LSTM보다 간단한 구조이며 연산속도가 더 빠른 GRU를 사용하면 굉장히 효율적일 것이다. 본 연구의 결과물을 기반으로 전력사용량 예측 관련 연구는 주거 지역의 에너지 수요량을 파악할 수 있게 되고 소비자는 예측된 값을 통해 전력사용량 증가로 나타나는 블랙아웃현상을 예방할 수 있을 것으로 기대된다.
추후 진행될 수 있는 연구로는, 다양한 특징을 통해 예측하는 것과 본 연구에서 진행한 단기 전력 예측뿐만 아니라, 중기, 장기 전력 예측이 가능한 모델을 생각해 볼 수 있다. 이러한 모델은 복잡한 네트워크를 가지게 될 텐데 LSTM보다 간단한 구조이며 연산속도가 더 빠른 GRU를 사용하면 굉장히 효율적일 것이다.
질의응답
핵심어
질문
논문에서 추출한 답변
단순한 순환 신경망의 경우 생기는 장기 의존성 문제를 해결할 방안으로 등장한 것은 무엇인가?
그러나 단순한 순환 신경망의 경우 장기 의존성 문제가 있다. 이 문제를 해결할 방안으로 순환 신경망의 변형구조인 Long Short Term Memory (LSTM) 신경망과 Gated Recurrent Unit(GRU) 신경망이 등장했다. GRU는 LSTM보다 매개변수가 적고 수렴 속도가 빠르며 정확도도 비슷하다[5].
정확한 전력 예측으로 무엇이 향상될 수 있는가?
정확한 전력 예측은 전력 공급용량과 신뢰성이 향상될 수 있다. 동시에 전력공급회사는 전력 관련 건설을 합리적으로 수행하고 예측값에 따라 자원 낭비를 피할 수 있다[1].
GRU는 어떤 특징을 가지는가?
이 문제를 해결할 방안으로 순환 신경망의 변형구조인 Long Short Term Memory (LSTM) 신경망과 Gated Recurrent Unit(GRU) 신경망이 등장했다. GRU는 LSTM보다 매개변수가 적고 수렴 속도가 빠르며 정확도도 비슷하다[5]. 따라서 본 논문은 LSTM 신경망과 GRU 신경망에 대해 알아보고 주거 지역 사회의 단기 전력 예측에 두 가지 신경망을 적용해 성능평가를 진행한다.
참고문헌 (13)
D. Gan, Y. Wang, N. Zhang and W. Zhu, "Enhancing short-term probabilistic residential load forecasting with quantile long-short-term memory," Journal of Engineering, vol. 2017, no. 14, pp. 2622-2627, Jan. 2017. DOI: https://doi.org/10.1049/joe.2017.0833
Y. Chen, B. Zhang, J. Wang, B. Mao, R. Fang, C. Mao and S. Duan, "Active control strategy for microgrid energy storage system based on short-term load forecasting," Power System Technology, vol. 35, no. 8, pp. 35-40, Aug. 2011.
P. Zhang, X. Pan and W. Xue, "Short-term load forecasting based on fuzzy clustering wavelet decomposition and BP neural network," in Proc. 2011 IEEE Asia-Pacific Power and Energy Engineering Conference, pp. 1-4, Wuhan, China, Mar. 2011. DOI:https://doi.org/10.1109/appeec.2011.5748523
D.C. Park, M. A. El-Sharkawi, R. J. Marks, L. E. Atlas and M. J. Damborg, "Electric load forecasting using an artificial neural network," IEEE Trans. Power Systems, vol. 6, no. 2, pp. 442-449, May 1991. DOI: https://doi.org/10.1109/59.76685
J. Zheng, X. Chen, K. Yu, L. Gan, Y. Wang and K. Wang, "Short-term power load forecasting of residential community based on GRU neural network," in Proc. 2018 IEEE International Conference on Power System Technology(POWERCON '2018), pp.4862-4868, Guangzhou, China, Nov. 2018. DOI:https://doi.org/10.1109/powercon.2018.8601718
C. Olach, "Understanding LSTM networks," 2015; Available at http://colah.github.io/
S. Hochreiter and J. Schmidhuber, "Long short-term memory", Neural Computation, vol. 9, no. 8, pp. 1735-1780, Nov. 1997. DOI: https://doi.org/10.1162/neco.1997.9.8.1735
K. Cho, B. V. Merrienboer, C. Gulcehre, D. Bahdanau, F. Bougares, H. Schwenk and Y. Bengio, "Learning phrase representations using RNN encoder-decoder for statistical machine translation," in Proc. 2014 Conference on Empirical Methods in Natural Language Processing, pp. 1724-1734, Doha, Qatar, Oct. 2014. DOI: https://doi.org/10.3115/v1/d14-1179
J. Chung, C. Gulcehre, K. Cho and Y. Bengio, "Empirical evaluation of gated recurrent neural networks on sequence modeling," in Proc. 2014 NIPS Workshop on Deep Learning, pp.1-9, Montreal, Canada, Dec. 2014.
M. Liberatore and P. Shenoy, "UMass Trace Respository," 2018; Available at http://traces.cs.umass.edu/
Y. Cheng, C. Xu, D. Mashima, V. L. L. Thing and Y. Wu, "PowerLSTM: Power demand forecasting using long short-term memory neural network," in Proc. 2017 Advanced Data Mining and Applications, pp. 727-740, Singapore, Oct. 2017. DOI:https://doi.org/10.1007/978-3-319-69179-4_51
K. Seo, "A comparison study on back-propagation neural network and support vector machinces for the image classification problems," Journal of the Korea Academia-Industrial cooperation Society, vol. 9, no. 6, pp. 1889-1893, Dec. 2008. DOI: https://doi.org/10.5762/KAIS.2008.9.6.1889
J. Ahn, S. Park and C. Kim, "A study on neural network model for winter electric power demand prediction," The Journal of KIIT, vol. 15, no. 9, pp. 1-9, Sept. 2017. DOI: https://doi.org/10.14801/jkiit.2017.15.9.1
※ AI-Helper는 부적절한 답변을 할 수 있습니다.