[논문]CNN-LSTM 딥러닝 기반 캠퍼스 전력 예측 모델 최적화 단계 제시

김예인; 이세은; 권용성

doi:10.5762/kais.2020.21.10.8

CNN-LSTM 딥러닝 기반 캠퍼스 전력 예측 모델 최적화 단계 제시
Proposal of a Step-by-Step Optimized Campus Power Forecast Model using CNN-LSTM Deep Learning 원문보기

한국산학기술학회논문지 = Journal of the Korea Academia-Industrial cooperation Society, v.21 no.10, 2020년, pp.8 - 15

김예인 (한동대학교 기계제어공학부) , 이세은 (한동대학교 기계제어공학부) , 권용성 (한동대학교 기계제어공학부)

초록
AI-Helper

딥러닝을 사용한 예측 방법은 동일한 예측 모델과 파라미터를 사용한다 하더라도 데이터셋의 특성에 따라 결과가 일정하지 않다. 예를 들면, 데이터셋 A에 최적화된 예측 모델 X를 다른 특성을 가진 데이터셋 B에 적용하면 데이터셋 A와 같이 좋은 예측 결과를 기대하기 어렵다. 따라서 높은 정확도를 갖는 예측 모델을 구현하기 위해서는 데이터셋의 성격을 고려하여 예측 모델을 최적화하는 것이 필요하다. 본 논문에서는 하루 대학 캠퍼스 전력사용량을 1시간 단위로 예측하기 위해 데이터셋의 특성이 고려된 예측 모델이 도출되는 일련의 방법을 단계적으로 제시한다. 데이터 전처리 과정을 시작으로, 이상치 제거와 데이터셋 분류 과정 그리고 합성곱 신경망과 장기-단기 기억 신경망이 결합된 알고리즘(CNN-LSTM: Convolutional Neural Networks-Long Short-Term Memory Networks) 기반 하이퍼파라미터 튜닝 과정을 소개한다. 본 논문에서 제안하는 예측 모델은, 각 시간별 24개 포인트에서 2%의 평균 절대비율 오차(MAPE: Mean Absolute Percentage Error)를 보인다. 단순히 예측 알고리즘만을 적용한 모델과는 달리, 단계적 방법을 통해 최적화된 예측 모델을 사용하여 단일 전력 입력 변수만을 사용해서 높은 예측 정확도를 도출한다. 이 예측 모델은 모바일 에너지관리시스템(Energy Management System: EMS) 어플리케이션에 적용되어 관리자나 소비자에게 최적의 전력사용 방안을 제시할 수 있으며 전력 사용 효율 개선에 크게 기여할 것으로 기대된다.

Abstract ▼ AI-Helper

A forecasting method using deep learning does not have consistent results due to the differences in the characteristics of the dataset, even though they have the same forecasting models and parameters. For example, the forecasting model X optimized with dataset A would not produce the optimized result with another dataset B. The forecasting model with the characteristics of the dataset needs to be optimized to increase the accuracy of the forecasting model. Therefore, this paper proposes novel optimization steps for outlier removal, dataset classification, and a CNN-LSTM-based hyperparameter tuning process to forecast the daily power usage of a university campus based on the hourly interval. The proposing model produces high forecasting accuracy with a 2% of MAPE with a single power input variable. The proposing model can be used in EMS to suggest improved strategies to users and consequently to improve the power efficiency.

주제어

표/그림 (12)

그림 Fig. 1. The developed mobile application environment (a) Architecture of developed power monitoring mobile application, (b) Power monitoring mobile application
그림 Fig. 2. Proposed CNN-LSTM structure
그림 Fig. 3. 1-year dataset outlier removal process (a) 1-year raw dataset (b) 1-year dataset with outlier removed (c) 1-year dataset with outlier and traditional holidays removed
표 Table 1. Hyper parameters of the proposed CNN- LSTM model.
그림 Fig. 4. Comparison of the Results by Algorithm
그림 Fig. 5. Comparison of the Results by Removing Outlier
표 Table 2. Results according to the algorithm and outlier removal group
표 Table 3. Results from dataset classification
그림 Fig. 6. Results of CNN-LSTM Optimization
표 Table 4. Hyper parameter of optimized model
표 Table 5. Results of the hyper parameter optimization
표 Table 6. Results of optimized model

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문은 CNN-LSTM 모델을 사용하여 대학 캠퍼스의 하루 전력 사용량을 1시간 단위로 보다 정확하게 예측하기 위해 모델을 최적화하는 과정을 단계적으로 제시했다. 제시한 단계를 실제적으로 모델에 적용함으로써 적절한 알고리즘 선택, 이상치 제거, 데이터셋 분류, 하이퍼 파라미터 튜닝이 제안한 모델의 예측 결과에 미치는 영향을 단계적으로 검증했다.
본 논문은 대학 건물 에너지 절감 및 효율화 방안 분석에 사용될 예측값을 도출하기 위해, 데이터의 특성을 고려하여 캠퍼스 전력 사용량 예측 모델을 최적화하는 과정을 제안한다. 예측 모델 최적화 과정은 이상치 제거, 데이터셋 분류, 하이퍼파라미터 튜닝의 세 가지 단계로 이루어진다.
본 논문의 궁극적인 목표는 에너지관리시스템 구축하여 에너지 소비 효율을 향상시키는 것이다. 제안된 최적화 모델로부터 예측된 전력 사용량 데이터는 실시간 모니터링 데이터와 함께 소비전력 패턴 분석 및 최적 제어 등의 에너지 관리 솔루션을 제공하기 위한 기반 정보가 될 것이다.
검증셋이 너무 작으면 모델이 정확하게 평가되지 않으며, 최적이 아닌 모델을 잘못 선택할 가능성이 있다[7]. 이에 대한 대안으로 본 논문에서는 교차 검증을 수행했다.

제안 방법

)를 사용했다. 계측 장비로부터 매 1초씩 실시간으로 측정된 전력 사용량 데이터를 1시간 단위의 데이터로 변환하여 예측모델의 데이터셋으로 사용했다.
에포크(epoch)는 클수록 결과가 좋아지는 경향이 있지만 너무 크게 하면 과적합을 발생시킬 수 있으며 학습 속도가 매우 느려지게 된다. 따라서 에포크는 적정 값인 50으로 고정하고 실험적으로 합성곱 층의 유닛 수와 층의 수, 필터 크기, 풀링 크기와 배치 크기를 선택했다. Table 5는 한 가지 변수만 변화시키고 나머지 변수는 Table 4의 값을 사용하여 도출한 결과이다.
또한 데이터셋의 이상치가 예측 결과에 미치는 영향을 살펴보기 위해 세 개의 그룹(이상치 존재, 통계적 이상치 제거, 통계적&조건부 이상치 제거)로 나누어 결과를 비교했다.
합성곱층과 맥스 풀링층으로 CNN을 구성했고, CNN의 출력 형태인 2차원 배열을 LSTM에 넣기 위해 1차원으로 바꿔주는 플래튼 레이어를 사용했다. 또한 시계열 예측에 적합한 LSTM 레이어에서 제안된 모델에 적합한 64개의 전력 사용량값을 예측 후, 마지막 전결합 레이어(fully connected layer)에서 오차가 가장 작은 값 하나를 선택하도록 설계했다. Fig.
본 논문에서 제안한 예측모델을 모바일 에너지 관리 시스템 어플리케이션에 탑재하여 딥러닝 기반의 에너지 관리 시스템 구축에 한 걸음 더 나아가고자 한다. 이후 IoT 하드웨어를 접목하여 에너지 사용을 직접적으로 제어함으로써 낭비되는 전력을 절감할 것이다.
캠퍼스의 전력 사용량은 학기중과 방학, 주중과 주말의 패턴이 다르게 나타난다. 이러한 변동이 예측 결과에 어떻게 영향을 주는지 관찰하기 위해 데이터셋 분류를 진행했다.
다음으로 2가지 이상치를 제거하였을 때 가장 정확도 높은 예측을 할 수 있었고, 마지막으로 데이터의 절대량을 극단적으로 줄이지 않는 선에서 데이터셋을 분류할 때 가장 높은 예측 정확도를 확보할 수 있었다. 이러한 일련의 데이터 전처리 과정을 거친 후 마지막으로 하이퍼파라미터 튜닝을 통해 최적화 결과를 도출했다. RMSE는 단순히 오차의 크기를 비교하는 지표이며, MAPE는 오차의 비율로 모델을 비교할 수 있는 지표이다.
본 논문은 CNN-LSTM 모델을 사용하여 대학 캠퍼스의 하루 전력 사용량을 1시간 단위로 보다 정확하게 예측하기 위해 모델을 최적화하는 과정을 단계적으로 제시했다. 제시한 단계를 실제적으로 모델에 적용함으로써 적절한 알고리즘 선택, 이상치 제거, 데이터셋 분류, 하이퍼 파라미터 튜닝이 제안한 모델의 예측 결과에 미치는 영향을 단계적으로 검증했다. 일련의 최적화 과정을 거쳐 제안된 CNN-LSTM 기반 예측 모델은 MAPE 2%의 훌륭한 예측 정확도와 뛰어난 성능을 보였다.
본 논문에서는 제안한 예측 모델의 예측 정확도를 높이기 위해 다음의 두 가지 기준으로 이상치를 고려했다. 통계적으로 사분위 범위(IQR: Inter Quartile Range, 이하 IQR)의 1.5배를 넘어가는 데이터를 통계적 이상치로 간주했고, 특정 상황에서 예외로 간주될 수 있는 데이터를 조건부 이상치로 고려했다.

대상 데이터

본 논문에서 사용한 데이터셋은 교내 전력 사용량의 1년치 데이터로써 데이터의 개수가 많은 편이 아니다. 검증셋이 너무 작으면 모델이 정확하게 평가되지 않으며, 최적이 아닌 모델을 잘못 선택할 가능성이 있다[7].
본 논문은 한동대학교의 하루 전력 사용량을 1시간 단위로 예측하기 위해 기 구축된 서버와 데이터베이스로부터 1년치 전력사용량 데이터(2019.01.01 – 2019.11.25.)를 사용했다.
테스트 데이터로는 예측 대상일(24시간) 이전의 3일 전력 사용량을 사용하고 학습 데이터와 검증 데이터로는 테스트 데이터 이전의 1년치 캠퍼스 전력 사용량을 사용했다.
본 논문에서 제안하는 CNN-LSTM의 하이퍼파라미터는 Table 1과 같다. 합성곱층과 맥스 풀링층으로 CNN을 구성했고, CNN의 출력 형태인 2차원 배열을 LSTM에 넣기 위해 1차원으로 바꿔주는 플래튼 레이어를 사용했다. 또한 시계열 예측에 적합한 LSTM 레이어에서 제안된 모델에 적합한 64개의 전력 사용량값을 예측 후, 마지막 전결합 레이어(fully connected layer)에서 오차가 가장 작은 값 하나를 선택하도록 설계했다.

데이터처리

따라서 훈련 오차는 예측 모델의 현재 상태를 나타내는 중요한 지표이다. 일반적인 훈련 오차 함수로 평균 제곱 오차(MSE: Mean Squared Error, 이하 MSE)를 사용하며 Eq. (1)과 같이 계산한다.

성능/효과

빨간색 선은 CNN-LSTM 예측 모델을 사용한 예측 결과이고, 검은색 선은 실제 대학 캠퍼스 전력 사용량을 나타낸다. Fig. 6의 결과와 같이 본 논문에서 제안한 단계별 최적화 기법을 사용할 경우 하루 동안의 전력 사용량 변화에 대해 작은 오차로 추종하는 것을 확인할 수 있다.
또한 데이터셋의 이상치가 예측 결과에 미치는 영향을 살펴보기 위해 세 개의 그룹(이상치 존재, 통계적 이상치 제거, 통계적&조건부 이상치 제거)로 나누어 결과를 비교했다. RMSE값을 살펴보면, 모든 그룹 1, 2, 3에서 CNN-LSTM 알고리즘의 예측 정확도가 가장 높다는 것을 알 수 있다. Fig.
Table 6는 캠퍼스의 전력 사용량 예측 모델 최적화 결과를 정리한 것이다. 결과적으로 시계열 데이터의 공간적 정보와 시간적 정보를 동시에 추출할 수 있는 CNN-LSTM 알고리즘이 가장 높은 예측 정확도를 보였다. 다음으로 2가지 이상치를 제거하였을 때 가장 정확도 높은 예측을 할 수 있었고, 마지막으로 데이터의 절대량을 극단적으로 줄이지 않는 선에서 데이터셋을 분류할 때 가장 높은 예측 정확도를 확보할 수 있었다.
또한 Class 2는 주중과 주말의 차이를 고려하기 위해 2개의 그룹(주중과 주말을 포함한 데이터셋, 주중만 포함한 데이터셋)으로 구성했다. 그 결과 Class 1의 분류에서는 데이터의 절대량이 가장 많은 1-year 집단이 가장 좋은 결과를 보였다. Class 2의 분류에서는 주중과 주말을 포함한 데이터셋보다 주중만을 포함한 데이터셋이 예측 정확도가 높은 결과를 나타냈다.
결과적으로 시계열 데이터의 공간적 정보와 시간적 정보를 동시에 추출할 수 있는 CNN-LSTM 알고리즘이 가장 높은 예측 정확도를 보였다. 다음으로 2가지 이상치를 제거하였을 때 가장 정확도 높은 예측을 할 수 있었고, 마지막으로 데이터의 절대량을 극단적으로 줄이지 않는 선에서 데이터셋을 분류할 때 가장 높은 예측 정확도를 확보할 수 있었다. 이러한 일련의 데이터 전처리 과정을 거친 후 마지막으로 하이퍼파라미터 튜닝을 통해 최적화 결과를 도출했다.
4는 이를 시각화한 것이다. 다음으로 이상치 그룹별 RMSE 값을 살펴보면, 이상치를 두 가지 방법으로 모두 제거한 집단 3이 가장 예측 정확도가 높은 것을 알 수 있다. Fig.
주거 및 상업용 건물 에너지 소비 예측에 대한 연구는 이미 활발하게 진행되고 있지만, 대학 캠퍼스를 대상으로 전력 사용량을 예측하는 연구는 미비하다. 따라서 본 논문에서는 대학 캠퍼스를 대상으로 전력 사용량을 예측하였으며, 전력사용량 단일 입력 변수 사용만으로도 MAPE 2%의 높은 예측 정확도를 나타냈다.
RMSE는 단순히 오차의 크기를 비교하는 지표이며, MAPE는 오차의 비율로 모델을 비교할 수 있는 지표이다. 본 논문에서는 최적화된 모델을 도출하는 과정에서 직관적으로 오차를 비교하기 위해 RMSE를 사용했지만, 다른 데이터셋을 사용하는 모델과의 상대적인 성능 비교를 위해서는 오차를 MAPE와 같은 상대적인 지표로 나타냈다.
제시한 단계를 실제적으로 모델에 적용함으로써 적절한 알고리즘 선택, 이상치 제거, 데이터셋 분류, 하이퍼 파라미터 튜닝이 제안한 모델의 예측 결과에 미치는 영향을 단계적으로 검증했다. 일련의 최적화 과정을 거쳐 제안된 CNN-LSTM 기반 예측 모델은 MAPE 2%의 훌륭한 예측 정확도와 뛰어난 성능을 보였다.

후속연구

모바일 어플 리케이션 및 IoT 하드웨어를 접목시키는 과정은 추후 연구로 진행할 예정이다. 국내 건물 에너지 소비는 국가 전체 에너지 소비 중 상당한 비중을 차지하고 있으므로 딥러닝 기반의 에너지 관리 시스템 구축과 이로부터 파급될 효율적인 에너지 사용 및 관리는 국가차원의 에너지 절감에 크게 기여할 것으로 기대된다.
이후 IoT 하드웨어를 접목하여 에너지 사용을 직접적으로 제어함으로써 낭비되는 전력을 절감할 것이다. 모바일 어플 리케이션 및 IoT 하드웨어를 접목시키는 과정은 추후 연구로 진행할 예정이다. 국내 건물 에너지 소비는 국가 전체 에너지 소비 중 상당한 비중을 차지하고 있으므로 딥러닝 기반의 에너지 관리 시스템 구축과 이로부터 파급될 효율적인 에너지 사용 및 관리는 국가차원의 에너지 절감에 크게 기여할 것으로 기대된다.
본 논문에서 제안한 최적화 예측 모델은 추후 사용자의 에너지 사용 패턴 분석 및 제어 솔루션을 제공하는 모바일 에너지관리시스템 어플리케이션의 기반으로 유용하게 사용될 것이다. 이를 통해 에너지 사용 효율 개선에 크게 기여할 것으로 기대된다.
본 논문에서 제안한 최적화 예측 모델은 추후 사용자의 에너지 사용 패턴 분석 및 제어 솔루션을 제공하는 모바일 에너지관리시스템 어플리케이션의 기반으로 유용하게 사용될 것이다. 이를 통해 에너지 사용 효율 개선에 크게 기여할 것으로 기대된다.
본 논문의 궁극적인 목표는 에너지관리시스템 구축하여 에너지 소비 효율을 향상시키는 것이다. 제안된 최적화 모델로부터 예측된 전력 사용량 데이터는 실시간 모니터링 데이터와 함께 소비전력 패턴 분석 및 최적 제어 등의 에너지 관리 솔루션을 제공하기 위한 기반 정보가 될 것이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	하이퍼파라미터 튜닝이란 무엇인가?	하이퍼파라미터 튜닝은 검증셋에서 모델의 성능을 평가하여 최적의 학습 방법을 찾기 위해 하이퍼파라미터를 조정하는 것을 말한다. Table 3에서 예측 정확도가 가장 높은 데이터셋은 이상치를 모두 제거한 1년 주중 데이터셋이다.
	이상치란 무엇인가?	이상치(outlier)는 특정 범위 내에서 많이 벗어난 아주 큰 값 또는 작은 값을 말한다. 본 논문에서는 제안한 예측 모델의 예측 정확도를 높이기 위해 다음의 두 가지 기준으로 이상치를 고려했다.
	딥러닝을 사용한 예측 방법은 동일한 예측 모델과 파라미터를 사용한다 하더라도 데이터셋의 특성에 따라 결과가 일정하지 않는데, 그 예시는 무엇인가?	딥러닝을 사용한 예측 방법은 동일한 예측 모델과 파라미터를 사용한다 하더라도 데이터셋의 특성에 따라 결과가 일정하지 않다. 예를 들면, 데이터셋 A에 최적화된 예측 모델 X를 다른 특성을 가진 데이터셋 B에 적용하면 데이터셋 A와 같이 좋은 예측 결과를 기대하기 어렵다. 따라서 높은 정확도를 갖는 예측 모델을 구현하기 위해서는 데이터셋의 성격을 고려하여 예측 모델을 최적화하는 것이 필요하다.

참고문헌 (8)

IEA. Global Energy and CO2 Status Report [Internet]. IEA, c2019 [cited 2019 March 26], Available From: https://www.iea.org/reports/global-energy-co2-status-report-2019 (accessed May. 25, 2020)
IEA. Energy and Efficiency [Internet]. IEA, c2019 [cited 2019 Nov. 26], Available From: https://www.iea.org/reports/energy-efficiency-2019 (accessed May. 25, 2020)
C. S. Kim, New & Renewable Energy Supply Statistics, Technical Report, Korea Energy Agency, Korea, pp.15-18.
Y. S. Moon, Monthly Energy Statistics, Technical Report, Korea Energy Economics Institute, Korea, pp.17-20.
G. H. Park, Research on Energy Efficiency Improvement Plan of University Campus Building, Korea Energy Economics Institute, Korea, pp.7-10.
A. Geron, Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow, p.952, Hanbit Publishing Network, 2020, pp.62-63.
T. Y. Kim, Python Deep Learning Keras with Blocks, p.304, DIGITAL BOOKS, 2017, pp.41.
T. Y. Kim, "Predicting residential energy consumption using CNN-LSTM neural networks", Energy, ELSEVIER, South Korea, Volume 182, pp.72-81, September 2019. DOI: https://doi.org/10.1016/j.energy.2019.05.230

상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증