[논문]Temporal Fusion Transformers와 심층 학습 방법을 사용한 다층 수평 시계열 데이터 분석

김인경; 김대희; 이재구

doi:10.3745/ktsde.2022.11.2.81

Temporal Fusion Transformers와 심층 학습 방법을 사용한 다층 수평 시계열 데이터 분석
Temporal Fusion Transformers and Deep Learning Methods for Multi-Horizon Time Series Forecasting 원문보기

정보처리학회논문지. KIPS transactions on software and data engineering. 소프트웨어 및 데이터 공학, v.11 no.2, 2022년, pp.81 - 86

김인경 (국민대학교 컴퓨터공학과) , 김대희 (국민대학교 컴퓨터공학과) , 이재구 (국민대학교 SW학부)

초록
AI-Helper

시계열 데이터는 주식, IoT, 공장 자동화와 같은 다양한 실생활에서 수집되고 활용되고 있으며, 정확한 시계열 예측은 해당 분야에서 운영 효율성을 높일 수 있어서 전통적으로 중요한 연구 주제이다. 전반적인 시계열 데이터의 향상된 특징을 추출할 수 있는 대표적인 시계열 데이터 분석 방법인 다층 수평 예측은 최근 부가적 정보를 포함하는 시계열 데이터에 내재한 이질성(heterogeneity)까지 포괄적으로 분석에 활용하여 향상된 시계열 예측한다. 하지만 대부분의 심층 학습 기반 시계열 분석 모델들은 시계열 데이터의 이질성을 반영하지 못했다. 따라서 우리는 잘 알려진 temporal fusion transformers 방법을 사용하여 실생활과 밀접한 실제 데이터를 이질성을 고려한 다층 수평 예측에 적용하였다. 결과적으로 주식, 미세먼지, 전기 소비량과 같은 실생활 시계열 데이터에 적용한 방법이 기존 예측 모델보다 향상된 정확도를 가짐을 확인할 수 있었다.

Abstract ▼ AI-Helper

Given that time series are used in various fields, such as finance, IoT, and manufacturing, data analytical methods for accurate time-series forecasting can serve to increase operational efficiency. Among time-series analysis methods, multi-horizon forecasting provides a better understanding of data because it can extract meaningful statistics and other characteristics of the entire time-series. Furthermore, time-series data with exogenous information can be accurately predicted by using multi-horizon forecasting methods. However, traditional deep learning-based models for time-series do not account for the heterogeneity of inputs. We proposed an improved time-series predicting method, called the temporal fusion transformer method, which combines multi-horizon forecasting with interpretable insights into temporal dynamics. Various real-world data such as stock prices, fine dust concentrates and electricity consumption were considered in experiments. Experimental results showed that our temporal fusion transformer method has better time-series forecasting performance than existing models.

주제어

표/그림 (5)

그림 Fig. 1. TFT Method Architecture
그림 Fig. 2. Fine Dust Concentration Prediction Result from Beijing pm2.5 Dataset. (A) Prediction Result from TFT Method, (B) Prediction Result of 50^th from TFT Method, (C) Prediction Result from Single LSTM, (D) Prediction Result from Stacked LSTM, (E) Prediction Result from 1D CNN
그림 Fig. 3. Carriage Service Stock Prediction Result. (A) Prediction Result from TFT Method, (B) Prediction Result of 50^th from TFT Method, (C) Prediction Result from Single LSTM, (D) Prediction Result from Stacked LSTM, (E) Prediction Result from 1D CNN
표 Table 1. Experimental Results
그림 Fig. 4. Carriage Service Stock Prediction Result. (A) Prediction Result from TFT Method, (B) Prediction Result of 50^th from TFT Method, (C) Prediction Result from Single LSTM, (D) Prediction Result from Stacked LSTM, (E) Prediction Result from 1D CNN

참고문헌 (12)

B. Lim, S. O. Arik, N. Loeff, and T. Pfister, "Temporal fusion transformers for interpretable multi-horizon time series forecasting," arXiv preprint arXiv:1912.09363, 2019.
F. Luna-Perejon, M. J. Dominguez-Morales, and A. Civit-Balcells, "Wearable fall detector using recurrent neural networks," Sensors, Vol.19, No.22, pp.4885, 2019.

상세보기
D. Kraft, K. Srinivasan, and G. Biebe, "Deep learning based fall detection algorithms for embeded systems, smartwatches, and IoT devices using accelerometers," Technologies, Vol.8, No.4, pp.72, 2020.

상세보기
H. Hewamalage, C. Bergmeir, and K. Bandara, "Recurrent neural networks for time series forecasting: Current status and future directions," International Journal of Forecasting, Vol.37, No.1, pp.388-427, 2021.

상세보기
D. Salinas, V Flunkert, and J. Gasthaus, "DeepAR: Probabilistic forecasting with autoregressive recurrent networks," International Journal of Forecasting, Vol.36, No.3, pp.1181-1191, 2020.

상세보기
R. Wen, K. Torkkola, B. Narayanaswamy, and D. Madeka, "A multi-horizon quantile recurrent forecaster," arXiv preprint arXiv:1711.11053, 2017.
Y. Liu, C. Gong, L. Yang, and Y. Chen, "DSTP-RNN: A dualstage two-phase attention-based recurrent neural network for long-term and multivariate time series prediction," Expert Systems with Applications, Vol.143, pp.113082, 2020.

상세보기
C. Fan, Y. Zhang, Y. Pan, X. Li, C. Zhang, and R. Yuan, "Multi-horizon time series forecasting with temporal attention learning," Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining, pp.2527-2535, 2019.
C. Favorita, Corporacion favorita grocery sales forecasting competition, 2009.
Yahoo Finance, Carriage Services, Inc., 2021.
X. Liang, T. Zou, B. Guo, and S. Li, "Assessing Beijing's PM2.5 pollution: Severity, weather impact," APEC and Winter heating, Proceedings of Royal Society, Vol.471, No.2182, pp.20150257, 2015.
H. Zhou, S. Zhang, J. Peng, S. Zhang, J. Li, and H. Xiong, "Informer: Beyond efficient transformer for long sequence time-series forecasting," Proceedings of AAAI, 2021.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증