[논문]데이터 예측을 위한 텐서플로우 기반 기계학습 알고리즘 비교 연구

장성봉

doi:10.3745/ktccs.2021.10.3.71

데이터 예측을 위한 텐서플로우 기반 기계학습 알고리즘 비교 연구
A Comparative Study of Machine Learning Algorithms Based on Tensorflow for Data Prediction 원문보기

정보처리학회논문지. KIPS transactions on computer and communication systems 컴퓨터 및 통신 시스템, v.10 no.3, 2021년, pp.71 - 80

(금오공과대학교 IT융복합공학과) , 장성봉 (금오공과대학교 산학협력단)

초록
AI-Helper

기계학습에서 정확한 데이터 예측을 위해서는 적절한 인공신경망 알고리즘을 선택해야 한다. 이러한 알고리즘에는 심층 신경망 (DNN), 반복 신경망 (RNN), 장단기 기억 (LSTM) 네트워크 및 게이트 반복 단위 (GRU) 신경망등을 들 수 있다. 개발자가 실험을 위해, 하나를 선택해야 하는 경우, 각 알고리즘의 성능에 대한 충분한 정보가 없었기 때문에, 직관에 의존할 수 밖에 없었다. 본 연구에서는 이러한 어려움을 완화하기 위해 실험을 통해 예측 오류(RMSE)와 처리 시간을 비교 평가 하였다. 각 알고리즘은 텐서플로우를 이용하여 구현하였으며, 세금 데이터를 사용하여 학습을 수행 하였다. 학습 된 모델을 사용하여, 세금 예측을 수행 하였으며, 실제값과의 비교를 통해 정확도를 측정 하였다. 또한, 활성화 함수와 다양한 최적화 함수들이 알고리즘에 미치는 영향을 비교 분석 하였다. 실험 결과, GRU 및 LSTM 알고리즘의 경우, RMSE(Root Mean Sqaure Error)는 0.12이고 R2값은 각각 0.78 및 0.75로 다른 알고리즘에 비해 더 낳은 성능을 보여 주었다. 기본 심층 신경망(DNN)의 경우, 처리 시간은 가장 낮지만 예측 오류는 0.163로 성능은 가장 낮게 측정 되었다. 최적화 알고리즘의 경우, 아담(Adam)이 오류 측면에서 최고의 성능을, 처리 시간 측면에서 최악의 성능을 보여 주었다. 본 연구의 연구결과는 데이터 예측을 위한 알고리즘 선택시, 개발자들에게 유용한 정보로 사용될 것으로 예상된다.

Abstract ▼ AI-Helper

The selection of an appropriate neural network algorithm is an important step for accurate data prediction in machine learning. Many algorithms based on basic artificial neural networks have been devised to efficiently predict future data. These networks include deep neural networks (DNNs), recurrent neural networks (RNNs), long short-term memory (LSTM) networks, and gated recurrent unit (GRU) neural networks. Developers face difficulties when choosing among these networks because sufficient information on their performance is unavailable. To alleviate this difficulty, we evaluated the performance of each algorithm by comparing their errors and processing times. Each neural network model was trained using a tax dataset, and the trained model was used for data prediction to compare accuracies among the various algorithms. Furthermore, the effects of activation functions and various optimizers on the performance of the models were analyzed The experimental results show that the GRU and LSTM algorithms yields the lowest prediction error with an average RMSE of 0.12 and an average R2 score of 0.78 and 0.75 respectively, and the basic DNN model achieves the lowest processing time but highest average RMSE of 0.163. Furthermore, the Adam optimizer yields the best performance (with DNN, GRU, and LSTM) in terms of error and the worst performance in terms of processing time. The findings of this study are thus expected to be useful for scientists and developers.

주제어

표/그림 (14)

표 Table 1. Structure of a Part of the Dataset used in the Experiment. The Values are in Millions of United States (U.S.) Dollars
그림 Fig. 1. Artificial Neural Network Structure to Compare Each Algorithm in the Experiment
그림 Fig. 2. Performance Evaluation Processes by Building Nerual Network Model for Each Algorithm
표 Table 2. RMSE and Execution Time According to the Number of Neurons
그림 Fig. 3. An Example of the Source Code to Define the Basic Artificial Neural Network Model
그림 Fig. 4. An Example of the Source Code to Define an RNN Model
그림 Fig. 5. An Example of the Source Code used to Define an LSTM Neural Network Model
그림 Fig. 6. An Example of the Source Code used to Predict Future Tax Revenue using a Trained RNN
그림 Fig. 7. Visualization of a Comparison between the Predicted and Actual Taxes (100 Million USD) with a Trained RNN Model
그림 Fig. 8. Comparison of Variations of Training and Validation Losses for Each Scheme
표 Table 3. Experimental Results : RMSE, R², and Processing Time
표 Table 4. Experimental Results According to the Changing Activation Functions of tanh and ReLU
표 Table 5. Performance Comparisons Based on the Various Optimizers
그림 Fig. 9. Comparison of the Future Tax Prediction Results with the Trained Models

참고문헌 (19)

W. C. Wang, K. W. Chau, C. T. Cheng, and L. Qiu, "A comparison of performance of several artificial intelligence methods for forecasting monthly discharge time series," Journal of Hydrology, Vol.374, No.3, pp.294-306, 2009.

상세보기
A. M. Logar, E. M. Corwin, and W. J. B. Oldham, "A comparison of recurrent neural network learning algorithms," IEEE International Conference on Neural Networks, pp.1129-1134, 1993.
A. Shrestha and A. Mahmood, "Review of deep learning algorithms and architectures," IEEE Access, Vol.7, pp.53040-53065, 2019.

상세보기
S. Hochreiter and J. Schmidhuber, "Long short-term memory," Neural Computation, Vol.9, No.8, pp.1735-1780, 1997.

상세보기
A. Sfetsos, "A comparison of various forecasting techniques applied to mean hourly wind speed time series," Renew Energy, Vol.21, No.1, pp.23-35, 2000.

상세보기
C. L. Wu, K. W. Chau, and C. Fan, "Prediction of rainfall time series using modular artificial neural networks coupled with data-preprocessing techniques," Journal of Hydrology, Vol.389, No.1, pp.146-167, 2010.

상세보기
G. Li and J. Shi, "On comparing three artificial neural networks for wind speed forecasting," Applied Energy, Vol.87, No.7, pp.2313-2320, 2010.

상세보기
T. Chai and R. R. Draxler, "Root mean square error (RMSE) or mean absolute error (MAE)?-Arguments against avoiding RMSE in the literature," Geoscience Model Development, Vol.7, No.3, pp.1247-1250, 2014.

상세보기
T. Kluyver, "Jupyter Notebooks-a publishing format for reproducible computational workflows," Position Power Academy Publication, pp.87-90, 2016.
R. Van, G. and F. L. Drake, "Python 3 Reference Manual," CreateSpace, 2009.
G. Ariel, "pandas," pandas-dev/pandas: Pandas.
G. Varoquaux, G. Buitinck, O. Louppe, F. Grisel, Pedregosa, and A. Mueller, "Scikit-learn," GetMobile Mobile Compututation. Community, Vol.19, No.1, 2015, pp.29-33.
I. Shaft, J. Ahmad, S. I. Shah, and F. M. Kashif, "Impact of varying neurons and hidden layers in neural network architecture for a time frequency application," Proceedings of the 10th IEEE International Conference on Multitopic, pp.188-193, 2006.
K. Shibata and Y. Ikeda, "Effect of number of hidden neurons on learning in large-scale layered neural networks," Proceedings of the International Joint Conference on ICCAS-SICE, pp.5008-5013, 2009.
V. Sharma and T. Avinash, "Understanding Activation Functions in Neural Networks," Medium, Vol.4, No.12, pp.1-10, 2017.
A. L. Maas, A. Y. Hannun, and A. Y. Ng, "Rectifier nonlinearities improve neural network acoustic models," In ICML Workshop on Deep Learning for Audio, Speech and Language Processing, Vol.28, 2013.
D. P. Kingma and J. L. Ba, "Adam: A method for stochastic optimization," Proceedings of the 3rd International Conference on Learning and Representation, pp.1-15, 2015.
M. C. Mukkamala and M. Hein, "Variants of RMSProp and adagrad with logarithmic regret bounds," Proceedings of the 34th International Conference on Machine Learning, Vol.5, pp.3917-3932, 2017.
X. Zhang, L. Liu, L. Xiao, and J. Ji, "Comparison of Machine Learning Algorithms for Predicting Crime Hotspots," IEEE Access, Vol.8, pp.181302-181310, 2020.

상세보기

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증