[논문]가중치 손실 함수를 가지는 순환 컨볼루션 신경망 기반 주가 예측

김현진; 정연승

doi:10.3745/ktsde.2019.8.3.123

가중치 손실 함수를 가지는 순환 컨볼루션 신경망 기반 주가 예측
A Stock Price Prediction Based on Recurrent Convolution Neural Network with Weighted Loss Function 원문보기

정보처리학회논문지. KIPS transactions on software and data engineering. 소프트웨어 및 데이터 공학, v.8 no.3, 2019년, pp.123 - 128

김현진 (단국대학교 전자전기공학부) , 정연승 (단국대학교 경영학부)

초록
AI-Helper

본 논문에서는 RCNN (recurrent convolution neural network) 계층 모델을 채택한 인공 지능에 기반을 둔 주가 예측을 제안한다. LSTM (long-term memory model) 기반 신경망은 시계열 데이터의 예측에 사용된다. 다른 한편, 컨볼루션 신경망은 데이터 필터링, 평균화 및 데이터 확장을 제공한다. 제안된 주가 예측에서는 위에서 언급 한 장점들을 RCNN 모델에서 결합하여 적용함으로써 다음날의 주가 종가를 예측한다. 그리고 최근의 시계열의 데이터를 강조하기 위해 커스텀 가중치 손실 함수가 채택되었다. 또한 시장의 상황을 반영하기 위해 주가 인덱스에 관련된 데이터를 입력으로 포함하였다. 제안된 주가 예측 방식은 실제 주가를 대상으로 한 실험에서 3.19%로 테스트 오차를 줄였으며, 다른 방법보다 약 19%의 성능 향상을 거둘 수 있었다.

Abstract ▼ AI-Helper

This paper proposes the stock price prediction based on the artificial intelligence, where the model with recurrent convolution neural network (RCNN) layers is adopted. In the motivation of this prediction, long short-term memory model (LSTM)-based neural network can make the output of the time series prediction. On the other hand, the convolution neural network provides the data filtering, averaging, and augmentation. By combining the advantages mentioned above, the proposed technique predicts the estimated stock price of next day. In addition, in order to emphasize the recent time series, a custom weighted loss function is adopted. Moreover, stock data related to the stock price index are adopted to consider the market trends. In the experiments, the proposed stock price prediction reduces the test error by 3.19%, which is over other techniques by about 19%.

주제어

표/그림 (9)

그림 Fig. 1. Basic Structure of RNN
그림 Fig. 2. Structure of LSTM Cell
그림 Fig. 3. Example Using Convolution Layers
그림 Fig. 4. Structure of RCNN in Proposed Method
표 Table 1. Experimental Environments
표 Table 2. Performance Comparisons
그림 Fig. 5. Averaging Errors According to Epoch
그림 Fig. 6. Averaging Errors Compared to Other RCNN Approaches
표 Table 3. Comparison in Terms of Training Time

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 RCNN 계층 모델을 채택한 인공 지능에 기반을 둔 주가 예측을 제안 및 구현하였다. 제안된 방법은 순환신경망과 컨볼루션의 신경망을 결합한다.
순차적 데이터에 대해 근래와 가까운 데이터에 가중치를 줌으로써 성능을 높일 수 있다고 알려져 있다[10]. 본 연구에서는 정확한 주가 예측을 위해 근래와 가까운 주가의 예측에 대해 가중치 손실함수를 제시한다. 이 가중치 손실함수에서는 최종 주가 데이터의 날짜와 먼 과거일수록 가중치가 작아지고 가장 최근 데이터의 가중치는 1로 설정하였다.

제안 방법

각각의 batch 입력의 크기는 200으로 설정하였으며 이에 대해서 500의 epoch까지 학습을 수행하였다. 각 epoch 마다 테스트를 수행하여 예측한 주가를 추출하였다. 또한 손실 함수의 가중치 변화에 사용된 상수는 1로 설정하고 최소 가중치는 0.
풀링의 경우는 폭(stride)을 2로 유지하여 2개의값을 평균하도록 하였으며 패딩의 경우는 valid로 설정하였다. 각각의 batch 입력의 크기는 200으로 설정하였으며 이에 대해서 500의 epoch까지 학습을 수행하였다. 각 epoch 마다 테스트를 수행하여 예측한 주가를 추출하였다.
제안된 방법은 순환신경망과 컨볼루션의 신경망을 결합한다. 그리고 최근의 데이터의 영향을 강조하기 위해 커스텀 가중치 손실 함수가 채택하고 시장의 상황을 반영하기 위해 주가 인덱스에 관련된 데이터를 채택하였다. 본 제안으로 실험한 결과 3.
첫 번째, 미래 주가의 예측은 과거이 시계열 데이터 집합보다는 근래의 시계열 데이터 집합에 더욱 큰 영향을 받을 수밖에 없다는 직관에 판단하여 커스텀 가중치 손실 함수를 제안하고 적용하였다. 두 번째로, 종목에 대한 값들과 그 종목이 속한 주가지수의 값들을 포함하고 신경망을 학습하도록 하였다. 실험에서는 삼성전자의 2010년 6월 24일부터 2018년6월 7월까지의 데이터를 포함하여 신경망을 학습시키고 이후10일간의 주가를 예측한 결과 3.
본 논문에서는 LSTM의 시계열 데이터 분석의 장점과, 컨볼루션 신경망의 필터링과 풀링을 통한 지역적 특징과 전역적 특징의 추출의 장점을 결합한 RCNN 모델을 이용해 주가예측을 시도하였다. 이와 더불어 몇 가지 아이디어를 적용하였다.
한 종목의 주가를 예측하는 경우 대외적인 여러 가지 변수로 인해 종목의 주가를 정확히 예측하기 힘들다[7]. 본 연구에서는 단순히 해당 종목의 주가만을 학습에 사용하는 것이 아니라 종목이 속한 주가 지수를 적용하였다. 주가 지수는 전체적인 시장의 상황과 대외적인 여러 가지 변수의 영향을 반영한다고 할 수 있다.
기존의 몇몇 응용분야에서 각각의 신경망 구조의 장점들을 결합하여 더 향상된 결과를 도출하기 위한 연구가 진행되었다[9]. 본 제안된 방법은 기존의 LSTM 셀 기반의 주가예측보다 향상된 결과를 도출하기 위해 컨볼루션 신경망과 순환 신경망을 결합하였다. Fig.
본 논문에서는 RCNN 계층 모델을 채택한 인공 지능에 기반을 둔 주가 예측을 제안 및 구현하였다. 제안된 방법은 순환신경망과 컨볼루션의 신경망을 결합한다. 그리고 최근의 데이터의 영향을 강조하기 위해 커스텀 가중치 손실 함수가 채택하고 시장의 상황을 반영하기 위해 주가 인덱스에 관련된 데이터를 채택하였다.
5으로 모든 코드는 작성되고 수행되었다. 주가 데이터는 Pandas [13]를 통해 읽어 들였으며, GPU를 지원하는 Tensorflow-gpu [12]를 사용하여 기존 및 제안된 신경망을 구현하였다. 또한 Table 1에 Fig.
이와 더불어 몇 가지 아이디어를 적용하였다. 첫 번째, 미래 주가의 예측은 과거이 시계열 데이터 집합보다는 근래의 시계열 데이터 집합에 더욱 큰 영향을 받을 수밖에 없다는 직관에 판단하여 커스텀 가중치 손실 함수를 제안하고 적용하였다. 두 번째로, 종목에 대한 값들과 그 종목이 속한 주가지수의 값들을 포함하고 신경망을 학습하도록 하였다.

대상 데이터

본 논문에서는 Yahoo Finance [11]로부터 다운로드 받은 삼성전자와 KOSPI 데이터를 가지고 실험을 수행하였다. 2010년6월 24일부터 2018년 6월 7일가지의 데이터를 포함하였다. 하루에 해당되는 하나의 벡터에는 하루의 시가, 고가, 저가, 종가, 조정 후 종가, 거래량의 6개의 값이 포함되어 있으며 삼성전자와 KOSPI 주가 데이터를 포함하는 경우에는 각각의 12개의 값을 포함하게 하였다.
본 논문에서는 Yahoo Finance [11]로부터 다운로드 받은 삼성전자와 KOSPI 데이터를 가지고 실험을 수행하였다. 2010년6월 24일부터 2018년 6월 7일가지의 데이터를 포함하였다.
Table 2는 위의 실험 환경을 바탕으로 제안된 RCNN 구조에서 주가를 예측한 결과를 비교한 표이다. 실험 결과에서는 후반 100개의 epoch마다 테스트를 수행한 결과를 제시하였다. 여기에서 좌측의 se, ks, c, w 인덱스는 각각 삼성전자 주가 데이터, KOSPI의 주가 데이터, 컨볼루션 및 폴링 레이어, 가중치의 데이터를 택한 것을 의미한다.
이들은 각 종류의 최대 최솟값의 차로 나누어 정규화 하였다. 하나의 순차 데이터에는 28일간의 벡터를 포함하게 하여 총 1929개의 순차 데이터를 가지고 학습을 수행하였다. 학습 결과에 대한 평가에서는 학습 데이터 이후 10일간의 주가를 역정규화를 통해 예측하고 실제 주가와 비교 테스트함으로써 분석에 필요한 정량적인 데이터를 확보하였다.
하나의 순차 데이터에는 28일간의 벡터를 포함하게 하여 총 1929개의 순차 데이터를 가지고 학습을 수행하였다. 학습 결과에 대한 평가에서는 학습 데이터 이후 10일간의 주가를 역정규화를 통해 예측하고 실제 주가와 비교 테스트함으로써 분석에 필요한 정량적인 데이터를 확보하였다.

이론/모형

2로 설정하였다. LSTM 셀에서의 활성화(activation) 함수는 Softsign을 사용하였으며 AdamOptimizer 최적화 함수를 사용하였다.

성능/효과

다음번의 배치에서다시 손실을 구하고 역전파를 반복하며 손실을 줄이는 파라미터 값을 찾게 된다. 결론적으로 기존의 주가 데이터에 기반을 둔 최소의 손실을 가지는 파라미터 값을 찾게 되는 것이다.
최대오류는4,779이고 최소오류는 642였다. 다른 입력 데이터 및 다른 신경망 구조들에 대비하여 1,551원～73원의 평균오류의 향상된 결과를 얻을 수 있었으며 이는 평균 19% 정도의 성능향상을 가져왔다. 또한 종목의 주가만을 사용한 경우보다, KOSPI의지수를 같이 사용한 경우 542원의 평균오류 감소를 가져왔으며 가중치 손실 함수를 사용한 경우 129원의 평균오류의 감소를 얻을 수 있었다.
다른 입력 데이터 및 다른 신경망 구조들에 대비하여 1,551원～73원의 평균오류의 향상된 결과를 얻을 수 있었으며 이는 평균 19% 정도의 성능향상을 가져왔다. 또한 종목의 주가만을 사용한 경우보다, KOSPI의지수를 같이 사용한 경우 542원의 평균오류 감소를 가져왔으며 가중치 손실 함수를 사용한 경우 129원의 평균오류의 감소를 얻을 수 있었다.
그리고 최근의 데이터의 영향을 강조하기 위해 커스텀 가중치 손실 함수가 채택하고 시장의 상황을 반영하기 위해 주가 인덱스에 관련된 데이터를 채택하였다. 본 제안으로 실험한 결과 3.19%의 예측 오차를 보였으며 다른 방법들 대비 약 19%의 성능향상이 있었다. 이를 고려할 때 제안된 방법은 주가를 예측하는 의미 있는 결과를 도출하였다고 할 수 있다.
두 번째로, 종목에 대한 값들과 그 종목이 속한 주가지수의 값들을 포함하고 신경망을 학습하도록 하였다. 실험에서는 삼성전자의 2010년 6월 24일부터 2018년6월 7월까지의 데이터를 포함하여 신경망을 학습시키고 이후10일간의 주가를 예측한 결과 3.19%의 테스트 오차 수준으로 성능이 향상되었다.
위의 결과를 보면 제안된 방법은 평균오류는 1,530원으로대략 주가대비 3.19%의 평균오류 비율을 보였다. 최대오류는4,779이고 최소오류는 642였다.

질의응답

핵심어	질문	논문에서 추출한 답변
	주식이란?	주식은 주주가 주식회사에 출자한 일정한 지분과 이익을 나타내는 증권을 의미한다. 이를 통해 기업의 자산 분배, 이익 분배의 권리 참여를 소유자에게 부여하게 된다.
	RCNN 모델의 특징은 무엇인가?	본 논문에서는 LSTM의 시계열 데이터 분석의 장점과, 컨볼루션 신경망의 필터링과 풀링을 통한 지역적 특징과 전역적 특징의 추출의 장점을 결합한 RCNN 모델을 이용해 주가예측을 시도하였다. 이와 더불어 몇 가지 아이디어를 적용하였다.
	순환 신경망을 적용한 분야는 무엇이 있는가?	특히 순환 신경망(Recurrent Neural Network: RNN)은 내부에 루프가 있어 과거 데이터가 미래에 영향을 주는 특징을 가지고 있다. 이미 음성인식, 언어 모델링, 번역의 순차적 데이터가 필요한 분야에서 효과를 거두고 있다. 특히 장기 의존성(Long-Term Dependency)을 해결한 LSTM은 다양한 분야에 적용되고 있다[3].

참고문헌 (15)

S. Russell and P. Norvig, "Artificial Intelligence: A Modern Approach," 3th ed., New York: Prentice Hall, 2009.
Yu Jin Oh and Yu Seop Kim, "Artificial intelligence : A two-Phase hybrid stock price forecasting model: cointegration tests and artificial neural networks," The KIPS Transactions: Part B, Vol.14, No.7, pp.531-540, 2007.
Rafal Jozefowicz, Wojciech Zaremba, and Ilya Sutskever, "An empirical exploration of recurrent network architectures," in Proceedings of the 32nd International Conference on Machine Learning, pp.2342-2350, 2015.
Hun Kim., Lecture of Machine Learning and Deep Learning [Internet], https://hunkim.github.io/ml/.
Convolution network [Internet], https://deeplearning4j.org.
Israt Jahan and Sayeed Sajal, Stock Price Prediction using Recurrent Neural Network (RNN) Algorithm on Time-Series Data [internet], https://www.micsymposium.org.
Dong-Ha Shin, Kwang-Ho Choi, and Chang-Bok Kim, "Deep learning model for prediction rate improvement of stock price Using RNN and LSTM," Journal of KIIT, Vol.15, No.10, pp.9-16, 2017.
Qun Zhuge, Lingyu Xu, and Gaowei Zhang, "LSTM Neural Network with Emotional Analysis for Prediction of Stock Price," Engineering Letters, Vol.25, No.2, 2017.
Baoguang Shi, Xiang Bai, and Cong Yao, "An end-to-end trainable neural network for image-based sequence recognition and its application to scene text recognition," IEEE Transactions on Pattern Analysis and Machine Intelligence, Vo.39, No.11, pp.2298-2304, 2017.

상세보기
Jaeho Chang and Jechang Jeong, "Topic mining using time axis weighting," in Proceedings of the Korea Data mining Society Spring Conference, 2012.
Yahoo finance [Internet], https://in.finance.yahoo.com/.
Tensorflow [Internet], https://www.tensorflow.org.
Pandas [Internet], https://pandas.pydata.org/.
Anaconda [Internet], https://www.anaconda.com/download.
Predict Stock Prices Using RNN [Internet], https://lilianweng.github.io/lil-log/2017/07/08/predict-stock-prices-using-RNN-part-1.html.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증