[논문]심층 신경망을 이용한 변동성 돌파 전략 기반 주식 매매 방법에 관한 연구

이은우; 이원부

doi:10.5392/jkca.2022.22.03.081

심층 신경망을 이용한 변동성 돌파 전략 기반 주식 매매 방법에 관한 연구
A Study on Stock Trading Method based on Volatility Breakout Strategy using a Deep Neural Network 원문보기

한국콘텐츠학회논문지 = The Journal of the Korea Contents Association, v.22 no.3, 2022년, pp.81 - 93

이은우 (동국대학교 일반대학원 핀테크블록체인학과) , 이원부 (동국대학교 일반대학원 핀테크블록체인학과)

초록
AI-Helper

주식 투자는 가장 널리 알려진 재테크 방법들 중 하나지만 실제 투자를 통해 수익을 얻기는 쉽지 않기 때문에 과거부터 효과적이고 안정적인 투자 수익을 얻기 위한 다양한 투자 전략들이 고안되고 시도되어 왔다. 그중 변동성 돌파 전략(Volatility Breakout)은 일일 단위로 일정 수준 이상의 범위를 뛰어넘는 강한 상승세를 돌파 신호로 파악하여 상승하는 추세를 따라가며 일 단위로 빠르게 수익을 실현하는 전략으로 널리 쓰이고 있는 단기 투자 전략들 중 하나이다. 그러나 주식 종목마다 가격의 추이나 변동성의 정도가 다르며 동일한 종목이라도 시기에 따라 주가의 흐름이 일정하지 않아 주가를 예측하고 정확한 매매 시점을 찾아내는 것은 매우 어려운 문제이다. 본 논문에서는 단순히 종가 또는 장기간에 걸친 수익률을 예측하는 기존 연구 방법들과는 달리 단기간에 수익을 실현할 수 있는 주식과 같은 시계열 데이터 분석에 적합한 양방향 장단기 메모리 심층 신경망을 이용하여 변동성 돌파 전략 기반 매매 시의 수익률을 예측하여 주식을 매매하여 방법을 제안한다. 이렇게 학습된 모델로 테스트 데이터에 대하여 실제 매매를 가정하여 실험한 결과 기존의 장단기 메모리 심층 신경망을 이용한 종가 예측 모델보다 수익률과 안정성을 모두 상회하는 결과를 확인할 수 있다.

Abstract ▼ AI-Helper

The stock investing is one of the most popular investment techniques. However, since it is not easy to obtain a return through actual investment, various strategies have been devised and tried in the past to obtain an effective and stable return. Among them, the volatility breakout strategy identifies a strong uptrend that exceeds a certain level on a daily basis as a breakout signal, follows the uptrend, and quickly earns daily returns. It is one of the popular investment strategies that are widely used to realize profits. However, it is difficult to predict stock prices by understanding the price trend pattern of stocks. In this paper, we propose a method of buying and selling stocks by predicting the return in trading based on the volatility breakout strategy using a bi-directional long short-term memory deep neural network that can realize a return in a short period of time. As a result of the experiment assuming actual trading on the test data with the learned model, it can be seen that the results outperform both the return and stability compared to the existing closing price prediction model using the long-short-term memory deep neural network model.

주제어

AI 본문요약
AI-Helper

가설 설정

다음으로 제안 모델의 테스트 데이터에서의 CAGR, 샤프 지수, 변동성, MDD를 계산한 결과는 [표 6]과 같다. CAGR, 변동성, 샤프 지수는 1년의 거래일을 252 일로 가정하여 연율화를 적용하였으며, MDD는 테스트 기간의 최대 누적 수익률 대비 최저 누적 수익률의 낙폭으로 계산하였다.
예측 실험은 본 연구에서 실험 종목으로 지정한 세방전지의 테스트 데이터 셋인 2021년 4월 23일부터 2021년 8월 31일까지의 기간동안 3장에서 학습한 양방향 LSTM 모델이 당일 고가가 목표 매수가 이상인 경우에 다음날 시가 매도 시 양의 수익률일 경우를 예측했을 시에 해당 종목을 목표 매수가에 매수함을 가정한다.
다음으로 LSTM 모델의 테스트 데이터에서의 CAGR, 샤프 지수, 변동성, MDD를 계산한 결과는 [표 8]와 같다. 제안 모델과 마찬가지로 CAGR, 변동성, 샤프 지수는 1년의 거래일을 252일로 가정하여 연율화를적용하였으며, MDD는 테스트 기간의 최대 누적 수익률 대비 최저 누적 수익률의 낙폭으로 계산하였다.

제안 방법

본 연구에서는 국내 주식 시장 종목들을 대상으로 변동성 돌파 전략의 성능을 향상시킬 수 있는 양방향 LSTM 기반의 예측 모델을 수립하였다. 당일 변동성 돌파 전략에 기반한 목표 매수가에 주식을 매수하고 다음날 시가에 판매하였을 때의 수익 달성 여부를 예측한다. 이를 위해 2021년 8월 31일 기준으로 KOSPI와 KOSDAQ에 상장된 국내 주식 종목 데이터와 KOSPI, KOSDAQ 지수와 거래량을 사용하였다.
본 연구에서는 국내 주식 시장 종목들을 대상으로 변동성 돌파 전략의 성능을 향상시킬 수 있는 양방향 LSTM 기반의 예측 모델을 수립하였다. 당일 변동성 돌파 전략에 기반한 목표 매수가에 주식을 매수하고 다음날 시가에 판매하였을 때의 수익 달성 여부를 예측한다.
이에 본 논문에서는 실제로 주식 투자에 널리 쓰이는 대표적인 단기 매매 전략인 변동성 돌파 전략을 수행하였을 때의 수익률을 심층 신경망을 이용하여 예측하여 매매하는 모델을 제안하고 성능을 검증하기 위해 기존의 연구 방법과의 성과를 비교하였다.
이후 구성된 네트워크의 최적의 하이퍼 파라미터를 도출하기 위하여 하이퍼 파라미터의 조합별로 학습을 진행하여 검증 데이터의 예측 결과에서 최적의 성능을 내는 모델을 선별하였으며, 해당 모델로 테스트 데이터에서의 실제 매매를 가정하는 실험을 진행하여 제안 모델의 성능을 평가하였다.

대상 데이터

따라서 본 연구에서는 2021년 8월 31일을 기준으로 과거 100거래일 동안의 데이터를 성능 평가를 위한 테스트 데이터로 나누고, 그 이전의 100거래일을 검증 데이터, 그리고 그 이전 500 거래일 동안의 데이터를 훈련 데이터로 분류한다. 그리고 투자 전략을 실전에 적용하여 수익을 얻기 위해서는 충분한 거래량이 뒷받침되어야 실제 거래가 일어날 수 있기 때문에 최근 20일 동안의 최소 거래 총액이 10억원 이상인 경우와 충분한 학습 데이터 확보를 위하여 2021년 8월 31일 기준으로 500 거래일 이상의 거래 데이터를 가지고 있는 종목을 선별하였다. 또한 위에서 언급한 데이터 불균일 문제를 피하고 균형적으로 학습된 결과 모델을 얻기 위하여 검증 데이터 기준으로 다음날 시가 매도 시 수익률이 양수인 경우가 45 ~ 55%에 해당하는 주식 종목 중 당일 고가가 목표 매수가 이상으로 상승하는 횟수가 가장 많은 세방전지를 실험 대상 종목으로 선정하였다.
이를 위해 2021년 8월 31일 기준으로 KOSPI와 KOSDAQ에 상장된 국내 주식 종목 데이터와 KOSPI, KOSDAQ 지수와 거래량을 사용하였다. 데이터는 네이버 금융에서 수집하였으며실제 수집된 데이터는 [표 1] 의 형태를 가지고 있다.
따라서 본 연구에서는 2021년 8월 31일을 기준으로 과거 100거래일 동안의 데이터를 성능 평가를 위한 테스트 데이터로 나누고, 그 이전의 100거래일을 검증 데이터, 그리고 그 이전 500 거래일 동안의 데이터를 훈련 데이터로 분류한다. 그리고 투자 전략을 실전에 적용하여 수익을 얻기 위해서는 충분한 거래량이 뒷받침되어야 실제 거래가 일어날 수 있기 때문에 최근 20일 동안의 최소 거래 총액이 10억원 이상인 경우와 충분한 학습 데이터 확보를 위하여 2021년 8월 31일 기준으로 500 거래일 이상의 거래 데이터를 가지고 있는 종목을 선별하였다.
그리고 투자 전략을 실전에 적용하여 수익을 얻기 위해서는 충분한 거래량이 뒷받침되어야 실제 거래가 일어날 수 있기 때문에 최근 20일 동안의 최소 거래 총액이 10억원 이상인 경우와 충분한 학습 데이터 확보를 위하여 2021년 8월 31일 기준으로 500 거래일 이상의 거래 데이터를 가지고 있는 종목을 선별하였다. 또한 위에서 언급한 데이터 불균일 문제를 피하고 균형적으로 학습된 결과 모델을 얻기 위하여 검증 데이터 기준으로 다음날 시가 매도 시 수익률이 양수인 경우가 45 ~ 55%에 해당하는 주식 종목 중 당일 고가가 목표 매수가 이상으로 상승하는 횟수가 가장 많은 세방전지를 실험 대상 종목으로 선정하였다. 최종적으로 세방전지의 데이터를 학습, 검증, 테스트 데이터로 분류하였을 때 각 데이터의 기간은 [표 3]에 나타낸 바와 같다.
세방전지의 2021년 4월 23일부터 2021년 8월 31일까지의 테스트 데이터로 본 연구에서 제안한 매매 전략을 학습한 모델의 성능을 평가하였다. [표 5]는 셋방 전지의 당일 고가가 목표 매수가 이상일 경우에 다음날 수익 실현 여부 예측 결과를 혼동 행렬로 나타낸 결과이다.
당일 변동성 돌파 전략에 기반한 목표 매수가에 주식을 매수하고 다음날 시가에 판매하였을 때의 수익 달성 여부를 예측한다. 이를 위해 2021년 8월 31일 기준으로 KOSPI와 KOSDAQ에 상장된 국내 주식 종목 데이터와 KOSPI, KOSDAQ 지수와 거래량을 사용하였다. 데이터는 네이버 금융에서 수집하였으며실제 수집된 데이터는 [표 1] 의 형태를 가지고 있다.

데이터처리

또한 단방향 장단기 순환 신경망(LSTM)을 사용하여 일정 종목의 종가를 예측하는 기존의 연구와의 테스트데이터에서의 결과를 계산하여 제안 모델과의 성능을 비교하였다.

이론/모형

모델 학습은 Keras의 ModelCheckPoint함수를 이용하여 검증 데이터의 예측 정확도 값이 가장 낮은 값을 기록한 모델을 저장하도록 하였고, EarlyStopping 기능을 활용하여 100 Epoch 동안 검증 데이터의 예측정확도 값이 증가하지 않는 경우에는 학습을 중단하도록 하였다. 하이퍼 파라미터를 변경해가며 각각 5000 번의 Epoch를 실행한 결과는 결과, 양방향 LSTM 순환 신경망의 유닛 수는 800, 은닉층의 개수는 4, 그리고 배치 사이즈가 32일 때 학습 정확도는 약 0.
본 연구에서 모델의 성능을 평가하는 방법으로 예측정확도, ROC 곡선, 수익률, CAGR, MDD, 변동성, 샤프 지수를 사용하였다.
본 연구에서는 당일 고가가 목표 매수가 이상일 경우 해당 종목을 매수하고 당일 시가에 매도했을 시 수익률이 양수 또는 음수인지 여부를 출력하는 하나의 출력층을 갖는 양방향 LSTM 순환 신경망모델을 사용하였다. 따라서 은닉층들은 양방향 LSTM층들로 구성되고 출력층은 Dense Layer로 구성되며 활성화 함수는 분류 문제에 적합한 Sigmoid를 사용하였다.

성능/효과

LSTM 모델의 정확도는 57%로 본 연구에서 제안한 모델에 비해 37% 감소된 성능을 보였다. 정밀도 (Precision)는 46%로 나타났다.
그 결과 제안 모델이 기존의 방법보다 우수한 수익률을 올린 것을 확인할 수 있었으며, 주식 투자에서 중요한 요소로 작용하는 변동성 면에서 유리한 성과가 나타났다. 특히 투자자의 심리적 고통을 나타내는 MDD는 기존 방법에 비해 약 35배 낮은 결과를 냄으로써 안정성 면에서도 우수함을 증명하였다.
특히 시계열 분석 분야에서 많이 쓰이는 단방향 장단기 메모리 순환 신경망보다 자연어 처리 등 분야에서 탁월한 성능을 보여주는 양방향 장단기 메모리 순환 신경망을 사용하였다. 또한 모델이 안정적이고 신뢰할 수 있는 학습을 할 수 있도록 KOSPI 및 KOSDAQ에 상장된 주식 종목 중 주식 종목의 당일 고가가 변동성 돌파 전략에 따른 매수 목표가 이상인 경우의 데이터가 충분히 존재하고 예측 결과인 수익 또는 손실의 경우가 균일하게 포진된 데이터를 선별하는 과정을 거쳤다.
351 으로 제안 모델보다 낮은 수치를 기록하였다. 반면 변동성은 23.6%로 제안 모델보다 변동성이 매우 크다는 것을 확인할 수 있으며 특히 MDD가 7.9%로 실제 투자자가 LSTM 모델로 매매를 수행하였을 시 경험할 수 있는 수익률의 낙폭이 제안 모델에 비해 크다는 것을 알 수 있다.
실험 결과 제안 모델의 수익 실현 예측 정확도는 74%를 기록하였으며, 특히 참으로 예측한 경우 중 실제 참인 것을 의미하는 정밀도는 86%를 달성하였다. 제안 모델의 테스트 데이터의 마지막 시점에서의 누적 수익률은 17.
541로 나타나 투자 성과가 굉장히 뛰어난 전략임을 입증하였다. 안정성 면에서도 수익률의 변동성은 12.9%, 최대 낙폭을 의미하는 MDD는 0.2%에 불과하여 제안 방법으로 안정적인 수익률 운용이 가능하다는 점도 증명하였다.
제안 모델의 CAGR은 56.0%에 달하며 1이상만 되어도 우수한 전략이라고 평가하는 지표인 샤프 지수는 3.541이로 매우 높은 결과를 보여주었다. 수익률의 변동성은 12.
실험 결과 제안 모델의 수익 실현 예측 정확도는 74%를 기록하였으며, 특히 참으로 예측한 경우 중 실제 참인 것을 의미하는 정밀도는 86%를 달성하였다. 제안 모델의 테스트 데이터의 마지막 시점에서의 누적 수익률은 17.2%를 기록하였으며 연평균 수익률을 나타내는 CAGR은 56.0%를 달성하였다. 그리고 위험 대비 초과 수익률을 의미하는 샤프 지수는 3.
그 결과 제안 모델이 기존의 방법보다 우수한 수익률을 올린 것을 확인할 수 있었으며, 주식 투자에서 중요한 요소로 작용하는 변동성 면에서 유리한 성과가 나타났다. 특히 투자자의 심리적 고통을 나타내는 MDD는 기존 방법에 비해 약 35배 낮은 결과를 냄으로써 안정성 면에서도 우수함을 증명하였다.

후속연구

그리고 주식 종목별 그리고 시기 별로 패턴이 동일하지 않을 수 있으므로 예측 성능이 가장 높은 최적의 모델을 구성하는 하이퍼 파라미터가 다를 수가 있다. 따라서 예측이 필요한 시점마다 가장 높은 성능을 내는 모델을 도출하기 위해 하이퍼 파라미터를 튜닝하는 과정에서 상당한 시간이 소요되기 때문에 모델의 레이어 또는 유닛 수를 보다 최적화하여 학습 파라미터의 개수를 줄이거나 이미 생성된 모델에 대한 재평가 또는 재학습 프로세스를 추가하여 보다 효율적으로 모델을 관리할 필요가 있다.
마지막으로 본 연구에서 채택한 변동성 돌파 전략 이외에 다양한 투자 전략들을 적용 또는 서로 조합하고 심층 신경망 모델로 예측하는 여러 가지 응용 모델을 파생시킬 수 있다. 이를 통해 시장 또는 개별 종목에 보다 최적화된 모델을 적용함으로써 성능 향상을 기대할 수 있다.
마지막으로 본 연구에서 채택한 변동성 돌파 전략 이외에 다양한 투자 전략들을 적용 또는 서로 조합하고 심층 신경망 모델로 예측하는 여러 가지 응용 모델을 파생시킬 수 있다. 이를 통해 시장 또는 개별 종목에 보다 최적화된 모델을 적용함으로써 성능 향상을 기대할 수 있다.
또한 본 논문은 한국의 주식 시장에 상장된 종목들을 대상으로 제안 방법의 실효성을 연구하였다. 하지만 해외 주식 시장, 가상화폐 시장 뿐만 아니라 유가, 금 시세, 미술품 가격, 부동산 가격 등 시계열 형태를 가지는 다양한 시장 데이터에 대한 연구로 확장이 가능하다.

참고문헌 (26)

R. J. Shiller, "The Use of Volatility Measures in Assessing Market Efficiency," The Journal of Finance, Vol.36, No.2, pp.291-304, 1981.

상세보기
Jigar Patel, Sahil Shah, Priyank Thakkar, and K. Kotecha., "Predicting stock market index using fusion of machine learning techniques," Expert Systems with Applications, Vol.42, No.4, pp.2162-2172, 2015.

상세보기
송유정, 이정우, "텐서플로우를 이용한 주가 변동 예측 딥러닝 모델 설계 및 개발," 한국정보과학회 2017년 한국컴퓨터종합학술대회 논문집, pp.799-801, 2017
Larry R. Williams, "Long-term secrets to short-term trading," John Wiley & Sons, Inc, 2011.
Sepp Hochreiter and Jurgen Schmidhuber, "Long short-term memory," Neural Computation, Vol.9, No.8, pp.1735-1780, 1997.

상세보기
고상준, 윤호영, 신동명, "양방향 LSTM을 활용한 전력수요 데이터예측 기법 연구," 한국소프트웨어감정평가학회 논문지, Vol.14, No.1, pp.33-40, 2018.
Thomas Nesnidal, "The Anatomy of a Breakout Automated Trading Stragtegy," http://systemtradersuccess.com/the-anatomy-of-a-breakout-automated-trading-strategy-the-components, 2019.
A. F. Sheta, S. E. M. Ahmed, and H. Faris, "A comparison between regression, artificial neural networks and support vector machines for predicting stock market index," Soft Computing, Vol.7, No.8, 2015.
E. Guresen, G. Kayakutlu, and T. U. Daim, "Using artificial neural network models in stock market index prediction," Expert Systems with Applications, Vol.38, No.8, pp.10389-10397, 2011.

상세보기
A. Arevalo, J. Nino, G. Hernandez, and J. Sandoval, "High-frequency trading strategy based on deep neural Networks," In International conference on intelligent computing, Springer International Publishing, pp.424-436, 2016.
L. Takeuchi and Y. Y. A. Lee, Applying deep learning to enhance momentum trading strategies in stocks, Working paper, Stanford University, 2013.
Guanting Chen, Yatong Chen, and Takahiro Fushimi, "Application of Deep Learning to Algorithmic Trading," Stanford University CS 229, 2017.
P. Thanathamathee and C. Lursinsap, "Handling imbalanced data sets with synthetic boundary data generation using bootstrap re-sampling and AdaBoost technique," Pattern Recognition Letters, Vol.34, No.12, pp.1339-1347, 2013.
Ian Goodfellow, Yoshua Bengio, and Aaron Courville, Deep Learning, The MIT Press, 2016.
S. Bock, J. Goppol, and M. Weiss, "An improvement of the convergence proof of the ADAM-Optimizer," arXiv preprint arXiv:1804.10587, 2018.
Yuxin Wu and Justin Johnson, "Rethinking "Batch" in BatchNorm," arXiv:2105.07576, 2021.
Sergey Ioffe and Christian Szegedy, "Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift," arXiv:1502.03167, 2015.
Reimers. N, Gurevych, "Optimal hyper-parameters for deep lstm-networks for sequence labering tasks," arXiv preprint arXiv:1707.06799, 2017.
G. E. Hinton, Srivastava Nitish, Krizhevsky Alex, Sutskever Ilya, and Ruslan R. Salakhutdinov, "Improving neural networks by preventing co-adaptation of feature detectors," arXiv, 1207.0580, 2012.
J. A. Hanley and B. J. McNeil., "The meaning and use of the area under a receiver operating characteristic (ROC) curve," Radiology, Vol.143, pp.29-36, 1982.

상세보기
Mark J. P. Anson, Frank J. Fabozzi, and Frank J. Jones, "The Handbook of Traditional and Alternative Investment Vehicles: Investment Characteristics and Strategies," John Wiley & Sons, 2010.
Malik Magdon-Ismail, Amir F. Atiya, Amrit Pratap, and Yaser S. Abu-Mostafa, "On the maximum drawdown of a Brownian motion," Journal of applied probability, Vol.41, No.1, pp.147-161, 2004.

상세보기
R. G. Clarke, H. Silva, and S. Thorley, "Minimum-Variance Portfolio in the U.S. Equity Market," Journal of Portfolio Management, Vol.33, No.1, pp.10-24, 2006.
William F. Sharpe, "The Sharpe Ratio," The Journal of Portfolio Management, Vol.21, No.1, pp.49-58, 1994.

상세보기
M. V. Valueva, N. N. Nagornov, P. A. Lyakhov, G. V. Valuev, and N. I. Chervyakov, "Application of the residue number system to reduce hardware costs of the convolutional neural network implementation," Mathematics and Computers in Simulation, Elsevier BV. Vol.177, pp.232-243, 2020.

상세보기
Y. J. Baek and H. Y. Kim, "ModAugNet: A new forecasting framework for stock market index value with an overfitting prevention LSTM module and a prediction LSTM module," Expert Systems with Applications, Vol.113, pp.457-480, 2018.

상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증