[논문]다변량 시계열 분석에 기반한 쿠버네티스 오토-스케일링 개선

김용회; 김영한

doi:10.3745/ktccs.2022.11.3.73

다변량 시계열 분석에 기반한 쿠버네티스 오토-스케일링 개선
An Improvement of Kubernetes Auto-Scaling Based on Multivariate Time Series Analysis 원문보기

정보처리학회논문지. KIPS transactions on computer and communication systems 컴퓨터 및 통신 시스템, v.11 no.3, 2022년, pp.73 - 82

김용회 (숭실대학교 IT융합학과) , 김영한 (숭실대학교 전자정보공학부)

초록
AI-Helper

오토-스케일링은 클라우드 컴퓨팅 기술이 ICT 핵심 기반 기술로 자리 잡을 수 있는 가장 중요한 기능 중 하나로써 사용자나 서비스 요청의 폭발적인 증가 또는 감소에도 시스템 자원과 서비스 인스턴스를 적절하게 확장 또는 축소하여 상황에 맞는 서비스의 안정성과 비용 대비 효과를 향상하는 기술이다. 하지만 특정 시스템 자원에 대한 모니터링 시점의 단일 메트릭 데이터를 기반으로 정책이 수립·실행되다 보니 이미 서비스에 영향이 있거나 실제 필요한 서비스 인스턴스를 세밀하게 관리하지 못하는 문제점이 있다. 이러한 문제점을 해결하기 위해서 본 논문에서는 시스템 자원과 서비스 응답시간을 다변량 시계열 분석 모델을 사용하여 분석·예측하고 이를 기반으로 오토-스케일링 정책을 수립하는 방안을 제안한다. 이를 검증하기 위해 쿠버네티스 환경에서 커스텀 스케쥴러를 구현하고, 실험을 통해 쿠버네티스 기본 오토-스케일링 방식과 비교 분석한다. 제안하는 기법은 시스템 자원과 응답시간 사이의 영향에 기반한 예측 데이터를 활용하여 예상되는 상황에 대한 오토-스케일링을 선제적으로 실행함으로써 시스템의 안정성을 확보하고 서비스 품질이 저하되지 않는 범위내에서 필요한 만큼의 인스턴스를 세밀하게 관리할 수 있는 결과를 보인다.

Abstract ▼ AI-Helper

Auto-scaling is one of the most important functions for cloud computing technology. Even if the number of users or service requests is explosively increased or decreased, system resources and service instances can be appropriately expanded or reduced to provide services suitable for the situation and it can improves stability and cost-effectiveness. However, since the policy is performed based on a single metric data at the time of monitoring a specific system resource, there is a problem that the service is already affected or the service instance that is actually needed cannot be managed in detail. To solve this problem, in this paper, we propose a method to predict system resource and service response time using a multivariate time series analysis model and establish an auto-scaling policy based on this. To verify this, implement it as a custom scheduler in the Kubernetes environment and compare it with the Kubernetes default auto-scaling method through experiments. The proposed method utilizes predictive data based on the impact between system resources and response time to preemptively execute auto-scaling for expected situations, thereby securing system stability and providing as much as necessary within the scope of not degrading service quality. It shows results that allow you to manage instances in detail.

주제어

표/그림 (15)

그림 Fig. 1. Auto-scaling Methods
그림 Fig. 2. System Configuration of Custom Scheduler
표 Table 1. Functions of Custom Scheduler Components
그림 Fig. 3. Sequence Diagram
그림 Fig. 4. Suggestion Method Auto-Scaling Algorithm
그림 Fig. 5. Pseudo Code for Analysis
그림 Fig. 6. Pseudo Code for Auto-Scaling Algorithem
그림 Fig. 7. Source Code For VAR Analysis
표 Table 2. Auto-Scaling Policy
표 Table 3. Parameters for Auto-Scaling
그림 Fig. 8. Source Code for Auto-Scaling
표 Table 4. Server Instance
그림 Fig. 9. Configuring the Experimental Environment with AWS
그림 Fig. 10. JMeter Test Setting
그림 Fig. 11. Comparison of Results for Each Auto-scaling Algorithm

참고문헌 (21)

S. W. Ahn, "Changes in cloud virtualization technology - container-based cloud virtualization and DevOps," Issue Report of Software Policy & Research Institute, No.2018-008, pp.1-36, 2018.
A. Fazli, A. Sayedi, and J. D. Shulman, "The effects of autoscaling in cloud computing," Journal of Management Science, Vol. 64, No.11, pp.5149-5163, 2018.
M. A. Netto, C. Cardonha, R. L. Cunha, and M. D. Assuncao, "Evaluating auto-scaling strategies for cloud computing environments," 2014 IEEE 22nd International Symposium on Modelling, Analysis & Simulation of Computer and Telecommunication Systems, IEEE, 2014.
S. H. Eum and J. S. Kim, "Method for efficient storage resource management in docker container-based cloud environments," in Proceeding The Korean Institute of Information Scientists and Engineers, pp.1247-1249, Jul. 2020.
M. S. Yhu, C. G. Song, H. C. Yu, and E. Y. Lee, "Task type based autoscaling criteria selection and performance analysis in Kubernetes cluster," in Proceeding the Korean Institute of Information Scientists and Engineers, pp.1382-1834, Jun. 2021.
S. Y. Choi, "Cloud infrastructure abnormal monitoring using machine learning," Journal of the Korea Society of Computer and Information, Vol.25, No.4, pp.105-112, Apr. 2020.
Y. H. Jang, J. W. Jeong, J. H. Lee, H. C. Yu, and E. Y. Lee, "Modelling the kubernetes horizontal pod autoscaler based on number of requests for comparing the autoscaling algorithm," in Proceeding the Korean Institute of Information Scientists and Engineers, pp.1385-1837, Jun. 2021.
L. Toka, G. Dobreff, B. Fodor, and B. Sonkoly, "Machine learning-based scaling management for kubernetes edge clusters," IEEE Transactions on Network and Service Management, Vol.18, No.1, pp.958-972, 2021.

상세보기
W. S. Choi, H. J. Chung, and Y. M. Nah, "Orchestration method for efficient resource management in containerbased cloud environments," Journal of Korean Institute of Next Generation Computing, Vol.15, No.2, pp.71-78, Apr. 2019.
S. M. Jeong, J. G. Kim, K. H. Yeom, and J. S. Park, "Container orchestration framework deployment technique based on the feature of microservice," Journal of the Korean Institute of Communication Sciences, Vol.46, No.3, pp.466-475, Mar. 2021.

상세보기
Kubernetes [Internet], https://kubernetes.io
Docker Swarm [Internet], https://docs.docker.com/engine/swarm
Apache Mesos [Internet], http://mesos.apache.org
CNCF Kubernetes Projects [Internet], https://www.cncf.io/projects/kubernetes
CNCF [Internet], https://www.cncf.io/reports/#cloud-native-surveys
A. Nielsen, "Chapter.6 Satistical Models for Time Series," in Practical Time Series Analysis, Hanbit Media, Inc., pp.217-264, 2021.
K. S. Moon, "A understanding of vector autoregressive model," Journal of the Korean Official Statistics, Vol.2 No.1, pp.23-56, Apr. 1997.
Time Series Algorithm (Multivariate linear probability) [Internet], https://github.com/cheonbi/OnlineTSA/blob/master/Lecture4_Algorithms_TimeSeries_Linear_Multivariate_KK.ipynb
K. I. Kim, et al., "Kubernetes Architecture for Cloud Service," Information and Communications Magazine, Vol.35, No.11, pp.11-19, Oct. 2018.
statsmodels [Internet], https://www.statsmodels.org/stable/index.html
JMeter [Internet], http://jmeter.apache.org/

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증