[논문]쿠버네티스 환경에서 컨테이너 워크플로의 실행 시간 개선을 위한 컨테이너 재시작 감소 기법

강태신; 유헌창

doi:10.3745/tkips.2024.13.3.91

[국내논문] 쿠버네티스 환경에서 컨테이너 워크플로의 실행 시간 개선을 위한 컨테이너 재시작 감소 기법
Technique to Reduce Container Restart for Improving Execution Time of Container Workflow in Kubernetes Environments

The Transactions of the Korea Information Processing Society, v.13 no.3, 2024년, pp.91 - 101

초록
AI-Helper

데이터 집약적이고 메모리 변동성이 높은 워크플로의 이식성 보장을 위해 컨테이너 가상화 기술이 사용되고 있다. 그리고 쿠버네티스는 이러한 컨테이너 애플리케이션들을 관리하기 위한 오케스트레이션 도구로써 사실상 표준으로 사용되고 있다. 클라우드 사용자는 리소스 부족으로 인한 컨테이너 재시작을 방지하기 위해 컨테이너 애플리케이션을 오버프로비저닝하는 경향이 있다. 그러나 과도한 오버프로비저닝은 CPU, 메모리 등 시스템 리소스의 사용량을 낮아지게 만든다. 이 문제를 해결하기 위해 컨테이너 리소스를 초과 사용하는 방식이 널리 사용되고 있으나, 지나친 메모리 리소스 초과 사용은 노드의 메모리 부족으로 인해 연쇄적인 컨테이너 재시작을 유발할 수 있다. 컨테이너 재시작 발생 시 작업을 처음부터 다시 시작해야 하므로 많은 상태저장 애플리케이션이 포함된 메모리 변동성이 높은 컨테이너에 큰 오버헤드를 유발할 수 있다. 본 논문은 쿠버네티스 환경에서 메모리 초과 사용 시 컨테이너 재시작을 완화하는 기법을 제안한다. 메모리 사용량이 많은 노드에서 메모리 할당을 요청할 가능성이 큰 컨테이너를 식별하고 이러한 컨테이너를 일시정지한다. 컨테이너의 CPU 사용량을 크게 줄이면 컨테이너가 일시정지하는 상태와 유사한 효과를 얻을 수 있다. 해당 노드의 메모리 사용량이 개선된 것으로 판단되면 컨테이너의 일시정지를 해제한다. 제안기법을 적용하여 쿠버네티스 환경에서 메모리 변동성이 높은 워크플로를 구동한 경우 제안기법을 사용하지 않았을 때에 비해 컨테이너의 재시작 횟수가 평균 40%, 최대 58% 감소하였다. 그리고 컨테이너 재시작 횟수 감소로 인해 컨테이너 워크플로의 총 실행 시간이 평균 7%, 최대 13% 단축되었다.

Abstract ▼ AI-Helper

The utilization of container virtualization technology ensures the consistency and portability of data-intensive and memory volatile workflows. Kubernetes serves as the de facto standard for orchestrating these container applications. Cloud users often overprovision container applications to avoid container restarts caused by resource shortages. However, overprovisioning results in decreased CPU and memory resource utilization. To address this issue, oversubscription of container resources is commonly employed, although excessive oversubscription of memory resources can lead to a cascade of container restarts due to node memory scarcity. Container restarts can reset operations and impose substantial overhead on containers with high memory volatility that include numerous stateful applications. This paper proposes a technique to mitigate container restarts in a memory oversubscription environment based on Kubernetes. The proposed technique involves identifying containers that are likely to request memory allocation on nodes experiencing high memory usage and temporarily pausing these containers. By significantly reducing the CPU usage of containers, an effect similar to a paused state is achieved. The suspension of the identified containers is released once it is determined that the corresponding node's memory usage has been reduced. The average number of container restarts was reduced by an average of 40% and a maximum of 58% when executing a high memory volatile workflow in a Kubernetes environment with the proposed method compared to its absence. Furthermore, the total execution time of a container workflow is decreased by an average of 7% and a maximum of 13% due to the reduced frequency of container restarts.

Keyword

표/그림 (16)

그림 Fig. 1. The Architecture of Kubernetes
그림 Fig. 2. Structure of Communication Between Kubelet and Containerd
그림 Fig. 3. Memory Resourse Oversubscription in Kubernetes
그림 Fig. 4. Total Execution Time and Container Restart Ratio of the Entire Workflow According to the Degree of Container Memory Oversubcription
그림 Fig. 5. Container Execution Time based on CPU Quota
표 Table 1. Notation Index
표 Algorithm 1. Reducing Container Restart Technique
표 Algorithm 2. Restricting Container Resources
그림 Fig. 6. Structure of Extended Pod and Container Resource Manager
그림 Fig. 7. The Operation Process of the Container Restart Reduction Algorithm based on the Module Call
그림 Fig. 8. Comparison of the Total Execution Time of the Entire Workflow Between the Existing Method and the Proposed Method based on the Degree of Container Memory Oversubscription
그림 Fig. 9. Comparison of the Container Restart Ratio of the Entire Workflow Between the Existing and the Proposed Method based on the Degree of Container Memory Oversubscription
표 Table 2. The Composition of the Container Set
표 Table 3. Parameter Configuration
그림 Fig. 10. Comparison of the Container Running Time Between the Existing Method and the Proposed Method based on the Degree of Container Memory Oversubscription
그림 Fig. 11. Comparison of the Container Waiting Time Between the Existing Method and the Proposed Method based on the Degree of Container Memory Oversubscription

참고문헌 (30)

A. R. Setlur, S. J. Nirmala, H. S. Singh, and S. Khoriya,？"An efficient fault tolerant workflow scheduling approach？using replication heuristics and checkpointing in the？cloud," Journal of Parallel and Distributed Computing,？Vol.136, pp.14-28, 2020.

상세보기
C. Yang, Q. Huang, Z. Li, K. Liu, and F.Hu, "Big Data and？cloud computing: innovation opportunities and challenges," International Journal of Digital Earth, Vol.10, No.1,？pp.13-53, 2017.

상세보기
A. Das, P Rad, K. K. R. Choo, B. Nouhi, J. Nish and J.？Martel, "Distributed machine learning cloud teleophthalmology IoT for predicting AMD disease progression,"？Future Generation Computer Systems, Vol.93, pp.486-498,？2019.

상세보기
B. Liu, J. Li, W. Lin, W. Bai, P. Li, and Q. Gao, "K-PSO:？An improved PSO-based container scheduling algorithm？for big data applications," International Journal of Network Management, Vol.31, No.2, pp.e2092, 2021.

상세보기
M. Niu, B. Cheng, Y. Feng, and J. Chen, "GMTA: A geoaware multi-agent task allocation approach for scientific？workflows in container-based cloud," IEEE Transactions？on Network and Service Management, Vol.17, No.3,？pp.1568-1581, 2020.

상세보기
I. Altintas et al., "Workflow-driven distributed machine？learning in CHASE-CI: A cognitive hardware and software？ecosystem community infrastructure." IEEE international？parallel and distributed processing symposium workshops,？pp.865-873, 2019.
Q. Zhang, L. Liu, C. Pu, Q. Dou, L. Wu, and W. Zhou,？"A comparative study of containers and virtual machines？in big data environment." IEEE 11th International Conference on Cloud Computing, pp.178-185, 2018.
M. Malinverno, J. Mangues-Bafalluy, C. E. Casetti, C. F.？Chiasserini, M. Requena-Esteso, and J. Baranda, "An EdgeBased Framework for Enhanced Road Safety of Connected？Cars," IEEE Access, Vol.8, pp.58018-58031, 2020.
V. K. Vavilapalli et al., "Apache hadoop yarn: Yet another？resource negotiator," Proceedings of the 4th annual？Symposium on Cloud Computing. pp.1-16, 2013.
Swarmkit [Internet], https://github.com/moby/swarmkit.
Docker-swarm [Internet], https://github.com/docker-archive/classicswarm.
kubernetes [Internet], https://github.com/kubernetes/kubernetes.
V. M. Bhasi, J. R. Gunasekaran, P. Thinakaran, C. S.？Mishra, M. T. Kandemir, and C. Das, "Kraken: Adaptive？container provisioning for deploying dynamic dags in？serverless platforms," Proceedings of the ACM Symposium？on Cloud Computing. pp.153-167, 2021.
R. Nakazawa, K. Ogata, S. Seelam, and T. Onodera,？"Taming performance degradation of containers in the？case of extreme memory overcommitment," IEEE 10th？International Conference on Cloud Computing, pp.196-204, 2017.
W. Chen, A. Pi, S. Wang, and X. Zhou, "Pufferfish: Container-driven elastic memory management for dataintensive applications," Proceedings of the ACM Symposium on Cloud Computing, pp.259-271, 2019.
Kubernetes Components [Internet], https://kubernetes.io/docs/concepts/overview/components.
Docker [Internet], https://www.docker.com.
Containerd [Internet], https://containerd.io.
Container Runtime Interface [Internet], https://kubernetes.io/docs/concepts/architecture/cri.
D. Williams, H. Jamjoom, Y. H. Liu, H. Weatherspoon,？"Overdriver: Handling memory overload in an oversubscribed cloud," ACM SIGPLAN Notices, Vol.46, No.7？pp.205-216, 2011.

상세보기
J. Dogani, R. Namvar, F. Khunjush, "Auto-scaling techniques in container-based cloud and edge/fog computing:？Taxonomy and survey," Computer Communications,？Vol.209, pp.120-150, 2023.

상세보기
C Carrion, "Kubernetes scheduling: Taxonomy, ongoing？issues and challenges," ACM Computing Surveys, Vol.55,？No.7, pp.1-37, 2022.
L. M. Ruiz, P. P. Pueyo, J. Mateo-Fornes, J. V. Mayoral,？and F. S. Tehas, "Autoscaling pods on an on-premise kubernetes infrastructure qos-aware," IEEE Access, Vol.10,？pp.33083-33094, 2022.

상세보기
F. Zhang, X. Tang, X. Li, S. U. Khan, and Z. Li, "Quantifying？cloud elasticity with container-based autoscaling," Future？Generation Computer Systems, Vol.98, pp.672-681, 2019.
Y. Sfakianakis, M. Marazakis, and A. Bilas, "Skynet: Performance-driven resource management for dynamic？workloads, " IEEE 14th International Conference on Cloud？Computing, pp.527-539, 2021.
N. D. Nguyen, L. A, Phan, D. H. Park, S. Kim, and T. Kim,？"ElasticFog: Elastic resource provisioning in container-based fog computing," IEEE Access, Vol.8 pp.183879-183890, 2020.

상세보기
Y. Al-Dhuraibi, F. Paraiso, N. Djarallah, and P. Merle,？"Autonomic vertical elasticity of docker containers with？elasticdocker," IEEE 10th International Conference on？Cloud Computing, pp.472-479, 2017.
G. Rattihalli, M. Govindaraju, H. Lu, and D. Tiwari,？"Exploring potential for non-disruptive vertical auto？scaling and resource estimation in kubernetes," IEEE 12th？International Conference on Cloud Computing, 2019.
"clinet-go", [Internet], https://github.com/kubernetes/client-go.
Kubernetes Jobs, [Internet], https://kubernetes.io/docs/concepts/workloads/controllers/job.？

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증