[논문]서버 성능 관리를 위한 장애 예측 시스템

임복출; 김순곤

doi:10.17661/jkiiect.2018.11.6.684

서버 성능 관리를 위한 장애 예측 시스템
A Prediction System for Server Performance Management 원문보기

한국정보전자통신기술학회논문지 = Journal of Korea institute of information, electronics, and communication technology, v.11 no.6, 2018년, pp.684 - 690

임복출 (Wecoms Co., Ltd.) , 김순곤 (School of Software Engineering, Joongbu University)

초록
AI-Helper

현재 및 향후 떠오르고 있는 빅 데이터 사회에서는 수집된 정보의 분석이 그 핵심 기술로 인식되고 있다. 또한 발생되는 데이터가 보다 다양하고 더욱 대용량화 되는 특징을 가지는 빅 데이터화가 가속될 미래의 진화된 지능화 사회에서는 예측 기술을 바탕으로 가치창출을 통한 최적화된 사회를 지향할 것으로 보인다. 지속적으로 사용되어질 IT시스템 운영 시 발생되는 다양한 데이터와 대량의 데이터에 대하여 빅 데이터 기반 기술을 활용하면 IT 시스템의 장애 방지와 안정적 운영이 가능할 것이다. 본 논문에서는 서버 성능 모니터링을 통한 데이터를 수집 분석하고자 빅 데이터 수집 분석 기술을 활용한 환경을 제안하였고, 또한 장애 예측을 위한 시계열 예측 모형을 도출하여 제안하였다. 빅 데이터를 처리하는 서버 성능 관리 측면에서, 본 논문에서 제안하는 이 모델을 통하여 서버 운영자는 사전 장애 예측을 통하여 IT 시스템의 안정적 운영이 가능할 것이다.

Abstract ▼ AI-Helper

In society of the big data is being recognized as one of the core technologies witch is analysis of the collected information, the intelligent evolution of society seems to be more oriented society through an optimized value creation based on a prediction technique. If we take advantage of technologies based on big data about various data and a large amount of data generated during system operation, it will be possible to support stable operation and prevention of faults and failures. In this paper, we suggested an environment using the collection and analysis of big data, and proposed an derive time series prediction model for predicting failure through server performance monitoring for data collected and analyzed. It can be capable of supporting stable operation of the IT systems through failure prediction model for the server operator.

주제어

표/그림 (12)

표 표 1. 성능 지표 Table 1. Performance metrics
표 표 2. 모니터링 지표(2차) Table 2. Second Monitoring metrics
표 표 3. 모니터링 지표(최종) Table 3. Final Monitoring metrics
표 표 4. 지표별 임계치 Table 4. Metrics threshold
그림 그림 1. 예측 모형 Fig. 1. Prediction Model
그림 그림 2. 정상 Fig. 2. Normal operation
그림 그림 3. 장애 Fig. 3. Failure operation
그림 그림 4. 시계열 예측 검증 Fig. 4. Verification of Time Series Prediction
그림 그림 6. 맵리듀스 모델링 Fig. 6. MapReduce Modeling
그림 그림 5. 모듈 구성도 Fig. 5. Module configuration
그림 그림 7. 검증 결과 Fig. 7. Verification results
표 표 5. 스레드 개수와 예상 오류 Table 5. Thread counts and expected fault

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

하지만 현재는 빅 데이터 활용은 미비한 상태이다. 본 논문에서는 미비한 서버 모니터링 감시분야에 빅 데이터환경을 고려한 모니터링과 장애 발생 이전에 예측이 가능하도록 서버 장애 모니터링 방안을 제안하였다. 또한 도출된 모니터링 지표 및 가설의 적용 및 검증을 위하여 실시간 서버 모니터링 시험 환경을 구축하였다.
예를 들어, 정보시스템 운영 환경에서 시스템의 이상징후를 발견, 기록, 통지하기 위한 시스템 감시활동(모니터링)을 통한 다양한 데이터가 발생하고 있으며, 해당 분야에서는 데이터 수집 빈도, 수집 에이전트의 부하의 최소 크기, 수집 자동화 및 에이전트의 크기를 줄이면서 시스템 정보를 축적하는 방법 등의 다양한 소프트웨어 개발에 대하여 연구가 진행되어 왔으며, 더 나아가 다양한 데이터 타입의 수집과 데이터를 분석하기 위한 방법들에 대한 연구가 필요하다[3]. 본 논문에서는 서버 성능 관리를 위하여 서버의 성능에영향을 미치는 성능 지표를 정의하고 정의된 지표를 모니터링 할 수 있는 시스템을 설계하고 구현한다[4].
본 논문에서는 서버 장애 예측을 위하여 성능 지표 기반의 모니터링 데이터를 빅 데이터라 가정하고 빅 데이터 수집·분석 기술(데이터 마이닝-시계열 예측)을 활용한 시스템을 제안한다.

제안 방법

대용량의 데이터로부터 이들 내에 존재하는 관계, 패턴, 규칙 등을 탐색하고 모형화 함으로써 유용한 지식을 추출하는 일련의 과정들을 데이터 마이닝이라 한다. 과거의 데이터를 기반으로 예측 모형(Predictive Model)을 만들어서 미래의 데이터를 적용하고 적용된 모델을 토대로 통계 기법을 통해 미래 데이터를 예측한다. 시계열(Time Series)은 일정 시간 간격으로 배치된 데이터들의 수열을 말한다.
본 논문에서는 미비한 서버 모니터링 감시분야에 빅 데이터환경을 고려한 모니터링과 장애 발생 이전에 예측이 가능하도록 서버 장애 모니터링 방안을 제안하였다. 또한 도출된 모니터링 지표 및 가설의 적용 및 검증을 위하여 실시간 서버 모니터링 시험 환경을 구축하였다. 이를 통하여 가상의 서비스 환경에서 시계열 분석과 예측의 결과를 검증하여 구축된 환경을 빅 데이터 환경을 고려한 서버 장애 모니터링 시스템 아키텍처로 제안하였다.
JMeter를 활용하여 부하시험을 진행하였고 예측 모형을 검증하였다. 부하는 Threads의 개수와 Loop Count를 가지고 진행하였다. 시간에 비례하여 Threads의 개수는 1000, 100, 2000, 100로 주었으며, 시간간격은 최초에 2분, 8분, 10분으로 하였으며, 1세트별 시간 간격은 1분으로 하였다.
빅 데이터 환경을 고려한 서버 장애 대응 예측 모형설계에서 제안한 모형을 기준으로 빅 데이터 환경을 구축하였다. 구축된 환경하에 실시간 서버 모니터링 데이터 수집 및 가공, 처리, 분석을 진행하였고 ‘Peak 시간 CPU 사용율’을 중심으로 검증을 진행하였다.
서버 장애 모니터링을 위하여 오픈 소스 Ganglia와 수집 데이터의 실시간 전송을 위한 Esper를 적용하였고 분석을 위한 빅 데이터 분석 플랫폼 Hadoop기반으로 구성하였고 다음 Fig 5와 같다.
서비스 운영 데이터를 기준으로 장애가 발생했던 날짜와 중복되지 않게 전후 1일 데이터를 기준으로 시계열 분석을 하였다. 정상과 장애 기점의 분석 및 예측결과는 상기 Fig 2, Fig 3과 같다.
정보시스템 각각의 구성요소(서버, 네트워크, DBMS, 응용 소프트웨어 등)에 대한 성능 및 상태를 측정(Monitoring)하는 과정이다. 성능 데이터를 수집하고, 수집된 자료를 기초로 성능과 상태를 분석한다. 일반적인 성능지표는 다음 Table 1과 같다.
부하는 Threads의 개수와 Loop Count를 가지고 진행하였다. 시간에 비례하여 Threads의 개수는 1000, 100, 2000, 100로 주었으며, 시간간격은 최초에 2분, 8분, 10분으로 하였으며, 1세트별 시간 간격은 1분으로 하였다. 또한 2세트가 완료된 시점에 진행된 시간 간격을 2배로 늘려 부하를 발생하였다.
서버, 네트워크, 스토리지, DBMS, 미들웨어, 응용 프로그램 분야 6개에서 89개의 감시항목을 도출하였다. 이를 CPU, Memory, 디스크, 프로세스, 네트워크, 응용프로그램에 대하여 1차로 모니터링 솔루션과 비교하였다. 2차로 실제 A사의 모니터링 솔루션의 지표별 데이터를 수집하여 빈도․교차분석을 진행하여 2차 모니터링 지표를 정리하면 다음 Table 2와 같다.
빅 데이터 환경을 고려한 서버 성능 모니터링 환경에서 감시되는 모니터링 지표별 데이터는 자동화되어 로그로 쌓인다. 이를 Ganglia에서 제공하는 Web-frontend 화면에서 CSV 파일로 추출하였고, 상용 솔루션 SPSS의 검증 결과는 다음 Fig 7과 같다.
또한 도출된 모니터링 지표 및 가설의 적용 및 검증을 위하여 실시간 서버 모니터링 시험 환경을 구축하였다. 이를 통하여 가상의 서비스 환경에서 시계열 분석과 예측의 결과를 검증하여 구축된 환경을 빅 데이터 환경을 고려한 서버 장애 모니터링 시스템 아키텍처로 제안하였다.
정보시스템 운영·관리 지침과 상용 및 오픈소스 기반의 솔루션 기준으로 모니터링 지표를 도출하였다.
정상시와 장애 기점 데이터를 근간으로 예측한 모형을 적용하여 검증을 하였다. 1 Cycle에 중간지점에서 CPU의 사용량이 급증하게 나타나 시계열 4월까지 추산된 모형과 유사한 시계열 모형이 나왔다.

대상 데이터

2차로 도출된 모니터링 지표를 기준으로 빅데이터 환경을 위하여 실시간 감시 및 예측을 위한 가설을 수립하고 실제 A사의 2018년 4월에서 2018년 9월까지의 약 6개월의 모니터링 데이터를 통하여 검증하였다. 최종 모니터링 지표를 정리하면 다음 Table 3과 같다.

데이터처리

JMeter를 활용하여 부하시험을 진행하였고 예측 모형을 검증하였다. 부하는 Threads의 개수와 Loop Count를 가지고 진행하였다.
구축된 환경하에 실시간 서버 모니터링 데이터 수집 및 가공, 처리, 분석을 진행하였고 ‘Peak 시간 CPU 사용율’을 중심으로 검증을 진행하였다.

이론/모형

2를 사용하였다. 빅데이터 처리 분석 기술로 Hadoop의 맵리듀스(Map Reduce)를 사용하였다.

성능/효과

부하 데이터와 Peak시 CPU 사용량을 비교하면, 부하가 발생한 시점(시간에 4/5지점)을 기점으로 CPU 사용량이 늘어나는 것으로 분석되었으며, 예측치도 이 시간대에 CPU 사용량이 늘어날 것으로 예측이 되었다. 이는 Peak시 CPU 사용량이 서버 성능 모니터링에 유의한 영향(+)을 미치는 것을 의미한다.
정보시스템 운영·관리 지침과 상용 및 오픈소스 기반의 솔루션 기준으로 모니터링 지표를 도출하였다. 서버, 네트워크, 스토리지, DBMS, 미들웨어, 응용 프로그램 분야 6개에서 89개의 감시항목을 도출하였다. 이를 CPU, Memory, 디스크, 프로세스, 네트워크, 응용프로그램에 대하여 1차로 모니터링 솔루션과 비교하였다.
정상시와 장애시의 데이터를 시계열 예측해 본 결과, CPU 사용량 Average는 거의 유사한 모형을 나타내고 있다. CPU 사용량 Max에 대하여는 장애 기점을 중심으로 예측한 모형이 정상 서비스 운영시보다 순간적으로 사용량 증가가 있음을 알 수 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	모니터링의 목적은?	서버 성능 모니터링은 통합된 정보시스템의 모든 구성요소 즉, 서버, 네트워크, DBMS, 응용 소프트웨어 등의 효율적인 활동능력을 부여한다. 모니터링의 목적은 성능에 관계된 모든 상태를 감시하여, 최적의 서비스 품질과 정보시스템 자원의 효율성을 유지 및 제고시키는 것이다[8].
	CPU 사용량은 무엇을 나타내는가?	1 Cycle에 중간지점에서 CPU의 사용량이 급증하게 나타나 시계열 4월까지 추산된 모형과 유사한 시계열 모형이 나왔다. 또한 CPU 사용량은 실시간 장애 대응 감시항목 임계치 내에서 조정되고 있음을 나타내고 있다. CPU 사용량이 Max55%이하, Average 30%이하를 나타내고 있으며, 이 이상이 되면 장애가 발생할 수 있음을 의미한다.
	도출된 모니터링 지표 및 가설의 적용 및 검증을 위하여 실시간 서버 모니터링 시험 환경을 구축하여 제안한 것은 무엇인가?	또한 도출된 모니터링 지표 및 가설의 적용 및 검증을 위하여 실시간 서버 모니터링 시험 환경을 구축하였다. 이를 통하여 가상의 서비스 환경에서 시계열 분석과 예측의 결과를 검증하여 구축된 환경을 빅 데이터 환경을 고려한 서버 장애 모니터링 시스템 아키텍처로 제안하였다.

참고문헌 (9)

"Trend of Data Big Bang, Big Data", pp.24-26, Journal of Broadcasting and Communication, 2012.07.05
"Trends and Current Issues of Big data", Vol.24, No.19, pp.49-67, The Policy of Broadcasting and Communications, 2012.12.16
KI Kim, "An Extensible Performance Monitoring Framework for Web Cluster System", Handong Global University(Doctor's Thesis), 2005
DK Seon, "Design and Implementation of Effective Performance Monitoring System for Management of Multiple Web Servers", Joongang University(Master's Thesis), 1999
JW Joo, "Time series analysis and modeling for the investigation of seawater intrusion into fractured rock aquifer in Muan, Korea", Jeonnam National University(Master's Thesis), 2008
NG Her, "A Study on the Air Trabel Demand Forecasting using Time-Series Model", Korea Aerospace University(Doctor's Thesis), 2010
"The Classification and Trend of Big Data Technology", The Big Data Strategy Center in NIA, pp.48-50, 2013.12
"The Guidelines of Information Systems Operation and Management", Ministry of Information and Communications, 2005.12
Seokjin Im, Hee-Joung Hwang, 'Design and Implementation of Message Format and Server for Interworking EMR System and Gateway of Medical Devices', The Journal of The Institute of Internet, Broadcasting and Communication VOL. 13 No. 6, 2013

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증