[논문]사용자 응답성 향상을 위한 멀티큐 블록계층 개선

신희영; 김태석

doi:10.14372/iemek.2019.14.2.97

[국내논문] 사용자 응답성 향상을 위한 멀티큐 블록계층 개선
Improvement of Multi-Queue Block Layer for Fast User Response 원문보기

대한임베디드공학회논문지 = IEMEK Journal of embedded systems and applications, v.14 no.2, 2019년, pp.97 - 102

신희영 (Kwangwoon University) , 김태석 (Kwangwoon University)

Abstract ▼ AI-Helper

Multi-queue I/O block layer has been recently employed in Linux kernel to support fast storage devices such as NVMe SSDs, but it lacks differentiated I/O services yet. In this paper, we propose an I/O scheduling scheme that can improve the user responsiveness of foreground processes, which are closely related to user satisfaction. To this end, we redesign the existing multi-queue block layer to classify the I/O requests from foreground processes and schedule them by exploiting the feature of NVMe interface. Experimental results show that latency and launch time of the foreground processes have been significantly improved compared to original Linux kernel.

Keyword

표/그림 (8)

그림 그림 1. 라운드로빈 방식의 명령어 디스패치 Fig. 1 Commands dispatched in round-robin manner
그림 그림 2. 전위 프로세스의 응답성 향상 Fig. 2 Fast response of foreground processes
그림 그림 3. 개선된 멀티큐 블록 계층의 순서도 Fig. 3 Flow chart of improved multi-queue block layer
표 표 1. fio 워크로드 설정 Table 1. fio workload configurations
표 표 2. 실험 환경 Table 2. Experimental environment
표 표 3. 성능 평가를 위한 비교 대상 Table 3. Options for performance evaluation of the proposed
그림 그림 4. 전위 프로세스의 성능 개선 Fig. 4 Improved performances of foreground processes
그림 그림 5. 응용프로그램의 구동시간 개선 Fig. 5 Improved launch time of applications

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

즉, 제출큐에서의 스케줄링은 더 이상 불가능 하므로 전위 프로세스의 입출력 요청을 여러 제출큐 중 어디로 보내느냐에 따라 지연시간이 달라질수 있다. 본 논문에서는 제출큐들을 라운드로빈 방식으로 번갈아가며 디스패치하는 NVMe 인터페이스의 특성상, 여러 제출큐 중 대기 중인 입출력 요청 수가 적은 곳으로 전위 프로세스의 입출력 요청을 보낸다. 그러면 NVMe 인터페이스가 라운드로빈으로 입출력 요청들을 디스패치할 때 전위 프로세스로 부터 온 입출력 요청을 비교적 빨리 처리할 수 있으 므로 전위 프로세스의 입출력 지연시간이 개선된다.
본 논문은 NVMe SSD를 사용하는 환경에서 사용자의 응답성 개선을 위한 복잡하지 않으면서 실용적인 기법을 제안하였다. 전위 프로세스를 식별한 후, 이 정보를 CPU 스케줄러뿐만 아니라 입출력 블록 계층까지 전달하여 우선적인 서비스를 받도록 하였다.
본 논문에서는 이러한 멀티큐 블록 계층을 개선해 높은 입출력 대역폭과 IOPS (Input/Output Operations Per Second)를 그대로 유지하면서 사용자 응답성까지 향상시키는 기법을 제안한다. 특히 다량의 파일복사, 대용량 파일 다운로드, 프로그램 업데이트 등 후위 (background)에서 다수의 프로세스들이 실행되어 시스템에 부하를 주고 있는 상황 에서도 사용자가 직접 사용하고 있는 프로세스가 영향을 받지 않게 하여 사용자의 만족도를 향상시키고자 한다.
본 논문에서는 이러한 멀티큐 블록 계층을 개선해 높은 입출력 대역폭과 IOPS (Input/Output Operations Per Second)를 그대로 유지하면서 사용자 응답성까지 향상시키는 기법을 제안한다. 특히 다량의 파일복사, 대용량 파일 다운로드, 프로그램 업데이트 등 후위 (background)에서 다수의 프로세스들이 실행되어 시스템에 부하를 주고 있는 상황 에서도 사용자가 직접 사용하고 있는 프로세스가 영향을 받지 않게 하여 사용자의 만족도를 향상시키고자 한다. 이를 위해 사용자가 작업 중인 전위 (foreground) 프로세스를 식별하여 CPU 우선순위를 임시로 높이고, 우선순위 정보를 멀티큐 블록 계층까지 전달하여 차별화된 입출력 서비스를 제공한다.
이를 위해 사용자가 작업 중인 전위 (foreground) 프로세스를 식별하여 CPU 우선순위를 임시로 높이고, 우선순위 정보를 멀티큐 블록 계층까지 전달하여 차별화된 입출력 서비스를 제공한다. 또한 NVMe SSD에서 라운드로빈 방식으로 입출력 요청을 디스패치하는 사실을 활용해 입출력 요청을 가급적 대기가 적은 큐에 배정하여 응답성을 높이고자 한다. 이러한 기법을 리눅스 커널에 구현하여 입출력 처리시간 개선과 응용프로그램 실행 시간 개선 여부를 측정하였다.

제안 방법

[9]는 멀티 SSD 볼륨 환경에서 멀티 블록 계층에서도 입출력 요청이 볼륨 단위로 처리되어 제성능을 발휘할 수 없음을 지적하고, SSD 장치 단위로 입출력 요청이 처리될 수 있도록 멀티큐 블록 계층을 수정하였다. 이를 위해 그들은 입출력 스택 구조를 볼륨 수준에서 들어오는 입출력 요청을 배치시키는 과정과 SSD 장치 수준으로 입출력 요청을 병렬화해서 처리하는 과정으로 구분하였다.
먼저, 전위 프로세스의 응답성을 높이기 위해 먼저 전위 프로세스를 식별하여 그 우선순위를 임시로 높였다. 리눅스 커널에서는 CFS (Completely Fair Scheduler) 등 우선순위 기반의 CPU 스케줄링 기법이 사용되고 있으므로 이것만으로도 전위 프로세스의 응답선 개선을 기대할 수 있다.
리눅스 커널에서는 CFS (Completely Fair Scheduler) 등 우선순위 기반의 CPU 스케줄링 기법이 사용되고 있으므로 이것만으로도 전위 프로세스의 응답선 개선을 기대할 수 있다. 사용자에게 투명성을 제공하기 위해서는 전위 프로세스를 스스로 식별하여 우선순위를 조정할 필요가 있으므 로, 이를 위해 프로세스의 전위 및 후위 실행을 제어할 수 있는 쉘에 전위 프로세스를 식별하는 코드를 추가하였다. 프로그램이 처음 전위로 실행될 때그리고 후위 프로세스가 전위 프로세스로 변경될 경우 임시로 높은 우선순위를 받을 수 있도록 하였 고, 전위 프로세스가 후위 프로세스로 변경될 때는 원래의 우선순위로 환원되도록 하였다.
프로그램이 처음 전위로 실행될 때그리고 후위 프로세스가 전위 프로세스로 변경될 경우 임시로 높은 우선순위를 받을 수 있도록 하였 고, 전위 프로세스가 후위 프로세스로 변경될 때는 원래의 우선순위로 환원되도록 하였다. 이를 위해 쉘의 해당 부분에 setpriority() 함수를 이용해 우선 순위를 조정하였다.
이러한 우선순위는 CPU 스케줄러에서만 효과가 있는 것으로 아무리 전위 프로세스의 우선순위가 높아졌다하더라도 입출력 블록계층에서 이에 대한 지원이 적절히 이루어지지 않으면 전위 프로세스의 응답성 개선이 제한적일 수밖에 없다. 따라서 입출력 요청의 자료구조인 request에 우선순위 정보를 추가 하여 입출력 블록 계층에서도 프로세스의 우선순위 정보를 활용할 수 있도록 하였다. 그런 다음 기존에 코어마다 하나씩 있던 소프트웨어큐 (sw q)를 그림 2와 같이 각각 전위 프로세스와 후위 프로세스를 위해 구분하여 후위 프로세스로부터 많은 입출력 요청이 들어온다 하더라도 전위 프로세스로부터의 입출력 요청을 우선적으로 처리할 수 있도록 하였다.
다수의 프로세스들을 후위에서 실행하여 시스템에 입출력 부하를 충분히 준 후, 전위 프로세스의 응답지연시간이 기존 커널 대비 얼마나 개선되지 확인하는 실험을 수행하였다. 이를 위해 입출력 요청을 집중적으로 수행하는 fio 벤치마크를 50여개 실행하였고, 그 중 전위로 수행되는 프로세스의 성능을 측정하였다.
다수의 프로세스들을 후위에서 실행하여 시스템에 입출력 부하를 충분히 준 후, 전위 프로세스의 응답지연시간이 기존 커널 대비 얼마나 개선되지 확인하는 실험을 수행하였다. 이를 위해 입출력 요청을 집중적으로 수행하는 fio 벤치마크를 50여개 실행하였고, 그 중 전위로 수행되는 프로세스의 성능을 측정하였다. fio는 다양한 설정이 가능한데, 그설정내용과 실험에 사용된 환경은 각각 표 1, 표 2 와 같다.
제안한 기법 중 세 가지 사항 즉, 전위 프로세스에 높은 우선순위 부여를 통한 CPU 스케줄링 효과, 전위 프로세스로부터 들어온 입출력 요청의 차별화를 통한 입출력 스케줄링 효과, 그리고 NVMe 인터페이스의 라운드로빈 디스패치방식을 고려한 제출 큐 정보 활용 효과가 각각 전위 프로세스의 응답성 개선에 어떠한 영향을 끼치는지 확인하기 위해 표 3과 같이 몇 가지 경우로 나누었다.
프로그램의 구동시간 (launch time)도 사용자 입장에서는 매우 중요한 성능지표이므로, 다수의 fio 를 후위에서 실행하면서 널리 사용되는 대표적인 응용프로그램들의 구동시간을 평가하였다. 각 응용 프로그램들의 구동시간을 스톱워치로 10회씩 측정 하여 그 평균값을 그림 5에 제시하였다.
본 논문은 NVMe SSD를 사용하는 환경에서 사용자의 응답성 개선을 위한 복잡하지 않으면서 실용적인 기법을 제안하였다. 전위 프로세스를 식별한 후, 이 정보를 CPU 스케줄러뿐만 아니라 입출력 블록 계층까지 전달하여 우선적인 서비스를 받도록 하였다. 이를 위해 멀티큐 블록 계층에서 전위 프로 세스의 입출력 요청을 분류하여 차별화하는 한편, 라운드로빈 방식으로 입출력 요청을 디스패치하는 NVMe 인터페이스의 특성을 이용해 전위 프로세스의 입출력 요청 의 디스패치시간을 최소화하였다.
전위 프로세스를 식별한 후, 이 정보를 CPU 스케줄러뿐만 아니라 입출력 블록 계층까지 전달하여 우선적인 서비스를 받도록 하였다. 이를 위해 멀티큐 블록 계층에서 전위 프로 세스의 입출력 요청을 분류하여 차별화하는 한편, 라운드로빈 방식으로 입출력 요청을 디스패치하는 NVMe 인터페이스의 특성을 이용해 전위 프로세스의 입출력 요청 의 디스패치시간을 최소화하였다.
특히 다량의 파일복사, 대용량 파일 다운로드, 프로그램 업데이트 등 후위 (background)에서 다수의 프로세스들이 실행되어 시스템에 부하를 주고 있는 상황 에서도 사용자가 직접 사용하고 있는 프로세스가 영향을 받지 않게 하여 사용자의 만족도를 향상시키고자 한다. 이를 위해 사용자가 작업 중인 전위 (foreground) 프로세스를 식별하여 CPU 우선순위를 임시로 높이고, 우선순위 정보를 멀티큐 블록 계층까지 전달하여 차별화된 입출력 서비스를 제공한다. 또한 NVMe SSD에서 라운드로빈 방식으로 입출력 요청을 디스패치하는 사실을 활용해 입출력 요청을 가급적 대기가 적은 큐에 배정하여 응답성을 높이고자 한다.
또한 NVMe SSD에서 라운드로빈 방식으로 입출력 요청을 디스패치하는 사실을 활용해 입출력 요청을 가급적 대기가 적은 큐에 배정하여 응답성을 높이고자 한다. 이러한 기법을 리눅스 커널에 구현하여 입출력 처리시간 개선과 응용프로그램 실행 시간 개선 여부를 측정하였다.

대상 데이터

브라우저 (firefox), 동영상 플레이어 (xdg), 그리고 리브레오 피스 제품군 중 워드프로세서 (writer), 스프레드시트 (calc), 프리젠테이션 (impress) 등 총 5개의 응 그림 5. 응용프로그램의 구동시간 개선 Fig. 5 Improved launch time of applications
용프로그램을 대상으로 실험하였다. firefox에서는 로딩되는 항목이 많은 복잡한 웹페이지를 홈으로 설정하여 웹브라우저 구동시간을 측정하였고, 그 결과 기존 커널 대비 약 28%의 성능 개선 효과가 있음을 확인하였다.

성능/효과

여러 실험 결과, 전위 프로세스의 성능은 CPU 스케줄링 효과만으로도 상당한 성능 개선이 되고, 이에 더하여 멀티큐 블록 계층에서 수정한 두 가지 스케줄링 기법도 효과가 있음을 입증하였다. 그림 4
(a)에서와 같이 전위 프로세스가 CPU 스케줄링의 효과 (CPU)만 얻어도 기존 커널 대비 약 9%의 성능 개선이 있었다. 여기에 전위 프로세스의 입출력 요 청 을 분 리 해 우 선 적 으 로 처 리 하 는 경 우 (CPU+IO) 약 11%의 성능 개선을 보였고, NVMe 드 라 이 버 내 제 출 큐 정 보 를 활 용 할 경 우 (CPU+SIZE)에는 기존 커널 대비 약 12%의 성능 개선을 보였다.
여기에 전위 프로세스의 입출력 요 청 을 분 리 해 우 선 적 으 로 처 리 하 는 경 우 (CPU+IO) 약 11%의 성능 개선을 보였고, NVMe 드 라 이 버 내 제 출 큐 정 보 를 활 용 할 경 우 (CPU+SIZE)에는 기존 커널 대비 약 12%의 성능 개선을 보였다. 그리고 세 가지 사항을 모두 적용했을 경우 (Proposed) 기존 커널 대비 약 15%의 성능이 개선된 것을 확인하였다. 즉, 시스템에 입출력 부하가 충분히 주어진 상황에서 CPU 스케줄러, 멀티큐 블록 계층, NVMe 인터페이스 전 계층에 걸쳐 전위 프로세스로부터의 입출력 요청 대기시간을 최소화하는 노력이 효과가 있음을 알 수 있었다.
그리고 세 가지 사항을 모두 적용했을 경우 (Proposed) 기존 커널 대비 약 15%의 성능이 개선된 것을 확인하였다. 즉, 시스템에 입출력 부하가 충분히 주어진 상황에서 CPU 스케줄러, 멀티큐 블록 계층, NVMe 인터페이스 전 계층에 걸쳐 전위 프로세스로부터의 입출력 요청 대기시간을 최소화하는 노력이 효과가 있음을 알 수 있었다. 후위 에서 실행되는 프로세스들의 성능도 실험 결과, 크게 나빠지지 않거나 오히려 좋아지는 경우가 있었 다.
용프로그램을 대상으로 실험하였다. firefox에서는 로딩되는 항목이 많은 복잡한 웹페이지를 홈으로 설정하여 웹브라우저 구동시간을 측정하였고, 그 결과 기존 커널 대비 약 28%의 성능 개선 효과가 있음을 확인하였다. 또한 xdg의 구동시간은 기존 커널 대비 약 49%의 개선이 있었고, writer, calc, impress는 각각 기존 커널 대비 64%, 60%, 65% 가량 성능이 개선됨을 확인하였다.
firefox에서는 로딩되는 항목이 많은 복잡한 웹페이지를 홈으로 설정하여 웹브라우저 구동시간을 측정하였고, 그 결과 기존 커널 대비 약 28%의 성능 개선 효과가 있음을 확인하였다. 또한 xdg의 구동시간은 기존 커널 대비 약 49%의 개선이 있었고, writer, calc, impress는 각각 기존 커널 대비 64%, 60%, 65% 가량 성능이 개선됨을 확인하였다.
입출력 부하를 충분히 주어 실험한 결과, 전위 프로 세스의 실행시간 및 구동시간 등이 기존 커널 대비 크게 개선되었음을 확인하였다. 사용자 응답성은 모바일 환경에서 보다 중요하므로 향후 안드로이드 등의 모바일 플랫폼에도 적용, 연구할 예정이다.
(a)에서와 같이 전위 프로세스가 CPU 스케줄링의 효과 (CPU)만 얻어도 기존 커널 대비 약 9%의 성능 개선이 있었다. 여기에 전위 프로세스의 입출력 요 청 을 분 리 해 우 선 적 으 로 처 리 하 는 경 우 (CPU+IO) 약 11%의 성능 개선을 보였고, NVMe 드 라 이 버 내 제 출 큐 정 보 를 활 용 할 경 우 (CPU+SIZE)에는 기존 커널 대비 약 12%의 성능 개선을 보였다. 그리고 세 가지 사항을 모두 적용했을 경우 (Proposed) 기존 커널 대비 약 15%의 성능이 개선된 것을 확인하였다.

후속연구

입출력 부하를 충분히 주어 실험한 결과, 전위 프로 세스의 실행시간 및 구동시간 등이 기존 커널 대비 크게 개선되었음을 확인하였다. 사용자 응답성은 모바일 환경에서 보다 중요하므로 향후 안드로이드 등의 모바일 플랫폼에도 적용, 연구할 예정이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	NVMe (Non-Volatile Memory Express)은 무엇인가?	NVMe (Non-Volatile Memory Express)는 기존 SATA보다 훨씬 빠른 PCIe로 연결된 비휘발성 저장장치를 위한 통신규약으로, 기존 SATA와 AHCI 조합으로 제 속도를 내기 어려운 SSD 장치를 위해 현재 널리 사용되고 있다 [1-3]. 하나의 명령큐를 가지는 AHCI와는 달리 NVMe는 최대 65,535개의 큐를 가질 수 있고, 큐 하나 당 다시 65,536개의 명령을 처리하는 높은 병렬성을 통해 고속의 입출력 서비스를 지원한다 [4].
	멀티큐 블록 계층은 어떤 컴퓨팅 환경에 적합한가?	멀티큐 블록 계층은 싱글큐 구조로 인해 멀티코어 CPU 환경에서 존재하던 락경쟁 문제를 해결하기 위해 코어 당 하나씩 소프트웨어큐를 두는 한편, SSD와 같이 병렬성을 제공하는 저장장치를 위해 여러 하드웨어큐를 사용한다. 이는 단위시간당 처리하는 입출력 수를 크게 증가시킬 수 있어 멀티코어와 NVMe SSD 장치를 사용하는 컴퓨팅 환경에 적합하다.
	멀티큐 블록 계층은 싱글큐 구조로 인해 멀티코어 CPU 환경에서 존재하던 락경쟁 문제를 해결하기 위해 어떻게 하였는가?	이러한 NVMe SSD를 효율적으로 지원하기 위하여 운영체제 또한 변화하고 있고, 최근 리눅스 커널에서도 멀티큐 블록 계층 (multiblock queue layer)을 도입하였다 [5]. 멀티큐 블록 계층은 싱글큐 구조로 인해 멀티코어 CPU 환경에서 존재하던 락경쟁 문제를 해결하기 위해 코어 당 하나씩 소프트웨어큐를 두는 한편, SSD와 같이 병렬성을 제공하는 저장장치를 위해 여러 하드웨어큐를 사용한다. 이는 단위시간당 처리하는 입출력 수를 크게 증가시킬 수 있어 멀티코어와 NVMe SSD 장치를 사용하는 컴퓨팅 환경에 적합하다.

참고문헌 (10)

H. Kim, Y. Lee, J. Kim, "NVMeDirect: A User-space I/O Framework for Application-specific Optimization on NVMe SSDs," Proceedings of 8th USENIX Workshop on Hot Topics in Stor age and File Systems, pp. 1-5, 2016.
Q. Xu, H. Siyamwala, M,. Ghosh, T. Suri, M. Awasthi, Z. Guz, V. Balakrishnan, "Performance Analysis of NVMe SSDs and Their Implication on Real World Databases," Proceedings of the 8th ACM International Systems and Storage Conference, pp. 5, 2015.
M. Bjorling, J. Gonzales, P. Bonnet, "LightNVM: The Linux Open-Channel SSD Subsystem," Proceedings of 15th USENIX Conference on File and Storage Technologies, pp. 359-374, 2017.
K. Marks, "An NVM Express Tutorial," Flash Memory Summit, 2013.
M. Bjorling, J. Axboe, D. Nellansm, P. Bonnet, "Linux Block IO:Introducing Multi-queue SSD Access on Multi-core Systems," Proceedings of the 6th International Systems and Storage Conference, pp. 22, ,2013.
K. Josh, K. Yadav, P. Choudhary, i, "Enabling NVMe WRR Support in Linux Block Layer," Proceedings of the 9th USENIX Workshop on Hot Topics in Storage and File Systems, 2017.
M. Lee, D. Kang, Y. Eom, "Utilizing Multi-queue Based NVMe SSD for Improving Read I/O Performance," Proceedings of Korea Computer Congress, pp. 1469-1471, 2016 (in Korean).
J. Park, J. Lee, D. Seo, "Multi-Queue Block I/O Scheme for Improving User Responsivness in NVMe SSD," Proceedings of the Korean Institute of Communications and Information Sciences, pp. 1639-1640, 2017 (in Korean).
P. Kumar, H.H. Huang, "Falcon: Scaling IO Performance in Multi-SSD Volumes," Proceedgins of the USENIX Annual Technical Conference, pp. 41-53, 2017.
S. Hahn, S. Lee, I. Yee, D. Ryu, J. Kim, "Improving User Experience of Android Smartphones Using Foreground App-Aware I/O Management," Proceedings of the 8th Asia-Pacific Workshop on Systems, pp. 5, 2017.

저자의 다른 논문 :

LOADING...

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증