[논문]MAHA-FS : 고성능 메타데이터 처리 및 랜덤 입출력을 위한 분산 파일 시스템

김영창; 김동오; 김홍연; 김영균; 최완

doi:10.3745/ktsde.2013.2.2.091

문제 정의

본 논문에서는 대용량의 데이터 처리와 고성능 계산을 동시에 지원하는 슈퍼컴퓨팅 시스템을 위한 분산 파일 시스템인 MAHA-FS를 소개하고 그 성능을 분석하였다. MAHA-FS는 inode 기반의 자체 메타데이터 관리 엔진과 FUSE low-level API를 이용하여 우수한 메타데이터 연산 성능을 제공하며, request-and-reply IO 프로토콜을 이용하여 개선된 random 입출력 성능을 제공한다.
그러나 GLORY-FS는 높은 sequential 입출력 성능에 반해 메타데이터 연산 처리 성능과 random 입출력 성능이 떨어지는 단점이 존재한다. 본 논문에서는 대용량의 데이터 처리와 고성능 계산을 동시에 지원하는 슈퍼컴퓨팅 시스템을 위해 GLORY-FS의 장점을 유지하면서 단점을 보완한 분산 파일 시스템인 MAHA-FS를 소개한다. MAHA-FS의 설계 목표는 다음과 같다.
본 절에서는 GLORY-FS의 단점인 메타데이터 연산 처리 성능 및 random 입출력 성능 한계를 해결하여 슈퍼 컴퓨팅 시스템을 지원하기 위한 MAHA-FS를 소개한다.
본 절에서는 관련 연구로서 MAHA-FS 클라이언트에서 사용하는 FUSE(Filesystem in Userspace)와 분산 파일 시스템인 GLORY-FS 에 대해 기술한다.

제안 방법

다음으로 random 입출력 성능 분석 결과에 대해 기술한다. random 입출력 성능 분석은 IOzone을 이용하여 실험하였으며, 입출력 단위를 4K 바이트로 고정하고 초당 처리한 입출력 명령 횟수를 측정하였다. Fig.
1을 설치한 5대의 시스템을 사용하였으며, MDS 1대, DS 4대를 운영하였다. 각 시스템은 Infiniband 40Gbps 네트워크를 통해 연결되어 있으며, IPoIB(IP over InfiniBand)를 이용하여 TCP/IP 환경에서 성능을 분석하였다.
먼저, 클라이언트는 사용자의 파일 입출력 요청을 FUSE를 통해 전달받는다. 그리고 전달받은 파일의 inode 정보를 MDS로 전송하여 해당 파일에 대한 레이아웃 정보를 획득한다. 사용자의 파일은 일정 크기의 청크 단위로 분할되어 여러 DS에 분산되어 저장되는데 레이아웃 정보에는 파일이 몇 개의 청크로 이루어져있으며, 또한 데이터 가용성을 위해 복제된 청크들이 몇 개인지, 어느 DS가 해당 청크를 저장하고 있는지에 대한 정보를 포함하고 있다.
MDS는 모든 DS들로부터 주기적으로 heartbeat을 받아 DS들의 상태를 파악하고 장애가 감지된 DS에 저장된 청크의 복제본을 다른 DS에 새로운 복제본을 생성하여 저장하도록 함으로써 DS 장애에 따른 데이터 가용성을 제공한다. 또한 Active-Standby 구조의 MDS 클러스터를 통해 active 상태의 MDS는 모든 메타데이터와 관련된 연산을 처리하고, standby 상태의 MDS로 지속적으로 메타데이터 동기화를 수행한다. Standby MDS 는 heartbeat을 통해 MDS의 상태를 모니터링하고 active MDS에 장애가 발생했을 때 active 상태로 전환하여 MDS 장애에 대처하고 시스템의 안정성을 높인다.
먼저, 메타데이터 연산 성능 분석 결과에 대해 기술한다. 메타데이터 연산 성능 분석을 위해 MAHA-FS와 GLORYFS를 마운트한 클라이언트에서 5개의 쓰레드를 생성하고 각 쓰레드마다 100,000개의 파일을 생성하도록 테스트 프로그램을 작성하였다. 이때 클라이언트의 수에 따른 성능 변화를 분석하기 위해 클라이언트의 수는 1, 4, 8대로 증가하며 실험을 수행하고, 파일 생성에 따라 발생하는 네임스페이스 연산 중 getattr, create 명령의 수와 전체 네임스페이스 연산 처리 횟수를 분석하였다.
성능 분석은 GLORY-FS와 MAHA-FS와의 성능을 비교하였으며, 메타데이터 연산 성능과 파일 입출력 성능으로 나누어 수행하였다. 메타데이터 연산 성능 분석은 각 파일 시스템을 각 클라이언트에서 마운트하고, 파일 생성을 수행하여 초당 실행된 명령어의 횟수를 비교하였으며, 파일 입출력 성능은 성능 분석 도구인 IOzone[8]을 사용하여 sequential 입출력과 random 입출력 성능을 각각 분석하였다.
Sequential 입출력 성능 분석은 random 입출력 성능 분석과 동일한 환경에서 IOzone을 이용하여 실험하였으며, 입출력 단위는 128K 바이트이고, 사용된 파일의 크기는 1G 바이트이다. 실험은 클라이언트의 수를 1, 2, 3대로 증가시키며 측정하였고, 각 클라이언트마다 쓰레드의 수를 1, 4, 8개로 변화시키며 실험을 수행하였다. Fig.
DS는 사용자의 파일을 일정한 크기의 청크(chunnk)들로 나누어 로컬 시스템의 파일로 저장한다. 이때 데이터 가용성을 위해 일정 개수의 복제본을 생성하여 서로 다른 DS에 분산 저장하고, 각 청크에 대한 버전 관리를 통해 데이터의 무결성을 제공한다.
메타데이터 연산 성능 분석을 위해 MAHA-FS와 GLORYFS를 마운트한 클라이언트에서 5개의 쓰레드를 생성하고 각 쓰레드마다 100,000개의 파일을 생성하도록 테스트 프로그램을 작성하였다. 이때 클라이언트의 수에 따른 성능 변화를 분석하기 위해 클라이언트의 수는 1, 4, 8대로 증가하며 실험을 수행하고, 파일 생성에 따라 발생하는 네임스페이스 연산 중 getattr, create 명령의 수와 전체 네임스페이스 연산 처리 횟수를 분석하였다. Fig.
이를 해결하기 위해 MAHA-FS 클라이언트는 각 DS에 대한 소켓 풀을 관리한다. 파일 입출력을 위해 DS와 입출력 채널이 생성되면 입출력이 끝난 후 이를 해제하지 않고 소켓 풀에 반환하고 다음 입출력 요청이 발생하면 이를 재사용한다. 이를 통해 random 입출력 시 채널을 항상 새로 생성하고 해제해야하는 비용을 줄임으로써 입출력 성능을 향상시킨다.

대상 데이터

마지막으로 파일 입출력 성능 중 sequential 입출력 성능 분석 결과에 대해 기술한다. Sequential 입출력 성능 분석은 random 입출력 성능 분석과 동일한 환경에서 IOzone을 이용하여 실험하였으며, 입출력 단위는 128K 바이트이고, 사용된 파일의 크기는 1G 바이트이다. 실험은 클라이언트의 수를 1, 2, 3대로 증가시키며 측정하였고, 각 클라이언트마다 쓰레드의 수를 1, 4, 8개로 변화시키며 실험을 수행하였다.
성능 분석을 위해 사용한 시스템 환경은 Table 1과 같다. 시험은 Redhat Enterprise Linux 6.1을 설치한 5대의 시스템을 사용하였으며, MDS 1대, DS 4대를 운영하였다. 각 시스템은 Infiniband 40Gbps 네트워크를 통해 연결되어 있으며, IPoIB(IP over InfiniBand)를 이용하여 TCP/IP 환경에서 성능을 분석하였다.

데이터처리

성능 분석은 GLORY-FS와 MAHA-FS와의 성능을 비교하였으며, 메타데이터 연산 성능과 파일 입출력 성능으로 나누어 수행하였다. 메타데이터 연산 성능 분석은 각 파일 시스템을 각 클라이언트에서 마운트하고, 파일 생성을 수행하여 초당 실행된 명령어의 횟수를 비교하였으며, 파일 입출력 성능은 성능 분석 도구인 IOzone[8]을 사용하여 sequential 입출력과 random 입출력 성능을 각각 분석하였다.

성능/효과

Fig. 6에 나타난바와 같이 전체적으로 MAHA-FS의 메타데이터 연산 성능이 GLORY-FS에 비해 매우 우수함을 나타내었다. 클라이언트가 1대일 경우에는 초당 처리한 명령의 수가 MAHA-FS는 약 17,000건, GLORY-FS는 약 5,800건으로 약 3배의 차이가 발생하였으며, 이는 클라이언트의 수가 증가할수록 더 벌어졌다.
Fig. 8에서 두 파일 시스템 모두 클라이언트의 수가 증가할수록, 그리고 쓰레드의 수가 증가할수록 입출력 성능이 선형적으로 증가하였다. 전체적으로 GLORY-FS가 MAHA-FS보다 sequential 입출력 성능이 항상 우수함을 나타내었으며, 쓰레드의 수가 적거나 클라이언트의 수가 적을 때에는 약 2.
7GByte/sec를 측정되어 MAHA-FS가 GLORY-FS에 비해 read, write 성능이 각각 95%, 90%정도로 차이가 즐어드는 것을 보였다. MAHA-FS의 입출력 프로토콜은 random 입출력 성능은 크게 향상시켰으나, sequential 입출력에서 성능차이가 발생하였으며, 이를 반영한 입출력 프로토콜의 개선이 필요함을 나타내었다.
5~3배 차이가 발생하였다. 그러나 쓰레드의 수가 증가할수록 성능 차이는 줄어드는 경향을 나타내었다. 클라이언트의 수가 3대이고 클라이언트당 쓰레드의 수가 8일 때, 즉, 총 24개의 쓰레드에서 입출력이 발생하였을 때에는, MAHA-FS의 경우 read 가 약 3.
반면 GLORY-FS의 경우 read는 약 12,000건, write는 약 1,200건 이하로 비슷한 성능을 나타내었다. 두 파일 시스템 모두 read에 비해 write의 성능이 저조함을 나타내었다. 이는 두 파일 시스템 모두 write에 따른 청크에 대한 변경이 발생할 때마다 청크의 변경을 MDS로 전달하고 다른 복제 청크들과의 동기화를 수행하기 때문에 나타나는 현상이다.
이때, 데이터의 가용성을 보장하기 위해 청크는 일정한 수의 복제본을 생성하여 서로 다른 DS에 분산되어 저장된다. 또한, 데이터의 무결성을 보장하기 위해 데이터를 기록할 때마다 이를 MDS에 전달하여 해당 청크의 정보가 변경되었음을 알리고 해당 청크의 버전 정보를 갱신하며, 청크의 복제본이 위치한 다른 DS에 변경된 청크 내용을 전달한다. 청크는 잘 구성된 디렉토리의 임의 위치에 청크의 식별자를 이름으로 하여 로컬 파일 시스템 상에 일반 파일로 저장된다.
8에서 두 파일 시스템 모두 클라이언트의 수가 증가할수록, 그리고 쓰레드의 수가 증가할수록 입출력 성능이 선형적으로 증가하였다. 전체적으로 GLORY-FS가 MAHA-FS보다 sequential 입출력 성능이 항상 우수함을 나타내었으며, 쓰레드의 수가 적거나 클라이언트의 수가 적을 때에는 약 2.5~3배 차이가 발생하였다. 그러나 쓰레드의 수가 증가할수록 성능 차이는 줄어드는 경향을 나타내었다.
그러나 쓰레드의 수가 증가할수록 성능 차이는 줄어드는 경향을 나타내었다. 클라이언트의 수가 3대이고 클라이언트당 쓰레드의 수가 8일 때, 즉, 총 24개의 쓰레드에서 입출력이 발생하였을 때에는, MAHA-FS의 경우 read 가 약 3.8GByte/sec, write 가 약 3.3GByte/sec 이고, GLORY-FS의 경우 read 가 약 4.0GByte/sec, write 가 약 3.7GByte/sec를 측정되어 MAHA-FS가 GLORY-FS에 비해 read, write 성능이 각각 95%, 90%정도로 차이가 즐어드는 것을 보였다. MAHA-FS의 입출력 프로토콜은 random 입출력 성능은 크게 향상시켰으나, sequential 입출력에서 성능차이가 발생하였으며, 이를 반영한 입출력 프로토콜의 개선이 필요함을 나타내었다.

후속연구

향후 연구로는 sequential 입출력을 고려하도록 MAHA-FS의 입출력 프로토콜을 개선하여 sequential 입출력 성능을 향상시키는 연구가 필요하며, 실제 바이오 응용에 MAHA-FS를 적용하여 실험을 수행하고 MAHA-FS가 슈퍼컴퓨팅 시스템을 위한 분산 파일 시스템으로서 적용 가능함을 입증하는 것이다.

핵심어	질문	논문에서 추출한 답변
	FUSE란 무엇인가?	FUSE[6]는 유닉스 계열의 운영체제에 적재할 수 있는 커널 모듈로써, 커널 레벨이 아닌 사용자 영역에서 실행되는 파일 시스템을 만들 수 있게 해준다. FUSE는 커널 모듈과 라이브러리로 구성되며, Fig.
	FUSE의 장점은 무엇인가?	FUSE 는 파일 시스템이 사용자 레벨에서 실행되도록 지원하기 때문에 안정성과 개발 편의성 및 POSIX 표준 인터페이스 호환성을 제공하는 장점을 갖는다. FUSE는 Linux, FreeBSD, NetBSD, OpenSolaris, OS X 등을 지원하며, FUSE를 이용한 대표적인 분산 파일 시스템으로는 GLORYFS[5], GlusterFS[7], Ceph[4] 등이 있다.
	MAHA-FS의 설계 목표는 무엇인가?	•페타바이트(Petabyte)급 이상의 스토리지 공간 제공 •고속의 단일 메타데이터 서버 연산 성능 제공 •DBMS를 탈피한 메타데이터 저장 엔진 개발 •향상된 random 입출력 성능 제공 •안정성, 확장성, 사용편이성 제공 •POSIX 표준 API 호환 제공

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

MAHA-FS : 고성능 메타데이터 처리 및 랜덤 입출력을 위한 분산 파일 시스템
MAHA-FS : A Distributed File System for High Performance Metadata Processing and Random IO 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

성능/효과

후속연구

질의응답

참고문헌 (8)

이 논문을 인용한 문헌

저자의 다른 논문 :

연구과제 타임라인

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

MAHA-FS : 고성능 메타데이터 처리 및 랜덤 입출력을 위한 분산 파일 시스템 MAHA-FS : A Distributed File System for High Performance Metadata Processing and Random IO 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

데이터처리

성능/효과

후속연구

질의응답

참고문헌 (8)

이 논문을 인용한 문헌

저자의 다른 논문 :

김영창 (5) 김홍연 (14) 김영균 (20) 최완 (29)

연구과제 타임라인

전체(0) 논문(0) 특허(0) 보고서(0)

전체(0) 논문(0) 특허(0) 보고서(0)

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

MAHA-FS : 고성능 메타데이터 처리 및 랜덤 입출력을 위한 분산 파일 시스템
MAHA-FS : A Distributed File System for High Performance Metadata Processing and Random IO 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper