[논문]Deep Learning을 위한 GPGPU 기반 Convolution 가속기 구현

전희경; 이광엽; 김치용

doi:10.7471/ikeee.2016.20.3.303

초록
AI-Helper

본 논문에서는 GPGPU를 활용하여 Convolutional neural network의 가속화 방법을 제안한다. Convolutional neural network는 이미지의 특징 값을 학습하여 분류하는 neural network의 일종으로 대량의 데이터를 학습해야하는 영상 처리에 적합하다. 기존의 Convolutional neural network의 convolution layer는 다수의 곱셈 연산을 필요로 하여 임베디드 환경에서 실시간으로 동작하기에 어려움이 있다. 본 논문에서는 이러한 단점을 해결하기 위하여 winograd convolution 연산을 통하여 곱셈 연산을 줄이고 GPGPU의 SIMT 구조를 활용하여 convolution 연산을 병렬 처리한다. 실험은 ModelSim, TestDrive를 사용하여 진행하였고 실험 결과 기존의 convolution 연산보다 처리 시간이 약 17% 개선되었다.

Abstract ▼ AI-Helper

In this paper, we propose a method to accelerate convolutional neural network by utilizing a GPGPU. Convolutional neural network is a sort of the neural network learning features of images. Convolutional neural network is suitable for the image processing required to learn a lot of data such as imag...

In this paper, we propose a method to accelerate convolutional neural network by utilizing a GPGPU. Convolutional neural network is a sort of the neural network learning features of images. Convolutional neural network is suitable for the image processing required to learn a lot of data such as images. The convolutional layer of the conventional CNN required a large number of multiplications and it is difficult to operate in the real-time on the embedded environment. In this paper, we reduce the number of multiplications through Winograd convolution operation and perform parallel processing of the convolution by utilizing SIMT-based GPGPU. The experiment was conducted using ModelSim and TestDrive, and the experimental results showed that the processing time was improved by about 17%, compared to the conventional convolution.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 개선된 convolution 알고리즘을 SIMT 기반 GPGPU에서 병렬 처리하는 방법을 제안한다. SIMT 기반 GPGPU는 그림 3 같이 thread들의 묶음인 warp의 개념을 가지며 16 warp, 16 thread로 구성되어 있다[7].
본 논문에서는 기존의 convolutional neural network에서 가장 많은 연산량을 차지하고 있는 convolution 연산량과 처리시간을 개선하였다. 본 논문에서는 기존의 convolution에서 다수의 곱셈을 상대적으로 연산 시간이 짧은 다수의 덧셈으로 처리하기 위하여 Winograd small convolution algorithm을 활용하였다.
본 논문에서는 이 중 가장 연산량이 많은 convolutional layer를 개선하여 처리 속도를 개선한다. Convolution 연산은 그림 2와 같이 다수의 곱셈과 합으로 처리된다.

제안 방법

본 논문에서는 기존의 convolution에서 다수의 곱셈을 상대적으로 연산 시간이 짧은 다수의 덧셈으로 처리하기 위하여 Winograd small convolution algorithm을 활용하였다. 또 16 warp, 16 thread로 동작하는 SIMT 기반 GPGPU를 활용하여 각 성분별로 진행되는 연산을 병렬처리하고 알고리즘을 가속화하였다. 실험은 기존의 convolution 연산과 개선된 convolution 연산의 결과를 비교 실험하였으며 실험 결과 약 17% 개선된 것을 확인하였다.
Winograd convolution은 다수의 곱셈 연산을 상대적으로 연산 시간이 짧은 다수의 덧셈 연산으로 알고리즘을 개선한다[3][4]. 또한 본 논문에서는 SIMT 구조 기반의 GPGPU의 특징을 활용하여 공통적인 연산들을 병렬 처리하고 하나의 thread마다 하나의 성분을 계산하여 처리 시간을 개선한다.
본 논문에서는 convolution 연산을 병렬 처리하기 위하여 부호 데이터를 LUT(Look-Up Table) 로 저장하였다. 저장된 부호 데이터를 이용하여 뺄셈 연산을 덧셈 연산으로 치환하면 동일한 덧셈 연산이 일정한 횟수로 반복 된다.
본 논문에서는 그림 3과 같이 각 thread별로 출력 행렬의 1개의 성분 연산을 담당하여 병렬 처리하였다. 4x4 크기를 입력으로 하여 3x3 크기의 필터를 convolution 하는 연산을 기준으로 병렬화할 경우 기존의 convolution 연산은 곱셈 9회와 덧셈 8회로 연산한다.
실험은 ModelSim, TestDirve[8]을 이용하여 시뮬레이션 하였으며 동작 주파수는 100MHz로 진행하였다. 본 실험에서는 4x4 행렬을 입력으로 하여 3x3 크기의 필터로 convolution을 연산하여 총 4개의 성분을 가지는 행렬을 계산하는 실험을 진행하였다. 실험은 기존의 convolution 연산과 본 논문에서 제안한 방법을 각 행렬의 성분 별로 병렬 연산하여 비교실험 하였다.
본 실험에서는 4x4 행렬을 입력으로 하여 3x3 크기의 필터로 convolution을 연산하여 총 4개의 성분을 가지는 행렬을 계산하는 실험을 진행하였다. 실험은 기존의 convolution 연산과 본 논문에서 제안한 방법을 각 행렬의 성분 별로 병렬 연산하여 비교실험 하였다. 병렬에 사용한 thread는 4개로 각 thread 마다 하나의 성분을 계산하였다.

이론/모형

본 논문에서는 기존의 convolutional neural network에서 가장 많은 연산량을 차지하고 있는 convolution 연산량과 처리시간을 개선하였다. 본 논문에서는 기존의 convolution에서 다수의 곱셈을 상대적으로 연산 시간이 짧은 다수의 덧셈으로 처리하기 위하여 Winograd small convolution algorithm을 활용하였다. 또 16 warp, 16 thread로 동작하는 SIMT 기반 GPGPU를 활용하여 각 성분별로 진행되는 연산을 병렬처리하고 알고리즘을 가속화하였다.
그러나 convolutional neural network의 기본 연산인 convolution 연산은 다수의 곱셈 연산으로 구성되어 많은 처리 시간을 요구한다. 본 논문에서는 이러한 단점을 개선하기 위하여 winograd convolution 알고리즘을 사용한다. Winograd convolution은 다수의 곱셈 연산을 상대적으로 연산 시간이 짧은 다수의 덧셈 연산으로 알고리즘을 개선한다[3][4].
실험은 ModelSim, TestDirve[8]을 이용하여 시뮬레이션 하였으며 동작 주파수는 100MHz로 진행하였다. 본 실험에서는 4x4 행렬을 입력으로 하여 3x3 크기의 필터로 convolution을 연산하여 총 4개의 성분을 가지는 행렬을 계산하는 실험을 진행하였다.

성능/효과

하지만 제안한 방법은 각 곱셈 명령와 덧셈 명령어를 이용하여 4개의 성분 결과를 동시에 처리할 수 있다. 결과적으로 4개의 성분을 계산하는데 필요한 수는 기존의 방법은 곱셈 36회 덧셈 32회임에 반해 제안하는 방법은 곱셈 6회 덧셈 11회가 된다. 제안한 방법은 총 연산 수를 약 78% 감소시킬 수 있었고 처리시간을 비교하였을 경우 기존의 방법보다 제안한 방법이 약 17% 빠른 것을 확인할 수 있었다.
또 16 warp, 16 thread로 동작하는 SIMT 기반 GPGPU를 활용하여 각 성분별로 진행되는 연산을 병렬처리하고 알고리즘을 가속화하였다. 실험은 기존의 convolution 연산과 개선된 convolution 연산의 결과를 비교 실험하였으며 실험 결과 약 17% 개선된 것을 확인하였다. 실험한 convolution 연산이 모든 thread를 사용하지 않았으므로 모든 thread를 사용할 만큼 큰 연산을 제안하는 방법에 따라 처리하면 더욱 큰 개선을 기대할 수 있다.
결과적으로 4개의 성분을 계산하는데 필요한 수는 기존의 방법은 곱셈 36회 덧셈 32회임에 반해 제안하는 방법은 곱셈 6회 덧셈 11회가 된다. 제안한 방법은 총 연산 수를 약 78% 감소시킬 수 있었고 처리시간을 비교하였을 경우 기존의 방법보다 제안한 방법이 약 17% 빠른 것을 확인할 수 있었다.

후속연구

실험은 기존의 convolution 연산과 개선된 convolution 연산의 결과를 비교 실험하였으며 실험 결과 약 17% 개선된 것을 확인하였다. 실험한 convolution 연산이 모든 thread를 사용하지 않았으므로 모든 thread를 사용할 만큼 큰 연산을 제안하는 방법에 따라 처리하면 더욱 큰 개선을 기대할 수 있다. 따라 전체적인 convolutional neural network를 구성하였을 때기존의 convolutional neural network보다 제안한 방법을 활용하면 convolutional neural network의 속도를 개선할 수 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	convolution 알고리즘을 SIMT 기반 GPGPU에서 병렬 처리하는 방법에서 SIMT 기반 GPGPU은 어떻게 구성되는가?	본 논문에서는 개선된 convolution 알고리즘을 SIMT 기반 GPGPU에서 병렬 처리하는 방법을 제안한다. SIMT 기반 GPGPU는 그림 3 같이 thread들의 묶음인 warp의 개념을 가지며 16 warp, 16 thread로 구성되어 있다[7].
	convolutional neural network의 기본 연산인 convolution 연산의 단점은?	그 중 Convolutional neural network는 영상과 같이 다량의 데이터를 처리할 때 특화된 neural network이다. 그러나 convolutional neural network의 기본 연산인 convolution 연산은 다수의 곱셈 연산으로 구성되어 많은 처리 시간을 요구한다. 본 논문에서는 이러한 단점을 개선하기 위하여 winograd convolution 알고리즘을 사용한다.
	기계 학습은 어떤 분야인가?	최근 무인 자동차, 구글의 알파고와 같이 기계 학습에 대한 관심이 급증하고 있다[1]. 기계 학습은 컴퓨터에 명시적인 프로그램 없이 배울 수 있는 능력을 부여하는 분야이다[2]. 특히 영상처리와 같이 변수가 다양한 분야에 활용되고 있다.

참고문헌 (8)

David Silver, Aja Huang, Chris J. Maddison, Arthur Guez, et al., "Mastering the game of Go with deep neural networks and tree search," . Nature, 529, pp. 484-489, 28 January 2016.

상세보기
http://smart.science.go.kr/scienceSubject/iot/view.action?menuCdDOM_000000101001012000&subj ect_sid1322
Shmuel Winograd, " Arithmetic complexity of computations," volume 33. Siam, 1980.
Lavin, Andrew. "Fast algorithms for convolutional neural networks." arXiv preprint arXiv:1509.09308 2015.
Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "Imagenet classification with deep convolutional neural networks." Advances in neural information processing systems. 2012.
Agarwal, R., and J. Cooley. "New algorithms for digital convolution." IEEE Transactions on Acoustics, Speech, and Signal Processing 25.5 (1977): 392-410.

상세보기
Yunseop Hwang, Kwang yeob Lee, Junmo Jeong, "Design of SIMT Architecture-based Reconfigurable Image Signal Processor," International conference on future information & communication engineering, 25 June 2015.
https://sourceforge.net/projects/test-drive/

이 논문을 인용한 문헌

저자의 다른 논문 :

LOADING...

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

Deep Learning을 위한 GPGPU 기반 Convolution 가속기 구현
An Implementation of a Convolutional Accelerator based on a GPGPU for a Deep Learning 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약
AI-Helper

문제 정의

제안 방법

이론/모형

성능/효과

후속연구

질의응답

참고문헌 (8)

이 논문을 인용한 문헌

저자의 다른 논문 :

연구과제 타임라인

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

Deep Learning을 위한 GPGPU 기반 Convolution 가속기 구현 An Implementation of a Convolutional Accelerator based on a GPGPU for a Deep Learning 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

주제어

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

이론/모형

성능/효과

후속연구

질의응답

참고문헌 (8)

이 논문을 인용한 문헌

저자의 다른 논문 :

전희경 (1) 이광엽 (43) 김치용 (10)

연구과제 타임라인

전체(0) 논문(0) 특허(0) 보고서(0)

전체(0) 논문(0) 특허(0) 보고서(0)

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

Deep Learning을 위한 GPGPU 기반 Convolution 가속기 구현
An Implementation of a Convolutional Accelerator based on a GPGPU for a Deep Learning 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper