초록 ▼

□ 연구개발 목표 및 내용
￭ 최종 목표
GPU에서 데이터 병렬성뿐만 아니라 태스크 병렬성을 지원할 수 있고, 딥러닝 구조와 GPU 구조의 데이터 병렬성 및 태스크 병렬성을 모두 고려한 최적의 매핑 및 스케쥴링 기법을 개발함으로써, 추가 하드웨어 비용 없이 딥러닝 가속을 달성하는 것을 목표로 함.
￭ 전체 내용
- 1차년도(9개월):
* 효과적인 태스크 병렬성 실행모델을 제안하고, 이를 지원하는 GPU 프레임워크인 GOPipe를 개발.
- 2차년도(12개월):
* 다양한 의존성 패턴을

□ 연구개발 목표 및 내용
￭ 최종 목표
GPU에서 데이터 병렬성뿐만 아니라 태스크 병렬성을 지원할 수 있고, 딥러닝 구조와 GPU 구조의 데이터 병렬성 및 태스크 병렬성을 모두 고려한 최적의 매핑 및 스케쥴링 기법을 개발함으로써, 추가 하드웨어 비용 없이 딥러닝 가속을 달성하는 것을 목표로 함.
￭ 전체 내용
- 1차년도(9개월):
* 효과적인 태스크 병렬성 실행모델을 제안하고, 이를 지원하는 GPU 프레임워크인 GOPipe를 개발.
- 2차년도(12개월):
* 다양한 의존성 패턴을 지원하는, 태스크 병렬성 모델을 위한 스케줄링 기법들을 개발.
* GOPipe 프레임워크를 완성하고, 합성곱 연산 외에도 다양한 응용에 대해 성능개선 확인.
* 태스크 병렬성 모델의 CPU-GPU 확장을 위해, GOPipe 실행모델을 지원하는 CPU-GPU 간의 효율적인 통신기법 개발.
* 태스키 병렬성 실행모델의 특성을 활용하여, CNN 가중치 행렬을 재사용하여 성능개선.
- 3차년도(12개월), 4차년도(3개월):
* 태스크 병렬 실행 기반으로 GPU 자원을 공유할 때, 중첩 수행 통한 가속을 위해 머신러닝 기반의 성능 예측기 개발.
* GoogLeNet을 GOPipe로 구현하고 성능개선.
* CPU-GPU 태스크 병렬 실행을 위한 코드 생성기를 개발하고, 서버 GPU와 임베디드 GPU의 태스크 병렬성 차이 확인.

□ 연구개발성과
기존 GPU 프레임워크인 CUDA에서는 고려하지 못하는 태스크 병렬성을, 데이터 병렬성 위에 추가로 고려하고, 이 때 서로 다른 태스크의 자원요구량을 고려하여 GPU 자원공유가 최적이 될 수 있도록 스케줄링하는 GPU 프레임워크를 개발함. CNN 응용에 맞게, 본 기법을 적용하여 큰 성능개선을 달성하였음. PACT에 제1저자, 교신저자로 논문발표.

□ 연구개발성과 활용계획 및 기대 효과
GPU가 딥러닝의 핵심기술로 떠오르면서 최근 GPU 아키텍처는 보다 딥러닝 응용을 효율적으로 수행할 수 있는 방향으로 진화해가고 있지만, 늘어난 GPU의 자원을 최적으로 사용하지 못하는 문제가 가중되고 있다. 본 연구과제로 개발된 새로운 GPU 프레임워크인 GOPipe는 기존 CUDA 실행모델에 추가로 태스크 병렬성을 효과적으로 지원함으로써, 딥러닝 수행시간을 1.4배 단축할 수 있음을 보임. 현재 많은 딥러닝 프레임워크에서 주로 사용하는 cuDNN은 데이터 병렬성만을 지원하고 있기 때문에 한계를 보이는 레이어들이 있음. GOPipe 프레임워크를 최적화하고 고도화함에 따라 그 수요와 활용도가 매우 높을 것으로 기대한다.

(출처 : 요약문 2p)

목차 Contents

• 표지 ... 1
• 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• <1차년도:새로운 태스크 병렬성 모델의 제안 및 이를 지원하는 효율적인 GPU 프레임워크 개발> ... 5
• <2차년도: 태스크 병렬성 모델을 위한 스케줄링 기법의 개발> ... 7
• <3차년도, 4차년도: 태스크의 GPU 자원공유를 고려하는 성능 예측기 개발 > ... 9
• 3. 연구개발과제의 수행 결과 및 목표 달성 정도 ... 11
• 1) 연구수행 결과 ... 11
• 4. 연구개발성과의 관련 분야에 대한 기여 정도 ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 14
• 6. 참고문헌 ... 14
• 끝페이지 ... 14