초록 ▼

□연구개요
기존의 딥러닝 학습 방식은 딥 뉴럴 네트워크의 레이어들을 순차적으로 연산 및 학습하는데 이러한 방식은 고성능 GPU를 사용하는 서버 환경에는 적합하더라도 저성능, 저전력의 임베디드 시스템 환경에서는 적합하지 않다. 따라서, 임베디드 시스템의 하드웨어 특성을 고려하여 기존 대비 빠르고 효율적인 학습이 가능한 딥러닝 병렬 학습 기법을 개발하고 구현하는 것을 연구 목표로 한다. 단일 딥러닝 모델인 CNN(convolutional neural network)과 RNN(recurrent neural network), 앙상블

□연구개요
기존의 딥러닝 학습 방식은 딥 뉴럴 네트워크의 레이어들을 순차적으로 연산 및 학습하는데 이러한 방식은 고성능 GPU를 사용하는 서버 환경에는 적합하더라도 저성능, 저전력의 임베디드 시스템 환경에서는 적합하지 않다. 따라서, 임베디드 시스템의 하드웨어 특성을 고려하여 기존 대비 빠르고 효율적인 학습이 가능한 딥러닝 병렬 학습 기법을 개발하고 구현하는 것을 연구 목표로 한다. 단일 딥러닝 모델인 CNN(convolutional neural network)과 RNN(recurrent neural network), 앙상블 딥러닝 모델인 GAN(generative adversarial network) 등을 위한 병렬 학습 알고리즘을 개발하고 이를 임베디드 시스템에 구현하여 성능을 검증 후 라이브러리 형태로 제공하는 방안에 대해 연구한다.

□연구 목표대비 연구결과
연구팀은 임베디드 시스템을 위한 딥러닝 병렬 학습 알고리즘인 지역 평가 학습을 개발함으로써 연구 목표를 달성하였다. 기존 딥러닝 학습 방법인 역전파의 순차적 학습 과정의 한계를 해결하기 위해 지역 평가 네트워크를 기존 네트워크의 사이에 삽입하여 병렬 학습이 가능한 구조와 이를 효율적으로 학습할 수 있는 학습 알고리즘을 고안했다. 먼저 단일 딥러닝 모델과 앙상블 딥러닝 모델에 적합한 학습 구조와 알고리즘을 제시하였고 지역 평가 학습 방법을 서버 환경에서 사용하여 학습을 진행했을 때 기존 방법 대비 성능 차이가 거의 발생하지 않는다는 점을 입증했다. 그리고, 개발한 지역 평가 학습을 임베디드 시스템에 적합하도록 개선 후 이를 구현하여 그 효율성을 확인하였다. 지역 평가 학습은 기존 방법 대비 큰 성능 차이 없이 단일 딥러닝 모델에서는 최대 37%, 앙상블 모델에서는 최대 31%까지 학습 시간을 감소시킬 수 있었다. 이후 검증된 지역 평가 학습의 알고리즘을 라이브러리 형태로 가공 후 코드 공유 사이트인 깃허브(github)에 공개하여 연구 결과를 다른 연구자들이 쉽게 사용할 수 있도록 하였다. 추가적으로 지역 평가 학습의 성능을 더 올릴 수 있는 방법에 대해 연구하여 이전보다 향상된 성능을 얻을 수 있었다.

□연구개발결과의 중요성
최근 들어 점점 임베디드 시스템, IoT와 같은 모바일 환경에서 딥러닝을 사용하려는 시도 및 연구가 많이 이루어지고 있다. 이와 더불어 딥러닝의 성능을 높이기 위해서 학습 데이터는 많아지고 네트워크는 더 복잡해지고 있다. 이러한 상황에서는 기존의 학습 방법이 가진 학습 부담을 줄이기 위한 효율적인 학습 방법이 절실하다. 본 연구팀에서 개발한 지역 평가 학습은 기존 방법 대비 효율적인 학습이 서버 환경 및 임베디드 시스템에서도 가능하기 때문에 이는 딥러닝의 활용도를 크게 높일 것으로 기대한다. 이는 속도의 향상으로 얻어지는 편의성 뿐만 아니라 에너지 효율의 향상 또한 수반하기 때문에 저전력 연산을 요구하는 임베디드 시스템에 가져오는 부수적인 효과는 매우 클 것으로 예상하며 학습 알고리즘을 라이브러리로 공개하였기 때문에 이는 학계 및 산업계 전반에 큰 도움이 될 것이다.

(출처 : 요 약 문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구수행내용 및 연구결과 ... 5
• [1차년도] ... 5
• [2차년도] ... 7
• [3차년도] ... 10
• [4차년도] ... 13
• 3. 연구개발결과의 중요성 ... 18
• 4. 참고문헌 ... 19
• 5. 연구성과 ... 20
• 대표적 연구실적 ... 22
• 끝페이지 ... 37