초록 ▼

연구개요
최근의 인공지능 연구는 자원의 효율적 이용과는 관련없이 그 결과의 정확도를 올리는 연구에 집중되어 있다. 낮은 정확도는 쉽게 얻을 수 있으나, 90% 이상의 높은 정확도에서 더 높은 정확도를 달성하기 위해서 요구되는 자원의 양(또는 effort)은 계속 증가하는 경향이 있다. 따라서 현재의 연구들은 높은 정확도를 달성하기 위해 수 많은 코어를 가진 서버를 이용하는 경우가 많은데, 이렇게 정확도만을 고려한 접근 방법은 전력 소모를 고려하지 않기 때문에 임베디드 디바이스내에서 인공지능 데이터처리를 직접 수행하는 에지컴퓨팅

연구개요
최근의 인공지능 연구는 자원의 효율적 이용과는 관련없이 그 결과의 정확도를 올리는 연구에 집중되어 있다. 낮은 정확도는 쉽게 얻을 수 있으나, 90% 이상의 높은 정확도에서 더 높은 정확도를 달성하기 위해서 요구되는 자원의 양(또는 effort)은 계속 증가하는 경향이 있다. 따라서 현재의 연구들은 높은 정확도를 달성하기 위해 수 많은 코어를 가진 서버를 이용하는 경우가 많은데, 이렇게 정확도만을 고려한 접근 방법은 전력 소모를 고려하지 않기 때문에 임베디드 디바이스내에서 인공지능 데이터처리를 직접 수행하는 에지컴퓨팅에서는 적합한 방법이라 볼 수 없다. 본 연구에서는 IoT 디바이스에서 근사컴퓨팅 개념을 적용하여 정확도를 희생하여 에너지 소모를 줄이려하며, 이를 위해서 하드웨어 가속기를 이용하여 소모전력 대비 AI 성능 향상을 목표로 하고, 이를 지원하기 위한 운영체제 수준의 하드웨어 가속기 제어/ 관리 및 스케줄링 기술에 관하여 연구한다.
연구될 운영체제 기술은 크게 세 가지의 개발 목표를 가진다.
- 목표 1 : 에지 디바이스 하드웨어 가속기의 실행 재구성을 지원하는 운영체제 기술의 개발
- 목표 2 : 하드웨어 가속기의 소모 전력 대비 성능을 향상을 위한 근사컴퓨팅 기술
- 목표 3 : 에너지 효율적 실시간 AI 서비스를 위한 근사컴퓨팅 활용 기술

연구 목표대비 연구결과
본 연구는 계획된 3년의 연구 기간 도중 2차년도에서 수행 중단되었다. 1차년도에 이기종 하드웨어 가속기를 위한 IOCTL 인터페이스 설계 및 양자화(quantization) 수준에 따른 하드웨어 가속기 구성이 연구되었으며, 2차년도에 하드웨어 가속기 관리자 구조 설계 및 API 일부 구현(스케줄러 부분 제외)이 수행되었다. 또한 2차년도에는 이기종 하드웨어 가속기들의 모델 변환 기법이 연구되었고, 동일한 임베디드 보드에서 USB 인터페이스를 통한 이기종 하드웨어 가속기의 성능과 에너지 소모가 측정되어 비교되었다. 연구 결과는 하드웨어 가속기의 특성에 따라 특정 인공지능 모델에 대하여 더 높은 성능과 더 낮은 에너지 소모 특성을 보이며, 모델과 하드웨어 가속기의 특성에 따라 더 많은 bit를 사용하는 경우의 양자화 모델이 더 적은 bit를 사용하는 양자화 모델보다 에너지 소모가 더 적은 경우도 발생하는 anomaly 현상을 보였다. 이 결과의 분석을 위해서는 더 많은 모델에 대한 실험과 연구를 필요로 한다.

연구발성과의 활용 계획 및 기대효과 (연구개발결과의 중요성)
본 연구는 이종 하드웨어 가속기들의 에너지 효율에 대한 실험적 연구 결과를 제시함으로써 양자화를 이용한 근사컴퓨팅 기반 AI 계산 기법들의 개발에 도움을 줄 수 있다. 실험 결과, 하드웨어 가속기를 사용한 AI 추론은 약간의 정확성을 희생하여 수십 배의 에너지 소모를 절감할 수 있음을 보였다. 또한, 모델에 따라 8-bit 또는 16-bit를 wight나 input으로 사용하는 것이 더 좋았으며, 사용된 bit 수가 적은 것이 에너지 면에서 항상 더 좋은 성능으로 연결되지 않는다는 것을 보였다. 이는 특정 하드웨어 가속기가 모든 모델에 대해서 우위를 가지지 않는다는 것을 의미하며, 모델 특성에 따른 하드웨어 가속기의 선택을 지원하는 프레임워크가 필요함을 보인다. 이 연구의 결과를 바탕으로 이기종 하드웨어 가속기를 지원하는 새로운 시스템의 개발이 촉진될 수 있을 것으로 기대된다.

(출처 : 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• 1) 1차년도 ... 5
• 2) 2차년도 ... 9
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 10
• 1) 정성적 연구개발성과(연구개발결과) ... 10
• 2) 세부 정량적 연구개발성과 ... 10
• 3) 목표 달성 수준 ... 11
• 4) 목표 미달 시 원인 분석 ... 11
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 12
• 5. 연구개발성과의 관리 및 활용 계획 ... 12
• 6. 참고문헌 ... 13
• [붙임1] 세부 정량적 연구개발성과 ... 14
• 끝페이지 ... 14