초록 ▼

□ 연구개요
본 과제에서는 사용자의 요구에 특화된 인공지능 서비스를 자신의 엣지 디바이스에서 쉽게 구현하여 사용할 수 있도록, 엣지 인공지능을 자동화 및 최적화할 수 있는 기술들을 연구하고, 엣지 인공지능에 필요한 신경 구조 검색과 신경 모델 학습 및 추론에 필요한 소프트웨어-하드웨어 통합 기술을 연구하고자 함. 엣지 인공지능의 자동화를 위하여 1) 엣지 디바이스에 적합한 신경 구조 검색, (2) 다양한 엣지 디바이스에서 실행될 수 있도록 신경 모델 최적화, (3) 엣지 인공지능을 위한 소프트웨어-하드웨어 통합 기술을 연구함.

□ 연구개요
본 과제에서는 사용자의 요구에 특화된 인공지능 서비스를 자신의 엣지 디바이스에서 쉽게 구현하여 사용할 수 있도록, 엣지 인공지능을 자동화 및 최적화할 수 있는 기술들을 연구하고, 엣지 인공지능에 필요한 신경 구조 검색과 신경 모델 학습 및 추론에 필요한 소프트웨어-하드웨어 통합 기술을 연구하고자 함. 엣지 인공지능의 자동화를 위하여 1) 엣지 디바이스에 적합한 신경 구조 검색, (2) 다양한 엣지 디바이스에서 실행될 수 있도록 신경 모델 최적화, (3) 엣지 인공지능을 위한 소프트웨어-하드웨어 통합 기술을 연구함.

□ 연구 목표대비 연구결과
본 과제의 연구결과로서, 기존의 강화학습 또는 진화 기반의 비효율적인 신경망 구조 검색 방법과 달리, 그래디언트 기반의 최적화를 통해 엣지 디바이스의 제한적인 연산 자원에 적합한 신경망 구조를 검색함으로써 검색 비용을 현저히 감소시켰음. CIFAR-10 데이터에서 신경 구조 검색과 학습을 수행하였을 때, 동일한 성능을 기준으로 최신의 연구에서 생성된 모델보다 최대 70% 효율적인 모델을 구현하였음. 다양한 엣지 디바이스에서 실행될 수 있는 신경 모델 최적화를 연구하여, 모델 계수의 양자화률마다 다른 최적의 신경망 구조의 모델이 생성됨을 증명하였고, CIFAR-10 데이터에서 낮은 비용(8BIt 양자화)에서 Full Precision과 비슷한 Top-1 정확도를 보여주는 CNN 모델을 생성하였음. 또한, 최신의 Attention 기반의 Vision Transformer를 연구하였으며, 제안된 Blend-ViT 모델은 Tiny 및 Small 크기로 학습하였을 때, 각 84.2%와 84.9% Top-1 정확도를 보여주었으며, 이것은 지금까지 연구 및 개발된 ViT 모델 중에서 가장 높은 정확도임.

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
본 과제에서는 신경망 구조 검색을 몇 일 안에 해결할 수 있게 하여 연구 및 개발 시간을 단축시키는 것에 중요한 의미가 있음. 특히, 이미지 분류 및 언어 모델링 작업에서 최신 기술을 능가하는 결과를 얻었음. 실험결과에서는 CIFAR-10 데이터셋에서 경쟁력 있는 성능을 보여줌. 이는 더 나은 신경망 구조를 발견하고 이를 다른 작업으로 전이시킬 수 있는 잠재력을 보여줌. 전문가의 사전 지식없이 성능, 비용, 전력 소모를 고려한 신경 구조 검색과 모델을 빠르게 자동으로 구현하고 최적화하는 것이 사용자의 관점에서 미래의 인공지능에서 핵심 역할을 할 것으로 예상되고 있음. 제안된 Blend-ViT의 성능 향상 및 다목적 활용 가능성은 비전 및 자연어 처리분야에서의 모델 개발에 새로운 기회를 제공할 것으로 예상됨. 이는 더욱 정확하고 효율적인 모델 설계 및 구현을 가능케 하여 다양한 응용 분야에서 혁신적인 결과를 이끌어낼 수 있음. 또한 신경망 구조는 다른 비전 및 언어 모델링 작업에도 확장 가능하다는 점에서 기술적 파급효과를 가져올 것으로 예상됨. 이는 다양한 데이터 유형 및 작업에 대한 효율적인 모델링을 가능케 하여 새로운 제품 및 서비스의 개발을 촉진하여 경제적 가치를 창출할 수 있음. 제안된 신경망 구조 검색과 Blend-ViT 기술을 상용화하기 위한 기업화 전략을 수립하고, 시장 조사, 비즈니스 모델 개발, 마케팅 전략 등을 고려하여 기술을 시장에 성공적으로 전파할 계획함.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구의 목적 ... 4
• 2) 연구의 필요성 ... 4
• 3) 연구의 범위 ... 5
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• (1) 엣지 디바이스에 적합한 신경 구조 검색 ... 5
• (2) 다양한 엣지 디바이스에서 실행될 수 있는 신경 모델 최적화 연구 ... 7
• (3) 신경 구조 검색/학습/추론 가속화 ... 8
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 10
• 1) 정성적 연구개발성과(연구개발결과) ... 10
• 2) 세부 정량적 연구개발성과 ... 11
• 3) 목표 달성 수준 ... 11
• 4) 목표 미달 시 원인 분석 ... 12
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 13
• 6. 자체점검표 ... 14
• 7. 참고문헌 ... 14
• 끝페이지 ... 15