초록 ▼

□ 연구개요
본 연구는 “제한된 자원을 효율적으로 사용하는 on-device 연합학습 기법 연구”를 주제로 3년간 수행된 과제로, 개인화된 스마트 기기에서의 on-device 인공지능 실현을 위해 자원 효율성을 극대화하는 연합학습 기법을 개발하는 것을 목적으로 한다. 특히 제한된 컴퓨팅 및 네트워크 자원을 효율적으로 사용하는 binary 경량화 신경망을 설계하고, 실제 네트워크 요구사항을 반영한 스케쥴링 기법 및 주어진 기기 간상황(context)을 고려한 새로운 연합학습 기법을 개발하고, 이를 통합한 on-device 연합학

□ 연구개요
본 연구는 “제한된 자원을 효율적으로 사용하는 on-device 연합학습 기법 연구”를 주제로 3년간 수행된 과제로, 개인화된 스마트 기기에서의 on-device 인공지능 실현을 위해 자원 효율성을 극대화하는 연합학습 기법을 개발하는 것을 목적으로 한다. 특히 제한된 컴퓨팅 및 네트워크 자원을 효율적으로 사용하는 binary 경량화 신경망을 설계하고, 실제 네트워크 요구사항을 반영한 스케쥴링 기법 및 주어진 기기 간상황(context)을 고려한 새로운 연합학습 기법을 개발하고, 이를 통합한 on-device 연합학습 기법을 일부 활용 예시에 구현하여 성능 개선을 확인하는 다양한 연구개발 활동을 수행하였다. 이를 통해 스마트 기기의 데이터 학습 과정의 에너지 소비를 최소화하면서도 개인 데이터 프라이버시를 보호하고 높은 학습 성능을 달성하였다.

□ 연구 목표대비 연구결과
본 연구의 목표는 사물인터넷의 발달로 점차 중요성이 커지는 on-device 인공지능의 실현을 위해, 제한된 자원 하에서도 효율적으로 데이터를 처리하고 학습하는 연합학습 기법을 개발하는 것이다. 이를 통해, 스마트폰/웨어러블/랩탑 등 개인화된 스마트기기에서 데이터 프라이버시를 보호하면서도 에너지 효율성을 극대화할 수 있는 인공지능 작업 수행의 새로운 통합 프레임워크를 제시하는 것을 목표로 하였다.
본 연구의 주요 연구결과는 이러한 목표를 우수하게 달성하였으며, 구체적인 개발성과는 다음과 같다.
1. 경량화 신경망 설계 및 학습기법 개발: 제한된 on-device 컴퓨팅 자원을 효율적으로 사용하기 위해, 이진화 값으로 구성되어 시공간적 정보를 동적으로 반영하는 메커니즘을 통해 데이터와 모델의 불확실성을 유연하게 처리하는 확률적 경량화 신경망을 설계하였다. 이진화로 인한 기존 학습 방법 적용의 어려움을 해결하고 확률적 특성을 활용하여 학습 및 추론 과정의 효율성을 개선한 알고리즘을 개발하였다.
2. 사용자 관계성 및 task 변화를 고려한 학습 기법 개발: 네트워크 상황과 사용자 context를 고려해 동작할 수 있도록 Bayesian 학습 기법을 개발하고, 사용자 관계성을 기반으로 선택적 메시지 교환을 수행하는 기법을 활용해 비용을 감소시키는 추천 시스템 학습을 개발하였다.
3. 통합 on-device 연합학습 기법의 개발 및 실증적 검증: pruning mask를 고려한 경량화 모델의 연합학습 기법과 메시지 양자화 및 압축 기법을 통합하여, 연합학습의 통신/연산 비용을 최적화하는 프레임워크를 개발하고 다양한 응용 분야에 적용하여 검증하였다.
해당 연구 결과들로 SCI(E) 국제저명저널에 논문 5편을 게재하고, 국내외학술대회에서 6편의 논문을 발표하였으며 해당 기간동안 5명의 인력을 배출하였다.

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
지능형 사물로 분류되는 스마트폰, 스마트 워치, 태블릿 등을 포함한 다양한 on-device의 시장 규모가 수십억 대에 이르며 연산처리장치의 급격한 발전 으로 on-device 프로세싱이 가능하짐에 따라, on-device 프로세싱 및 연합학습은 차세대 인공지능에서 큰 역할을 담당할 핵심 기술이 될 것으로 예상된다. 미국 MIT는 on-device 인공지능을 향후 큰 변화를 가져올 10대 혁신 기술 중 하나로 선정하였고, 구글/삼성전자/퀄컴을 비롯한 IT 산업계에서는 이를 미래유망 기술로 보고 집중 육성하고 있다. 본 연구 결과는 다양한 데이터 특성을 가진 on-device 시스템에서 연합학습 기반으로 인공지능을 수행함에 있어 마주하는 네트워크/컴퓨팅 자원에 관한 현실적인 제약을 고려한 핵심 기술로써, 에너지 효율적인 인공지능 기술이 필요한 웨어러블, IoT, 스마트 기기 시스템에서 인공지능을 실제 구현함에 있어 자원의효율성을 개선할 수 있을것으로 기대된다. 또한, 개인 데이터의 프라이버시를 보호하면서도 개인화된 인공지능 서비스를 제공하는 다양한 산업 분야에 활용될 수 있다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구개발과제의 필요성 ... 4
• 2) 연구가설 및 도출근거 ... 4
• 3) 연구의 개념 및 연구범위 ... 4
• 4) 최종 연구목표 ... 6
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 6
• 1) 연구개발과제의 수행 내용 ... 6
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 8
• 1) 정성적 연구개발성과(연구개발결과) ... 8
• 2) 세부 정량적 연구개발성과 ... 11
• 3) 목표 달성 수준 ... 11
• 4) 목표 미달 시 원인 분석 ... 12
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 13
• 1) 연구개발결과의 의미 및 중요성 ... 13
• 2) 연구결과의 파급 효과 ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 13
• 1) 연구개발과제의 성과 관리 및 활용방안 ... 13
• 2) 추가 연구의 필요성 및 타 연구에의 응용 ... 14
• 6. 자체점검표 ... 14
• 7. 참고문헌 ... 14
• 끝페이지 ... 28