초록 ▼

□ 연구개요
최근 이미지 분류, 번역, 등 몇몇 중요 응용문제에 대하여 딥러닝이 대단히 성공적으로 적용되었다. 그러나, 아직 산업계의 다양한 문제에의 적용은 제한적이다. 이는 딥러닝의 동작원리에 대한 충분한 이해가 부족한데 비해, 산업계에 존재하는 문제들과 데이터의 성격은 매우 다양하기 때문이다. 현재의 기술 적용 방식은, 딥러닝을 적용했을 때 성공적일지 아닐지 알지 못하는 상태에서 이미 성공적인 경우가 존재하는 것으로 알려진 딥러닝 기법들을 차례대로 적용해 보는 trial-and-error 방식이며, 이는 시간적으로도 인력적

□ 연구개요
최근 이미지 분류, 번역, 등 몇몇 중요 응용문제에 대하여 딥러닝이 대단히 성공적으로 적용되었다. 그러나, 아직 산업계의 다양한 문제에의 적용은 제한적이다. 이는 딥러닝의 동작원리에 대한 충분한 이해가 부족한데 비해, 산업계에 존재하는 문제들과 데이터의 성격은 매우 다양하기 때문이다. 현재의 기술 적용 방식은, 딥러닝을 적용했을 때 성공적일지 아닐지 알지 못하는 상태에서 이미 성공적인 경우가 존재하는 것으로 알려진 딥러닝 기법들을 차례대로 적용해 보는 trial-and-error 방식이며, 이는 시간적으로도 인력적으로도 매우 소모적이다. 이러한 현실은 전문가가 부족한 현 산업계가 인공지능 기술을 받아들이고 적용하는데 큰 장애물이 되고 있다. 이를 해결하기 위하여 본 연구는 다음의 두 가지를 최종 목표로 한다. 1) 정보이론 및 최적화 이론 등 응용 수학을 활용하여 딥러닝의 동작원리를 밝힘. 2) 딥러닝의 적용단계를 자동화하는 알고리즘과 SW플랫폼을 개발함.

□ 연구 목표대비 연구결과
‘딥러닝의 동작원리‘ 연구는 1~2차년도 목표인 인코딩/디코딩 이해를 위한 representation learning에 집중하여 최상위 인공지능 학회인 AAAI-2019에(acceptance rate 16.2%) 중요결과를 발표하였고, 후속 결과를 제출 준비 중이다. 딥러닝의 동작원리에 관하여, generalization, information theoretic approach, adversarial example, regularization, compression, 등의 다양한 분야로 매우 열심히 연구하였으며, 이를 통하여 관련 논문들을 작성할 수 있었다. 3차년도 목표인 적응적 학습 관련 결과도 투고 준비 중이다.
’딥러닝의 자동화‘ 연구는 1~2차년도 연구목표를 충분히 달성하여 세계최고 수준의 초모수 최적화 알고리즘을 개발하였으나, 사용된 벤치마킹 문제들의 한계로 인하여 최상위 인공지능학회에서는 reject되고 IEEE Access (IF 3.745)에 게재 하였다. 후속연구를 진행하였으며, 최상위 인공지능학회에서 쓰인 13가지 벤치마킹들을 모아 본 연구진의 후속 알고리즘이 가장 좋은 성능을 달성함을 확인하고 논문 작성 중이다. 해당 후속 연구는 3차년도의 목표인 아키텍처서치에서도 세계최고 수준 성능을 달성하였다. 4차년도의 목표인 플랫폼 개발은 1~4차년도 전반에 걸쳐 진행하였으며, 해당 소프트웨어는 https://github.com/snu-adsl/DEEP-BO 에 공개하였다.
위에 적시된 연구성과 외에도 본 연구를 통해 아이디어가 생길 때마다 응용분야 연구도 진행하였으며, 다수의 논문 성과를 달성하였다. 전체적으로 5개의 SCIE(총IF는 16.088)와 4개의 인공지능학회 논문을 이미 발간하였고, 2개의 SCIE 논문이 심사중이며(총IF는 12.159) 1~3개 정도의 추가 논문을 준비 중이다.

□ 연구개발결과의 중요성
본 연구의 결과는 학술적으로 국내 연구에서 미진한 딥러닝의 수학적, 이론적 고찰을 통해서 블랙박스로 여겨지는 딥러닝의 동작원리를 파악하고 딥러닝 기초연구역량을 배양에 기여하였다. 기술의 혁신과 난제의 해결은 기초연구역량에서 비롯되므로 본 연구의 결과는 향후 딥러닝 연구의 기반이 되고 딥러닝 기술 리더십을 강화할 것이다. 또한, 최근 응용문제 해결능력을 갖춘 딥러닝 숙달자들을 양성하는 근시안적인 방향에서 탈피하여 학계, 산업계에서 장기적으로 기술을 주도하고 발전시킬 수 있는 기초연구 역량이 매우 강한 국제적 전문가 양성에 기여할 것으로 기대된다. 응용연구자들을 위해 세계최고 수준의 딥러닝 최적화와 자동생성 알고리즘을 개발하고 공개 또는 예정이다. 그리고 본 과제는 훌륭한 연구진의 양성에 공헌하였다고 생각된다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 3
• 1) 정보이론 및 최적화이론 등 응용수학을 활용하여 딥러닝의 동작원리를 밝힘 ... 3
• 2) 딥러닝의 적용 단계를 자동화하는 알고리즘과 SW 플랫폼을 개발 ... 4
• 2. 연구수행내용 및 연구결과 ... 5
• 연구수행내용 ... 5
• 연구결과 ... 6
• 3. 연구개발결과의 중요성 ... 17
• 4. 참고문헌 ... 18
• 5. 연구성과 ... 18
• 대표적 연구실적 ... 19
• 끝페이지 ... 30