초록 ▼

□ 연구개요
최근 각광받고 있는 딥러닝은 인공지능 적용 영역의 다양한 분야에서 뛰어난 성능을 보여주고 있다. 따라서 본 연구에서는 인공지능 시대 도래에 따른 시큐어(Secure)-프라이빗 (Private) 인공지능 플랫폼을 개발하는 것을 목표로 한다. 시큐어 인공지능이란 인공지능 비서, 자산관리, 자율주행 자동차 등에 내제된 모델의 탈취를 방지함으로써 지적 재산권 보전 및 악의적인 인공지능 시스템 오동작 방지를 목표로 하며, 프라이빗 인공지능은 민감한 프라이버시 정보 및 기밀 정보를 공유하지 않은채 개별적으로 협업하여 최상의

□ 연구개요
최근 각광받고 있는 딥러닝은 인공지능 적용 영역의 다양한 분야에서 뛰어난 성능을 보여주고 있다. 따라서 본 연구에서는 인공지능 시대 도래에 따른 시큐어(Secure)-프라이빗 (Private) 인공지능 플랫폼을 개발하는 것을 목표로 한다. 시큐어 인공지능이란 인공지능 비서, 자산관리, 자율주행 자동차 등에 내제된 모델의 탈취를 방지함으로써 지적 재산권 보전 및 악의적인 인공지능 시스템 오동작 방지를 목표로 하며, 프라이빗 인공지능은 민감한 프라이버시 정보 및 기밀 정보를 공유하지 않은채 개별적으로 협업하여 최상의 성능을 유지하는 인공 모델 설계를 목표로 한다.

□ 연구 목표대비 연구결과
시큐어 인공지능 및 프라이빗 인공지능의 연차별 연구 목표 및 연구결과는 다음과 같으며 각 연차별 연구 목표를 100% 달성하였다.

시큐어 인공지능 (Secure AI; SAI)
- 1차년도: 신경망 모델 암호화 기법 개발
- 2차년도: 신경망 모델의 오염 및 이상 징후 탐지/교정 기법 개발
- 3차년도: 신경망 모델 학습 중 공격 필터링 기술 개발
- 4차년도: 신경망 모델의 저작권 소유 증명을 위한 Watermark 각인 기법 개발

프라이빗 인공지능 (Private AI; PAI)
- 1차년도: 프라이버시 정보 표지를 위한 정보 은닉 방법론 설계
- 2차년도: Stego-Embedded 데이터 학습을 위한 딥러닝 모델 설계
- 3차년도: Collaborative 딥러닝을 위한 모델 병합 방법론 설계
- 4차년도: Differential Privacy 기반 모델 고도화

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
안전한 데이터의 이용과 딥러닝 모델의 위·변조 방지는 경제적, 사회적 측면에서 매우 중요한 문제로 떠오르고 있다. 본 연구는 데이터와 모델의 안전한 사용과 보호를 위한 이론적이고 실증적인 방법론을 도출하게 될 것이다. 먼저 학술적 측면을 고려하면 현재 딥러닝 학습 방법에 대한 다양한 연구가 이루어지고는 있으나, 학습에 필요한 데이터, 학습 과정 그리고 학습 과정으로부터 도출된 모델을 여러 공격과 해킹들로부터 안전하게 지키는 방법에 대한 연구는 미진한 실정이다. 따라서 본 연구를 통해 새로운 형태의 학습 데이터와 모델을 지키는 방법론을 제시할 수 있다. 학습과정의 동형 암호화 방법론 개발을 통해 학습 성능을 높이거나 데이터 보존을 유지하면서도 성능을 희생하지 않을 수 있는 새로운 학습 이론을 제안될 것으로 기대된다. 두 번째로 산업적 측면에서는 학습 모델의 지적 재산권을 부여하고 그것을 보호할 수 있는 수단이 제공됨에 따라 기업과 개인이 생성한 인공지능 모델에 대한 경제적인 가치를 창출할 수 있다. 자율주행 자동차, 전력망 자동화 등의 사람의 생명이나 재산에 심각한 영향을 끼칠 수 있는 분야에서 인공지능을 활용할 때 안전성을 보장할 수 있는 수단을 제공한다. 이를 통해 경제적, 사회적 비용 절감을 기대할 수 있다. 마지막으로는 사회적 의의를 생각할 수 있다. 프라이버시 데이터의 안전한 보호기법을 통해 그동안 이용할 수 없었던 방대한 양의 공공 데이터를 유출이나 위·변조의 위험 없이 이용할 수 있다. 따라서 그동안 법적인 문제로 적용이 어려웠던 분야들에 딥러닝 학습 알고리즘을 적용하여 새로운 가치, 서비스 등을 창출할 기회를 얻을 수 있다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구의 목표 ... 4
• 2) 연구의 필요성 ... 4
• 3) 연차별 연구 목표 ... 5
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• 1) 연구차별 연구 내용 ... 5
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 6
• 1) 정성적 연구개발성과 (연구개발결과) ... 6
• 2) 세부 정량적 연구개발성과 ... 16
• 3) 목표 달성 수준 ... 16
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 17
• 5. 연구개발성과의 관리 및 활용 계획 ... 17
• 1) 예상되는 연구개발성과의 활용분야 ... 17
• 2) 추가 연구의 필요성 ... 18
• 6. 참고문헌 ... 19
• [붙임1] 세부 정량적 연구개발성과 ... 26
• [붙임2] 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 45
• 끝페이지 ... 60