초록 ▼

□ 연구개요
객체인식에 사용되는 심층신경망을 기만하는 기술에 대응하기 위한 신경망의 취약점 보완과 새로운 방어 구조를 포함하는 심층신경망 연구를 수행하고자 함. 1년차에는 심층신경망의 공격에 사용되는 대립적 정보를 이용한 위협 모델과 공격기법에 관한 연구, 2년차에는 심층신경망에 대한 대립공격을 검출하는 새로운 방어기법을 제안하고 공격회피기법 연구, 3년차에는 인간의 시각 인지 과정을 모사한 대립 공격에 강인한 심층신경망 알고리즘 연구를 수행하고자 함

□ 연구 목표대비 연구결과
1년차 - 심층 신경망 공격에

□ 연구개요
객체인식에 사용되는 심층신경망을 기만하는 기술에 대응하기 위한 신경망의 취약점 보완과 새로운 방어 구조를 포함하는 심층신경망 연구를 수행하고자 함. 1년차에는 심층신경망의 공격에 사용되는 대립적 정보를 이용한 위협 모델과 공격기법에 관한 연구, 2년차에는 심층신경망에 대한 대립공격을 검출하는 새로운 방어기법을 제안하고 공격회피기법 연구, 3년차에는 인간의 시각 인지 과정을 모사한 대립 공격에 강인한 심층신경망 알고리즘 연구를 수행하고자 함

□ 연구 목표대비 연구결과
1년차 - 심층 신경망 공격에 활용되는 FGSM, BIM 및 C&W 공격과 이에 따른 방어기술을 문헌 및 실험을 통하여 고찰하였고, 시각 피질의 V1 영역을 모사한 새로운 인공 신경망 기법에 대하여 연구하였다.(Image Retrieval Method Based on Image Feature Fusion and Discrete Cosine Transform, SCIE 논문)
2년차 - 가우시안 잡음을 첨가하여 FGSM, BIM 및 C&W 공격을 무력화시킬 수 있는 알고리즘을 개발하여 성능을 평가하였다.(영상 인식을 위한 딥러닝 모델의 적대적 공격에 대한 백색 잡음 효과에 관한 연구, KCI 논문)
3년차 - 대뇌 피질의 신경망 분석에 사용하는 SPI 인덱스를 사용하여 적대적 공격에 대한 인공신경망의 활성화 정도를 분석하여 의미 있는 결과를 도출하였으며 150여편에 이르는 적대적 예제 및 신경망 모델 관련 연구를 참고한 리뷰를 진행하였으며, PSI에 따른 적대적 신경망의 레이어별 특성을 연구하였다.(A Study on the Optimization of the CNNs for Adversarial Attacks, 국제컨퍼런스, Robustness of Deep-Learning Models for Vision Tasks, SCIE 논문, PSI Analysis of AdversarialExamples in CNN-Based Deep Neural Network, SCIE 심사중)
성능지표 – VOneNet의 최적화 적용으로 적대적 공격 이미지에 대한 인식률이 ResNet18에 대해서 67.4%에서 89.5%의 인식률 달성

□ 연구개발성과의 활용 계획 및 기대효과 (연구개발결과의 중요성)
- 활용분야: 최근들어 자율 주행자동차와 같이 실시간으로 주변 정보를 필요로 하는 분야에서 잘못된 정보로 인하여 대상을 오인식하는 경우가 늘고 있다. 이와 같은 잘못된 정보를 제공하는 적대적 예제를 검출하고 적절한 대안을 제시할 수 있는 기반 기술의 활용에 적용할 수 있다.
- 사회적 중요성: 심층신경망에 대한 위협공격은 사회문제 해결이 아닌 사회 문제를 불러일으키는 원인으로 돌변할 수 있으며, 지능정보사회의 신뢰근간을 무너뜨릴 위험이 상존한다.
- 경제적 중요성: 교통사고로 인한 사회적 비용이 연간 39조원에 이르는 것으로 추산되며 우리나라 1년 예산의 15분의 1에 육박하는 규모임. 심층신경망에 대한 연구는 후발주자로써 선발국에 의존적으로 로열티비용이 지출될 수밖에 없으나 위협공격에 강인한 심층신경망에 대한 연구는 초기수준이라 충분한 경쟁력을 갖고 경제적 수입을 창출할 수 있다.
- 기술적 중요성: 심층신경망 관련 원천기술의 산업활용에서는 구글이나 페이스북, 중국의 바이두가 선두를 차지하고 있음. 그러나 위협공격에 강인한 심층신경망의 원천기술은 원천기술 확보가 용이하며, 적은 데이터 셋으로 원하는 성능을 얻을 수 있는 심층신경망으로 전이가 가능하다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구 목표 ... 4
• 2) 연구의 필요성 ... 4
• 3) 연구 범위 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• 1) 1차년도: 대립적 정보를 이용한 위협 모델과 공격 기법에 관한 연구 ... 5
• 2) 2차년도: 심층신경망에 대한 대립 공격을 검출하는 새로운 방어 기법을 제안하고 공격회피 기법 연구 ... 7
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 15
• 1) 정성적 연구개발성과(연구개발결과) ... 15
• 2) 세부 정량적 연구개발성과 ... 16
• 3) 목표 달성 수준 ... 16
• 4) 목표 미달 시 원인 분석 ... 17
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 17
• 5. 연구개발성과의 관리 및 활용 계획 ... 18
• 6. 자체점검표 ... 18
• 7. 참고문헌 ... 18
• 붙임1. 세부 정량적 연구개발성과 ... 19
• 붙임2. 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 20
• 끝페이지 ... 32