초록 ▼

연구개요
최근 기계 학습 분야에서 인공 신경망의 은닉 노드 연결을 확대하여 도메인에 숨겨진 유용한 고차원 특징을 효율적으로 발견하는 심층신경망(deep-learning) 연구가 활발히 진행되고 있다. 그러나 심층 신경망 모델이 주어진 데이터로부터 생성된 모델이 어떤 규칙을 학습하였는지 설명하기 어렵다는 문제를 가지고 있기 때문에 중요한 부분에서 의사 결정 도구로 활용되기 어렵다는 문제를 가지고 있다.
이에 본 연구에서는 딥 러닝으로부터 학습된 지식을 인간이 쉽게 이해할 수 있으며 인간에게 설명 가능한 형태로 나타내고, 이

연구개요
최근 기계 학습 분야에서 인공 신경망의 은닉 노드 연결을 확대하여 도메인에 숨겨진 유용한 고차원 특징을 효율적으로 발견하는 심층신경망(deep-learning) 연구가 활발히 진행되고 있다. 그러나 심층 신경망 모델이 주어진 데이터로부터 생성된 모델이 어떤 규칙을 학습하였는지 설명하기 어렵다는 문제를 가지고 있기 때문에 중요한 부분에서 의사 결정 도구로 활용되기 어렵다는 문제를 가지고 있다.
이에 본 연구에서는 딥 러닝으로부터 학습된 지식을 인간이 쉽게 이해할 수 있으며 인간에게 설명 가능한 형태로 나타내고, 이를 바탕으로 인간이 딥 러닝을 이용하여 가치 판단을 하여 기계학습을 의사 결정의 도구로 활용할 수 있도록, 딥 러닝 모델로부터 인간이 이해할 수 있는 형태의 지식 추출 기법에 대한 연구를 진행하였다.
또한 해당 연구의 결과를 바탕으로 발전시켜 규칙 추출 알고리즘의 아키텍쳐의 최적화 모델에 대한 연구를 진행하였다. 그리고 규칙 시각화 및 응용 시스템 개발을 통해, 실사용 환경에서 규칙 추출 알고리즘의 타당성 및 효용성을 검증하였다.

연구 목표대비 연구결과
DNN 모델의 은닉 모호성으로 인해 발생하는 문제를 해결하기 위해, 은닉 명확화를 통한 인공신경망 재학습으로 은닉 모호성 문제를 해결하였으며 또한 bottom-up 방식의 규칙 결합을 제안하여 은닉 모호성을 회피하고 더 나아가 sigmoid 외의 다양한 활성화 함수로의 확장 가능성에 대한 발판을 마련하였다.
RNN 모델에 대해서는 Attention 매커니즘과 LIME 알고리즘을 적용하여, 의사결정 요인을 분석할 수 있게 하였으며, 각 기법의 특성을 파악하여 데이터 도메인에 따라 적합한 기법을 선택할 수 있는 발판을 마련하였다.
CNN 모델은 Manifold learning을 통하여 End-to-End 지식 표현 기법의 정당성을 증명하고, high-level feature를 직접적으로 이용하여 사람이 이해가능한 설명을 생성하였다. 또한 convolution layer의 high-level feature를 분석하여 transfer learning의 pre-trained 모델에 대한 설명 가능성 또한 보이고 있다.
그 외에 딥 러닝 모델과 사용자 간의 인터페이스를 설계하고 개발하였다. 규칙 시각화를 통하여 전문가 수준에 맞게 모델을 분석하고 이해할 수 있게 하였으며, 실시간으로 제공되는 반증적 설명을 통하여 일반 사용자 수준의 이해하기 쉬운 설명 가능성을 제공한다.

연구개발결과의 중요성
딥러닝의 판단 결과로 인해 발생하는 문제로 인해 사회적으로 인공지능의 설명 가능성을 요구하고 있다. 지금까지의 심층신경망 기법은 판단에 관한 결과만을 알려주며 판단 근거를 논리적으로 설명하지 못하므로 인공지능 모델을 신뢰할 수 없는 문제가 발생하였다. 본 연구는 다양한 심층 신경망 모델에 대한 해석기법을 제공하고 있으며, 모델의 학습 결과를 인간이 이해가능한 형태로 제공하고 있다. 이는 인공지능과 사용자 사이의 인터페이스 역할을 하게 되며, 인간과 인공지능의 상호 협조를 통해 주어진 상황에 적합한 판단을 내리는데 도움을 줄 수 있다. 이를 통해 인간이 단순히 인공신경망 모델의 결과를 사용하는 것뿐만이 아니라 모델의 추론 과정을 이해할 수 있으며, 이에 따라 모델의 학습 결과를 효율적인 의사결정 도구로 사용할 수 있다.

(출처 : 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구수행내용 및 연구결과 ... 5
• 2-1. 기반 연구 및 DNN, RNN 모델에 적합한 규칙 추출 알고리즘 개발 및 응용 ... 5
• 2-2. Deep Neural Network(DNN) 규칙 추출 알고리즘 개발 ... 5
• 2-3. Recurrent Neural Network(RNN) 규칙 추출 알고리즘 개발 ... 7
• 2-4. CNN(Convolutional Neural Network) 모델 규칙 추출 알고리즘 개발 및 응용 ... 8
• 2-5. CNN 모델에 적합한 규칙 추출 알고리즘 개발 및 성능 검증 ... 10
• 2-6. 딥 러닝 모델과 사용자 간의 인터페이스 설계 및 개발 ... 12
• 3. 연구개발결과의 중요성 ... 17
• 4. 참고문헌 ... 19
• 5. 연구성과 ... 21
• 대표적 연구실적 ... 23
• 끝페이지 ... 34