초록 ▼

□ 연구개요
본 연구에서는 시퀀스 데이터를 처리하기 위한 LSTM 모델을 대상으로 효율적으로 규칙을 추출할 수 있는 Decomposition 기반 알고리즘을 설계 및 LSTM 구조에 특화되어 high-fidelity를 보장할 수 있는 Hierarchical 해석 모델을 연구하고, 설계된 Hierarchical 해석 모델의 성능을 보다 최적화하기 위한 연구를 수행하였다.

□ 연구 목표대비 연구결과
본 연구의 1차년도에는 LSTM에 접근하기 위한 사전 연구로서 인공신경망을 대상으로 규칙 추출을 위한 알고리즘을 개

□ 연구개요
본 연구에서는 시퀀스 데이터를 처리하기 위한 LSTM 모델을 대상으로 효율적으로 규칙을 추출할 수 있는 Decomposition 기반 알고리즘을 설계 및 LSTM 구조에 특화되어 high-fidelity를 보장할 수 있는 Hierarchical 해석 모델을 연구하고, 설계된 Hierarchical 해석 모델의 성능을 보다 최적화하기 위한 연구를 수행하였다.

□ 연구 목표대비 연구결과
본 연구의 1차년도에는 LSTM에 접근하기 위한 사전 연구로서 인공신경망을 대상으로 규칙 추출을 위한 알고리즘을 개선하고, 이를 보조할 수 있는 Hierarchical 해석 모델을 제안하였다. 이를 위해 먼저, 인공신경망을 구성하는 층(layer)과 뉴런의 활동을 추적하여 규칙을 추출하는 Decomposition 기반의 알고리즘을 대상으로 성능 개선 요구 사항을 분석하였다. 이후, Decomposition을 통해 생성되는 Hierarchical 해석 모델을 도입하여 규칙 추출 알고리즘의 효과를 제고하는 방안을 연구하였다. 이후, 인공신경망 전체보다는 분석 결과에 중대한 영향을 미치는 핵심 구조를 찾아낼 수 있는 highlighting 메커니즘을 통해 고성능 규칙 추출 알고리즘을 획득하는 연구를 수행하였다.
본 연구의 2차년도에는 High-fidelity를 갖는 Hierarchical LSTM 해석 모델에 대한 연구를 수행하였다. 특히, LSTM의 경우 한 층에 속한 노드와 다른 층에 속한 노드가 완전 연결된 일반적인 인공신경망과 같은 구조가 아닌 연쇄적인 시퀀스(sequence) 구조를 가지고 있어 이에 특화된 성능 지표 및 체계를 정의하였다. 이후, 이러한 구조를 고려한 sequence decomposition 기반의 LSTM 고성능 규칙 추출 알고리즘을 설계하고, 이에 대한 전처리 모델로서 Hierarchical LSTM 해석 모델을 수립하는 연구를 수행하였다.
본 연구의 3차년도에는 설계된 Hierarchical LSTM 해석 모델의 성능을 최적화하기 위한 방안을 연구하였다. 이를 위해 계산 성능 및 설명력 개선을 위한 규칙 추출 알고리즘의 매커니즘 개선 연구를 수행하였으며, 매개변수 최적화 기반 Hierarchical LTSM 해석 모델의 성능 제고 연구를 수행하였다. Hiearchical LSTM 해석 모델의 내재적/구조적 매개 변수 최적화에 대한 연구를 수행하여 펌프 데이터의 고장 예측 및 고장 원인 분석을 위한 응용 연구에 적용하였다.

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
본 연구의 성과 적용은 분석 결과에 대한 해석이 어려운 모델로부터 사용자가 직관적으로 이해할 수 있는 규칙을 추출하기 위한 알고리즘과 이러한 알고리즘의 성능을 제고하기 위한 해석 모델을 포함하며, 이를 바탕으로 설명 가능한 인공지능 구축을 비롯한 학술 및 산업 분야에 활용될 수 있다. 예를 들어, 제조 공정에서 발생하는 데이터 기반으로 이루어지는 품질 검사 상황에서 연쇄적인 세부 공정들 중 어떤 단계에서 문제가 발생했는지 명확하게 파악할 수 있으며, 본 연구의 Hierarchical 해석 모델을 바탕으로 설비의 고장을 예측하는 모델을 통해 보다 효율적인 유지 보수를 수행할 수 있다. 뿐만 아니라, 금융이나 보험, 의료와 같이 다변량의 시계열 데이터를 활용하면서도 분석 결과에 대한 명확한 기준이 필요한 분야에도 활용될 수 있다. 그 외에도, 구조적/내재적 매개 변수 관점의 최적화를 통한 해석 모델의 개선 연구는 모델 독립적(model-agnostic)으로 다양한 신경망 구조에 적용될 수 있다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구 목표 및 범위 ... 4
• 2) 연구의 필요성 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• 1) 1차년도 연구 내용 ... 5
• 2) 2차년도 연구 내용 ... 7
• 3) 3차년도 연구 내용 ... 10
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 12
• 1) 정성적 연구개발성과(연구개발결과) ... 12
• 2) 세부 정량적 연구개발성과 ... 12
• 3) 목표 달성 수준 ... 12
• 4) 목표 미달 시 원인 분석 ... 12
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 13
• 6. 자체점검표 ... 14
• 7. 참고문헌 ... 14
• 붙임1. 세부 정량적 연구개발성과 ... 16
• 붙임2. 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 17
• 끝페이지 ... 20