초록 ▼

□ 연구개요
4차산업 및 AI 주도 시대에 기계학습의 중요성은 날로 커지고 있다. 그런데, 기계학습 알고리즘의 실시간성과 메모리에 들어가지 않는 실제적인 대용량 데이터에 대한 연구는 미흡한 실정이다. 본 연구에서는 센서 데이터와 같이 메모리에 들어가지 않는 실시간 대용량 데이터를 위한 실시간 대용량데이터에 특화된 분산최적화 기계학습과 해석과 적용이 가능한 방법을 개발하는 것을 목표로 한다. 이를 위해 아래와 같은 세부 연구 목표를 제안한다.

(1) 실시간 빅데이터 특성 추출 알고리즘(실시간 데이터 군집화 및 샘플링

□ 연구개요
4차산업 및 AI 주도 시대에 기계학습의 중요성은 날로 커지고 있다. 그런데, 기계학습 알고리즘의 실시간성과 메모리에 들어가지 않는 실제적인 대용량 데이터에 대한 연구는 미흡한 실정이다. 본 연구에서는 센서 데이터와 같이 메모리에 들어가지 않는 실시간 대용량 데이터를 위한 실시간 대용량데이터에 특화된 분산최적화 기계학습과 해석과 적용이 가능한 방법을 개발하는 것을 목표로 한다. 이를 위해 아래와 같은 세부 연구 목표를 제안한다.

(1) 실시간 빅데이터 특성 추출 알고리즘(실시간 데이터 군집화 및 샘플링을 통한 최적 학습을 통한 이상치 탐지)을 통해 데이터의 특성과 패턴화 작업 수행
(2) 실시간 데이터 딥러닝 예측 모델(Autoregressive 딥러닝 ADMM 회귀모형, 딥러닝 ADDM 기반 Sparse Deep Neual Network)을 개발
(3) 위의 모델에 대하여 실제 실시간 대용량 데이터의 예측 성능을 검증하고, 기계학습 사용자의 최적의사 결정이 가능하도록 하는 방법론을 개발

□ 연구 목표대비 연구결과
본 연구를 통하여, 실시간 대용량에 특화된 기계학습 알고리즘의 (1) 특정 패턴화, (2) 예측, 마지막으로 (3) 해석 및 검증의 총괄적인 프레임워크를 종합적으로 개발하였다.
(1)특정 패턴화에 대하여, 1) 데이터에서 주요한 관측점을 찾아내는 알고리즘, 2) 시계열 데이터의 패턴을 찾아내고 표현하는 SAX 알고리즘, 3) 실시간 시계열 알고리즘의 비정삼 감지 알고리즘을 개발하였다.
(2) 실시간 예측 모형 고도화에 대하여, 4) 실시간 스트리밍 시계열 데이터에 대한 군집화 및 비정상 감지 알고리즘 5) 대용량 딥러닝 알고리즘의 효과적인 압축 알고리즘을 개발하였다.
(3) 해석 고도화에 대하여 6) 정보량이 많은 VAE 트랜스포머기반 인코딩 방법과 7) 새로운 도메인에 기존 도메인 지식을 전이하는 알고리즘과 8) LSTM 듀얼 모델이 정보 중첩이 최소화시키는 효과적인 LSTM 듀얼 구조를 개발하였다.

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
딥러닝의 "큰 파라미터 공간"으로 인하여 모형의 복잡도와 안정성 및 긴 학습 시간 등 대한 문제가 항상 존재한다. 현실적으로 기계학습 알고리즘이 현장에서 많이 사용이 되고 있으나, 센서데이터와 같이 실시간성과 대용량 데이터에 대한 알고리즘 처리를 강화하였다.
본 연구를 통하여, 실시간 대용량에 특화된 기계학습 알고리즘의 (1) 특정 패턴화, (2) 예측, 마지막으로 (3) 해석 및 검증의 총괄적인 프레임워크를 제공하였다. 이 연구의 알고리즘들을 실시간 빅데이터가 양산되고 있는 ICT 산업, 반도체 산업, 전력산업, 교통 등의 영역에 적용될 수 있으리라고 생각한다. 또한, 기계학습을 통한 산출물을 사용하여 최적 의사결정을 할 수 있는 모형 해석기를 제공함으로 변동성과 정확성을 같이 고려한 실질적인 의사결정을 지원할 수 있을 것으로 기대한다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• [1] 대용량 SVM을 위한 Relative Support Distance 기반 Support Vector 후보 데이터 선택 알고리즘 개발 ... 5
• [2] 시계열의 효과적인 트랜드 감지 및 차원 축소를 위한 Transitional SAX 방법 개발 ... 5
• [3] 다변량 실시간 데이터의 one-class SVMs 기반 online dependence 클러스터링 및 비정상 감지 알고리즘 개발 ... 6
• [4] 실시간 이상치 탐지를 위한 online sequential ESD 알고리즘 개발 ... 7
• [5] ADMM 기반의 joint pruning을 통한 Deep Neural Networks 압축 알고리즘 개발 ... 7
• [6] 다변량 시계열에 적용되는 Partial linear dependence를 활용한 Dual recurrent neural networks 모형 개발 ... 7
• [7] 정보량 향상된 Encoding을 위한 Transformer기반 Variational Autoencoders 알고리즘 개발 ... 8
• [8] BERT 비지도 도메인 적용을 위한 Knowledge distillation 방법 개발 ... 9
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 10
• 1) 정성적 연구개발성과(연구개발결과) ... 10
• 2) 세부 정량적 연구개발성과 ... 10
• 3) 목표 달성 수준 ... 10
• 4) 목표 미달 시 원인 분석 ... 10
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 10
• 5. 연구개발성과의 관리 및 활용 계획 ... 11
• 6. 자체점검표 ... 11
• 7. 참고문헌 ... 11
• [붙임1] 세부 정량적 연구개발성과 ... 12
• [붙임2] 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 23
• 끝페이지 ... 30