초록 ▼

- 기계학습 적용 시스템을 개발할 때 개발자의 부담을 최소화하기 위한 자율 기계학습 플랫폼의 기초 원천기술 개발
- 딥러닝 모델의 그래프 기반 모델링 및 기존 모델의 그래프 변환·수정·코드 생성을 지원하는 GUI 기반 도구 개발
- 자율 기계학습 프레임워크에 대한 요구사항 분석, 구성요소 식별 및 기능 정의
- 자율 기계학습 작업 수행을 위한 작업 표현 언어 및 파서의 요구사항 및 기능 정의, 논리적 기계학습 작업계획에 대한 실행계획 생성을 위한 기존 기계학습 프레임워크를 통한 랩퍼 구현
- 기계학습 작업의 병

- 기계학습 적용 시스템을 개발할 때 개발자의 부담을 최소화하기 위한 자율 기계학습 플랫폼의 기초 원천기술 개발
- 딥러닝 모델의 그래프 기반 모델링 및 기존 모델의 그래프 변환·수정·코드 생성을 지원하는 GUI 기반 도구 개발
- 자율 기계학습 프레임워크에 대한 요구사항 분석, 구성요소 식별 및 기능 정의
- 자율 기계학습 작업 수행을 위한 작업 표현 언어 및 파서의 요구사항 및 기능 정의, 논리적 기계학습 작업계획에 대한 실행계획 생성을 위한 기존 기계학습 프레임워크를 통한 랩퍼 구현
- 기계학습 작업의 병렬 실행을 위한 컴퓨팅 자원 및 가용 기계학습 알고리즘의 관리 기능 기초 기술 개발
- 컴퓨팅 자원 및 기계학습 프레임워크에 대한 원격 활용을 위한 자율 기계학습 플랫폼에 대한 요구사항 분석, 플랫폼 구조 설계 및 컴포넌트별 기능 정의
- 기계학습 알고리즘의 실행을 위한 분산 자원관리 미들웨어 정의, 태스크 원격 실행관리 및 모니터링 기능 설계와 프로토타입 구현
- 플랫폼의 마스터 컴포넌트, 태스크와 이벤트 관계 기반 태스크 관리 기능, 자율 기계학습 프레임워크와 연계 동작을 위한 인터페이스 정의 및 메시징 기능 구현
- 기계학습 알고리즘 수행에 따른 컴퓨팅 자원수요 및 성능예측에 기반한 병렬 분산 실행 중인 알고리즘의 관리 전략 개발 및 관리 인터페이스 구현
- 인텔리전트 DB의 자율 기계학습 프레임워크 및 플랫폼 연동을 위한 요구사항 및 인터페이스 정의, 자율 기계학습 플랫폼과 기본 인터페이스 정의
- 기계학습 알고리즘 적용 시점 판단을 위한 점진적·반복적 데이터 분석을 통해 관계성 변화 확인, 인메모리 기반 캐시 공유를 통한 효율적 분석 기법
- 작업 품질을 보장을 위한 데드라인 기반의 자원 활용 가능성 및 데이터 접근성을 고려한 태스크 스케줄링 기법
- 발생횟수에 대한 기계학습 알고리즘 적용의 효율성 개선을 위한 빅데이터 분산 저장 관리 및 부하상태를 고려한 동적 발생횟수 관리 기법
- 본 연구에서는 기계학습 모델을 다양한 자율수준으로 생성하고 생성 모델에 대해서 자동으로 학습을 수행하여, 사용자의 개입을 최소화하면서 자가구성 기반의 기계학습을 할 수 있는 프레임워크를 위한 기초 원천기술을 개발함
- 본 연구에서 연구 개발하는 주요 기술 및 연구 결과는 다음과 같음
1. 자율 기계학습을 위한 자가구성 기술
(1) 효과적 모델 생성을 위한 속성의 자율 선택 기술
- 데이터 특성을 고려하는 속성 표현(Feature representation) 기술 개발
- 몬테카를로 트리 검색 기반의 속성 선택(Feature selection) 기술 개발
(2) 모델에 적합한 하이퍼파라미터의 자율 설정 기술
- 효율적인 하이퍼파라미터 공간 탐색을 위한 모델 평가 방법 개발
- 최적화 기법 기반의 하이퍼파라미터 선별 기술 개발
2. 자율 기계학습을 위한 그래프, 매트릭스 기반의 고성능 기계학습 기술
(1) 고성능 싱글 머신 기반 그래프 처리 엔진 기술
- 싱글 머신 멀티코어 프로세서를 활용하는 처리 기술 개발
- 싱글 머신 기반 고성능 그래프 처리 엔진 개발
(2) 그래프 처리 엔진과 밀접히 결합된 효율적인 기계학습 알고리즘
- 그래프 처리 엔진과의 밀결합을 통한 고성능 기계학습 알고리즘 개발
- GPU의 활용을 통한 그래프 엔진 기반 기계학습 알고리즘의 성능 개선

(출처 : 보고서 요약서 3p)

Abstract ▼

Ⅳ. Results
[The 1st year]
ㅇ requirement analysis of autonomic machine learning framework
– characteristics and supporting environment analysis of existing open source machine learning framework
– requirement specification of autonomic machine learning framework utilizing distributed

Ⅳ. Results
[The 1st year]
ㅇ requirement analysis of autonomic machine learning framework
– characteristics and supporting environment analysis of existing open source machine learning framework
– requirement specification of autonomic machine learning framework utilizing distributed computing resource

ㅇ architecture specification of autonomic machine learning framework
– component identification of autonomic machine learning framework
– functionality definition of framework components and interface APIs
– prototyping of a machine learning design tool of autonomicity level 0

ㅇ interface requirement specification of available computing resource and machine learning algorithm application
– requirement and interface specifications for each autonomicity level using existing machine learning framework

ㅇ multiple parallel execution management of machine learning algorithms
– survey and analysis for multiple parallel execution management methods of machine learning algorithms
– machine learning model deployment strategy and interface specification of learning process monitoring for multiple parallel execution

ㅇ analysis of existing machine learning platforms and requirement analysis for autonomic machine learning platform
– characteristics analysis of existing machine learning platforms
– requirement specification of distributed cluster management

ㅇ distributed resource management middleware design of machine learning algorithm execution
– platform component design of state monitoring service for available resource and node in computing clusters

ㅇ Specification of platform architecture and roles of components
– distributed cluster node management component design of autonomic machine learning
– API specification of platform function usages

ㅇ task and event management component design
– specification of data transfer and processing methods for using existing machine learning platforms
– design of internal dataflow in a clustered computing resource

ㅇ distributed big data storage management architecture design for dynamic data change
– characteristics analysis of data and data change for dynamic machine learning
– analysis of existing big data storage management systems
– distributed storage management architecture design appropriate to data characteristics

ㅇ load-aware dynamic distributed data management for throughput maximization
– load balancing characteristics analysis for online machine learning
– dynamic data management strategy considering node-wise storage space and throughput

ㅇ relation change management for incremental and repetitive data analysis
– analysis of distributed data management methods with consideration of data relationships for training data
– relation change processing method for incremental and repetitive data analysis

ㅇ Autonomic selection of attributes for effective model generation
– Effective feature representation technology for text data
∘ Efficient feature representation of text data using keyword memory network
∘ Apply attention mechanism to Explicit Vector, which is a surface area semantic property expression, using Implicit Vector, which is a contextual meaning attribute expression
– Monte Carlo tree search based feature selection
∘ Development of meta-heuristic algorithm combining Monte Carlo tree search and Wrapper method
∘ Generate optimal feature subset by combining tree policy using extended feature space and default policy for deriving randomness

ㅇ High-performance technology for a graph processing engine on a single machine
– Modeling analysis of existing methods of single-machine-based graph engines
∘ Analysis of existing graph processing methods
∘ Analysis of storage formats of real-world graphs and matrices
∘ Analysis of models for data storage and programming
– Analysis of existing storage structures for graphs and matrices
∘ Analysis of existing storage methods of real-world graphs and matrices
∘ Analysis of characteristics of real-world graphs and matrices
– Implementation of high-performance graph engine & performance evaluation
∘ Modeling of structure and role of components in graph engine
∘ Implementing graph processing techniques utilizing a single machine multi-core processor
∘ Performance evaluation of graph engine

[The 2nd year]
ㅇ component development for autonomic machine learning framework
– specification of machine learning execution job descirption and parser description
– wrapper design and prototyping using existing machine learning frameworks
– logical machine learning job planning and execution plan generation method
– interface specification and prototyping of autonomic machine learning framework integration
– GUI-based tool development that edits graph-based deep learning models, importing existing models into a graph structure, modifying the graph and transforming it into code

ㅇ component development for autonomic machine learning platform
– integration specification and prototyping of platform master component and autonomic machine learning framework
– remote execution and performance monitoring component prototyping of machine learning jobs
– available computing resource and machine learning algorithm management techniques for parallel machine learning job execution
– parallel distributed execution management strategy development with computing resource demand and performance prediction in machine learning algorithm execution

ㅇ distributed caching and data update for incremental machine learning
– relation change detection and in-memory-based cache sharing technique for incremental and repetitive data analysis to determine the time point of machine learning algorithm application
– distributed storage and management technique for training data of machine learning
– API specification for integrating autonomic machine learning framework and platform to intelligent database

ㅇ Autonomic hyperparameters configuration technology
– Model evaluation method for efficient hyperparameter space search
∘ Deriving model evaluation criteria to consider learning characteristics of neural networks
∘ Development of efficient hyperparameter search method combining Successive Halving algorithm and derived model evaluation criteria
– Hyperparameter selection method based on optimization technique
∘ Development of efficient hyperparameter optimization method combining Successive Halving algorithm and Bayesian Optimization
∘ Evolutionary algorithm-based search and derive optimal hyperparameter setting through three operations: training, selection, and expansion

ㅇ Efficient machine learning algorithms based on a graph engine
– Implementation of graph- and matrix-based machine learning algorithms
∘ Algorithms analysis existing algorithms for machine learning analysis
∘ Designing and implementation of representative graph- and matrix-based algorithms
∘ Performance comparisons with the existing graph engines
– Improving performance of machine learning algorithms using GPU
∘ Designing data structure and processing steps for GPU-based graph engine
∘ Implementation of machine learning algorithms on GPU-based graph engine & performance comparison with the CPU-based graph engine

(출처 : SUMMARY 13p)

목차 Contents

• 표지 ... 1
• 제출문 ... 2
• 보고서 요약서 ... 3
• 요약문 ... 5
• SUMMARY ... 11
• CONTENTS ... 18
• 목차 ... 20
• 제 1 장 연구개발과제의 개요 ... 22
• 제 1 절 연구의 필요성 ... 22
• 제 2 절 연구개발 목표 및 범위 ... 29
• 1. 최종 목표 ... 29
• 2. 단계별 연구개발 목표 ... 30
• 3. 연차별 연구개발 목표 및 범위 ... 32
• 제 2 장 국내·외 기술개발 현황 ... 36
• 제 1 절 국내·외 수준 및 현황 ... 36
• 1. 해외 수준 및 연구 현황 ... 36
• 2. 국내 수준 및 연구 현황 ... 50
• 제 3 장 연구개발수행 내용 및 결과 ... 61
• 제 1 절 연구개발 내용 ... 61
• 1. 연구내용 요약 (2개년도) ... 61
• 2. 연구단 내 세부과제와의 연계 활동 ... 70
• 제 2 절 연구 성과 ... 71
• 1. 정성적(기술적) 연구 성과 (2개년) ... 71
• 2. 정량적 연구 성과 ... 81
• 3. 연구 성과 자료 ... 82
• 제 4 장 목표달성도 및 관련분야에의 기여도 ... 108
• 제 1 절 평가의 착안점 및 자체평가 ... 108
• 1. 평가 착안점에 따른 목표 달성도 ... 108
• 2. 목표달성에 대한 자체평가 ... 110
• 3. 목표달성(연구수행) 중요 변경사항 ... 112
• 제 2 절 관련분야에의 기여도 ... 113
• 1. 경제적/산업적 기여도 ... 113
• 2. 기술적 기여도 ... 114
• 3. 인력양성 기여도 ... 116
• 제 5 장 연구개발결과의 활용계획 ... 117
• 제 1 절 연구개발결과의 활용방안 ... 117
• 1. 현장적용 방안 ... 117
• 2. 실용화ㆍ제품화 방안 ... 120
• 3. 미래원천기술 확보 방안 ... 120
• 4. 신산업 창출 방안 ... 120
• 5. 사업화 방안 ... 120
• 6. 기술이전 방안 ... 121
• 제 2 절 추가연구의 필요성 ... 122
• 제 6 장 연구개발과정에서 수집한 해외과학기술정보 ... 124
• 제 1 절 연구관련 기술자료 ... 124
• 제 2 절 기타 관련분야 기술정보 ... 125
• 제 7 장 연구시설·장비 현황 ... 126
• 제 8 장 참고문헌 ... 127
• 제 9 장 연구비 집행실적 ... 131
• 끝페이지 ... 132