초록 ▼

□ 연구개요
인공 신경망의 학습 과정은 매우 복잡한 과정이며 아직 어째서 딥 러닝과 같은 알고리즘이 성공적으로 작동하는 지 충분히 이해하지 못하고 있다. 기존의 공학적인 접근 대신 자연과학적인 접근이 인공신경망과 기타 기계 학습을 이해하는 데에 큰 역할을 할 것으로 기대한다. 이에 최근에 통계 물리학 분야에서 발전한 개념들을 사용해서 복잡계로서의 기계 학습을 연구하고 또한 기존에 연구되던 복잡계 모형에 기계 학습을 응용 한다.

□ 연구 목표대비 연구결과
Evolutionary games of agents wi

□ 연구개요
인공 신경망의 학습 과정은 매우 복잡한 과정이며 아직 어째서 딥 러닝과 같은 알고리즘이 성공적으로 작동하는 지 충분히 이해하지 못하고 있다. 기존의 공학적인 접근 대신 자연과학적인 접근이 인공신경망과 기타 기계 학습을 이해하는 데에 큰 역할을 할 것으로 기대한다. 이에 최근에 통계 물리학 분야에서 발전한 개념들을 사용해서 복잡계로서의 기계 학습을 연구하고 또한 기존에 연구되던 복잡계 모형에 기계 학습을 응용 한다.

□ 연구 목표대비 연구결과
Evolutionary games of agents with reinforcement learning: 진화적 게임에 참여하는 agent들이 machine learning을 통해 전략을 학습하는 경우에 나타나는 집단적 거동을 살펴보는 연구이다. 당초 feedforward network을 사용하는 machine learning을 사용하였으나 충분한 학습이 이루어지지 않아 reinforcement learning의 방법을 도입하여 연구를 진행하였다. 하지만 당초 예상하였던 것보다 훨씬 큰 computing power가 필요한 시뮬레이션임을 확인하였고, 집단적인 거동을 확인할 수 있을 만큼의 시뮬레이션을 수행하지는 못하였다.
RBM weight matrix의 spectral property와 overfitting: Ising model의 configuration을 생성하는 제한적인 볼츠만 머신 (Restricted Boltzmann Machine)를 학습시키고, weight matrix의 spectral property와 accuracy, overfitting 사이의 관계를 살펴보는 연구이다. singular value의 분포와 accuracy, overfitting 사이에 유의미한 관계가 있는 것을 확인하였고, 이 관계를 정량적으로 표현할 수 있는 statistic을 개발하는 중이다.

□ 연구개발결과의 중요성
최근 수년간 발전된 기계 학습의 중요성은 더 강조할 필요가 없을 정도로 정보 산업 전반을 변화시키고 있다. 기계 학습의 더 큰 발전을 위해서 공학적인 접근이 아닌 자연과학적인 접근이 필요할 때이다. 최근 복잡계 관점에서의 기계 학습에 대한 연구가 늘어나고 있다. 본 연구에서는 weight matrix의 singular value의 분포가 overfitting과 관련 있음을 확인하였다. 학습된 weight matrix의 구조를 이해하는 것은 기계 학습을 이해하는 단초 중의 하나이다. 특히 이 결과를 응용하여 RBM 학습의 효율을 높일 수 있을 것으로 기대한다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 3
• 2. 연구수행내용 및 연구결과 ... 3
• 3. 연구개발결과의 중요성 ... 6
• 4. 참고문헌 ... 6
• 5. 연구성과 ... 6
• 끝페이지 ... 7