초록 ▼

3년간의 연구의 목표는 유전 알고리즘을 패턴 인식 문제 해결에 도입하고 그 성능을 선 도적인 수준까지 향상시키는 것이었다. 크게 특징 선택, 분류기 설계, 다중 분류기 설계 문제
를 다룬다. 우리의 주요 연구 주제는 휴리스틱 연산을 도입하여 유전 알고리즘의 탐색 능력을 향상시키는 것이다. 또 다른 중요한 연구 주제는 해 공간을 시각화하고 통계 분석하여 이해하려는 노력을 하며, 이러한 이해와 통찰을 바탕으로 알고리즘 성능 향상을 꾀한다.
(1) 특징 선택
- 특징 선택을 위한 혼합형 유전 알고리즘
특징 선택을 위

3년간의 연구의 목표는 유전 알고리즘을 패턴 인식 문제 해결에 도입하고 그 성능을 선 도적인 수준까지 향상시키는 것이었다. 크게 특징 선택, 분류기 설계, 다중 분류기 설계 문제
를 다룬다. 우리의 주요 연구 주제는 휴리스틱 연산을 도입하여 유전 알고리즘의 탐색 능력을 향상시키는 것이다. 또 다른 중요한 연구 주제는 해 공간을 시각화하고 통계 분석하여 이해하려는 노력을 하며, 이러한 이해와 통찰을 바탕으로 알고리즘 성능 향상을 꾀한다.
(1) 특징 선택
- 특징 선택을 위한 혼합형 유전 알고리즘
특징 선택을 위해 일반적으로 사용할 수 있는 혼합형 유전 알고리즘을 제시함. 다양한 데이터에 대한 실험 결과로부터 선도적인 성능을 얻을 수 있음을 입증함.
- 마이크로 어레이 데이터에서 유전자 선택을 위한 진화적 접근
적은 데이터 양을 갖는 응용에 대한 특징 선택 알고리즘을 제시함. 교배 연산 과정을 시각화 함으로써 유전 알고리즘의 동작에 대한 통찰을 제시함.
(2) 특징 공간 분석과 시각화
- 특징 선택에서 문제 공간 분석
특징 선택 문제에서 해 사이의 거리를 정의하고 지역 최저점과 최고점에 대한 통계를
구하여 해 공간에 대한 조사를 수행하였음. 그 결과를 바탕으로 탐색 알고리즘의 성능 개선을 얻음.
- 특징 공간 분석을 위한 유전 알고리즘
특징 공간을 위한 개선된 거리를 정의하였고 그 타당성을 입증함. 또한 Sammon 맵핑을 이용한 시각화 방법을 제시함.
(3) 분류기 최적화
- 시스템 인식을 위한 신경망에서의 특성 진화 시스템 인식 문제를 해결하기 위한 신경망 설계를 유전 알고리즘으로 수행함.
- Neuro-genetic hybrid의 성능 개선 신경망의 동형을 찾고 이를 정규화하는 알고리즘을 제시함. 시각화를 통해 성능을 추가 적으로 개선함.
(4) 다중 분류기 결합
- 분류기 앙상블 선택을 위한 유전 알고리즘
최적의 분류기 앙상블을 선택하기 위한 혼합 유전 알고리즘을 제안함. 순차탐색 연산자와 조합 탐색 연산자를 제시함.
- 부류-의존 분류기 앙상블
부류마다 따로 분류기를 갖는 구조에서 분류기 앙상블을 찾는 알고리즘을 제시함.
k-NN, 신경망, SVM 분류 알고리즘을 사용하여 분류기의 다양성을 확보함.
실험은 의료, 글자, 지질, 생물 정보학 등에서 발생하는 다양한 데이터 집합을 사용하였 으며, 객관성을 유지하기 위해 세계적으로 널리 쓰이는 데이터를 사용하였다. 실험은 다양한 데이터 집합, 다양한 매개변수에서 수행하여 실험 결과에 대한 신빙성을 높였다.
결론적으로 우리 연구의 공헌을 세 가지로 요약할 수 있다.
- 패턴인식 문제 해결에 유전 알고리즘을 사용하는 것의 타당성을 실험적으로 입증함.
- 공간 탐색 능력이 개선된 패턴 인식용 유전 알고리즘을 제시함.
- 해 공간을 분석하는 도구를 제시하여 유전 알고리즘에 대한 통찰력을 증진시킴.
기존 연구를 살펴보면 유전 알고리즘에 대한 부정적인 실험 결과가 제시된 경우가 있다. 또한 패턴 인식 연구자들 중에는 유전 알고리즘에 대한 막연한 부정적 인식이 있는 것이 사실이다.
우리가 수행한 3년간의 연구 결과에 의하면 패턴 인식에서 가장 중요한 주제인 특징 선택, 분류기 설계, 다중 분류기 결합에서 유전 알고리즘은 기존 알고리즘에 비해 명확하게 우수한 성능을 보였다. 또한 단순 유전 알고리즘을 개선하여 탐색 성능이 뛰어난 새로운 유전 알고리즘을 제시하였다. 우리 연구에서 개발한 유전 알고리즘은 모두 실증 데이터에 대해 성능이 입증 되었다.

Abstract ▼

Our research aims are to adopt the genetic algorithm to solve pattern recognition problems and to improve the performance to the leading-edge. We address three major problems, feature selection, classifier design, and multiple classifier combination. One of major issues is to improve the searching c

Our research aims are to adopt the genetic algorithm to solve pattern recognition problems and to improve the performance to the leading-edge. We address three major problems, feature selection, classifier design, and multiple classifier combination. One of major issues is to improve the searching capability of genetic algorithm by introducing heuristic operations. Another issue is to understand the solution spaces by visualization and statistical analysis. By the understanding and insights into solution spaces, we attempt to improve the genetic algorithms.
(1) Feature selection
- Hybrid genetic algorithm for feature selection Proposing hybrid genetic algorithm generally used for the feature selection. Proving the leading-edge performance by experiments with diverse datasets.
- Evolutionary approach to gene selection in microarray data Proposing feature selection algorithm for applications with small datasets. Presenting the insights into working of genetic algorithm by visualizing crossover operations.
(2) Feature space analysis and visualization
- Analysis of problem spaces in feature selection Defining the distance in feature selection problem and analyzing solution spaces by statistics of local maximum and minimum points. Improving the capability of searching algorithm.
- Genetic algorithm for feature space analysis Defining new distance measure and proving its validity. proposing visualizing method using Sammon mapping.
(3) Classifier optimization
- Evolution of neural networks in system identification Proposing genetic algorithm for neural networks design in system identification problem.
- Improving neuro-genetic hybrid
Finding isomorphism of neural networks and normalization algorithm. Improving additionally performance by visualization
(4) Multiple classifier combination
- Genetic algorithm for classifier ensemble selection Proposing genetic algorithm for the optimal ensemble selection. Presenting sequential and combinational search operations.
- Class-dependent ensenble Proposing ensemble selection algorithm for the class-dependent architecture. Obtaining classifier diversity by using k-NN, neural networks, and SVM.
Experiments were performed using diverse datasets from medical, characters, geology, and bio-informatics. For objective performance evaluation, well-known worldwide datasets were used. We performed the experiments using diverse datasets and diverse parameter values.
Our research contributions can be summarized.
- Proving empirically the validity of using genetic algorithm to solve pattern recognition problems
- Proposing improved genetic algorithms with large searching capabilities - Improving the insights into genetic algorithms by presenting visualization tools Some of conventional researches presented negative experimental data on genetic algorithms. Also some researchers have negative views on using genetic algorithm for pattern recognition problems. Our research results produced many experimental data with evident superiority for feature selection, classifier design, and multiple classifier combination. Additionally we proposed genetic algorithms with significantly improved searching capability. The novel genetic algorithms developed by our 3-years researches were proved by real-world datasets.

목차 Contents

• Ⅰ. 연구계획 요약문...3
• 1. 국문요약문...3
• Ⅱ. 연구결과 요약문...4
• 1. 국문요약문...4
• 2. 영문요약문...5
• Ⅲ. 연구내용...5
• 1. 서론...6
• 2. 특징 선택...9
• 3. 특징 공간 분석과 시각화...14
• 4. 분류기 최적화...22
• 5. 다중 분류기 결합...30
• 6. 결론...42
• 7. 인용문헌...43
• 8. 연구성과...45