초록

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

많은 최적화 문제에서 해답들의 구조는 서로 의존성을 가지고 있다. 이러한 경우 기존의 진화연산이 사용하는 빌딩 블록 개념으로는 문제를 해결하는데 많은 어려움을 겪게 된다. 이를 극복하기 위해서 헬름홀츠 머신(Helmholtz machine)을 이용해서 데이터의 분포를 예측한 후 최적화를 수행하는 방법을 제안한다. 기존의 진화 연산을 바탕으로 하지만 교차연산이나 돌연변이 연산을 사용하는 대신에, 헬름홀츠 머신을 이용해서 데이터의 분포를 파악하고, 이를 이용해서 새로운 데이터를 생성하는 과정을 통해 최적화 과정을 수행한다. 진화연산으로 해결하는데 곤란을 겪고 있는 여러 함수들을 해결하는 이를 검증하였다.

많은 최적화 문제에서 해답들의 구조는 서로 의존성을 가지고 있다. 이러한 경우 기존의 진화연산이 사용하는 빌딩 블록 개념으로는 문제를 해결하는데 많은 어려움을 겪게 된다. 이를 극복하기 위해서 헬름홀츠 머신(Helmholtz machine)을 이용해서 데이터의 분포를 예측한 후 최적화를 수행하는 방법을 제안한다. 기존의 진화 연산을 바탕으로 하지만 교차연산이나 돌연변이 연산을 사용하는 대신에, 헬름홀츠 머신을 이용해서 데이터의 분포를 파악하고, 이를 이용해서 새로운 데이터를 생성하는 과정을 통해 최적화 과정을 수행한다. 진화연산으로 해결하는데 곤란을 겪고 있는 여러 함수들을 해결하는 이를 검증하였다.

AI 본문요약

엑셀 다운로드 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

• 연구 주제
• 연구 방법
• 연구 결과

문제 정의

• 본 논문에서는 두 번빼 방범을 참고로 하여, 생성 모델(generative model) 승 하나인 헬름홀츠 머신(Helmholtz machine)올 이용해서 분포를 파악한 후 최적화 과정을 수행하는 알고리즘을 개발하였다 다음절에서 헬름홀츠 머신에 대해서 설명하고, 3절에서 구체적인 알고리즘을 소개한 후, 4절에서 여러 가지 실험 및 결과를 보이고, 5절에서 결론을 내리고자 한다.
• 본 논문에서는 새로운 최적화 방법의 하나로 헬름홀츠 머신올 이 용한 방법을 제안하였다. 기존의 진화 연산처럼 교차 연산자, 돝연변 이 연산자를 사용하는 대신에 헬름홀츠 머신을 이용해서 분포를 파악하고 파악된 분포를 통해 학습 데이터를 새로이 생성하는 방법으로 최적화를 수행한다.

제안 방법

• 각 문제의 각각의 경우에 대해서 모두 10번씩 실험을 하였으며, 전체 개체군 중 10% 정도가 최적해를 발견하면 수렴한 것으로 간주하여 실험을 중단하였다.
• 우선 초기 데이터를 생성하고, 헬름홀츠 머신을 초기화한다. 그리고 헬름홀츠 머신을 2절에서 설명한 수면-기상 알고리즘을 이용해서 학습을 시킨다. 학습이 종료되면 새로운 데이터 집합을 생성한 후, 다음 세대 학습에 사용될 데이터를 선택한다.
• 본 논문에서는 새로운 최적화 방법의 하나로 헬름홀츠 머신올 이 용한 방법을 제안하였다. 기존의 진화 연산처럼 교차 연산자, 돝연변 이 연산자를 사용하는 대신에 헬름홀츠 머신을 이용해서 분포를 파악하고 파악된 분포를 통해 학습 데이터를 새로이 생성하는 방법으로 최적화를 수행한다. 실험 결과에서 확인할 수 있는 것처럼 단순한 유전자 알고리즉보다는 최적화를 찾는 비율과 계산 효율 측면에서 훨씬 우수하다는 것을 알 수 있었다.
• 실험을 한 문제는 원 맥스 (onemax) 문제, 이차 함수 (quadratic function), 3차 디셉티브 함수 (deceptive function of order 3)이다. 자세한 함수의 정의는 식 (5), (6), (7) 에 나타나 있다.

대상 데이터

• 새로운 데이터는 지금까지 하습돤 헬름홀츠 머신을 이용해서 생성하였다. 데이터는 기본적으로 식 (4) 에 의해서 생성되나 확률적으로 값이 결정된다.

데이터처리

• 모두 4가지 서로 다른 문제에 대해서 실험을 해 보았고, 그 결과를 유전자 알고리즘과 비교하였다. 비교 대상이 된 유전자 알고리즘은 기본적인 형대의 유전자 알고리즘으로 일 점 교차 연산(one~cut point crossover)과 일 점 돌연변이 연산 (one point mutation)을 사용하며, 적합도 비례 선택 방법 (roulette-wheel s이ection)으로 선택하였다.

이론/모형

• 모두 4가지 서로 다른 문제에 대해서 실험을 해 보았고, 그 결과를 유전자 알고리즘과 비교하였다. 비교 대상이 된 유전자 알고리즘은 기본적인 형대의 유전자 알고리즘으로 일 점 교차 연산(one~cut point crossover)과 일 점 돌연변이 연산 (one point mutation)을 사용하며, 적합도 비례 선택 방법 (roulette-wheel s이ection)으로 선택하였다. 구체적인 유전자 알고리즘의 변수들은 표 1과 같고, 실험 함수 3개에 대해서 모두 동일한 조건으로 하였다.
• 초기 데이터는 외부에서 주어질 수도 있고, 헬름홀츠 머선을 초기화한 후 헬름홀츠 머신을 이용해서 생성할 수도 있다. 수면 기상 알고리즘을 학습을 할 때 가중치 변경은 델타 규칙(delta ride)을 사용하였고, 식 (1)〜(4에 설명되어 있다. 식 (1) 은 생성 가중치를 학습하는 과정이고, 식(2)은 인식 가중치登 학습하는 과정이다 식 (3) 은 은닉 노드의 값을 결정하는 식이고, 시 (4) 은 새로운 데이터를 생성하는 식이다.

성능/효과

• 최적해를 찾는 비율을 볼- 때, 헬름홀츠 머신을 이용한 방법은 거의 모든 경우에서 해를 찾고 있으나, 단순 유전자 알고리즘은 문제의 크기가 조:감만 커져도 해를 찾지 못하는 것을 알 수 있다. 계산 효율 측면에서 세대수(generation)를 비교해 보더라도 그럼 3에서 볼 수 있는 것처럼, 제안된 방법이 훨씬 더 우수하다는 것을 알 수 있디 I 비록 여기서, 반복 횟수가 적합도를 계산한 횟수만을 고려한 것이라서 직접적인 비교는 되지 않으나, 헬름홀츠 신경망 학습 시간(학습 반복 횟수)을 고려하더라도 一 여전히 우수하다는 것을 알 수 있다.
• 기존의 진화 연산처럼 교차 연산자, 돝연변 이 연산자를 사용하는 대신에 헬름홀츠 머신을 이용해서 분포를 파악하고 파악된 분포를 통해 학습 데이터를 새로이 생성하는 방법으로 최적화를 수행한다. 실험 결과에서 확인할 수 있는 것처럼 단순한 유전자 알고리즉보다는 최적화를 찾는 비율과 계산 효율 측면에서 훨씬 우수하다는 것을 알 수 있었다.
• Hinton 등의 실험 결과를 보면[7, 8], 숫자 인식 후 새로운 숫자 패턴 생성 또는 숨겨진 특정 패턴 등의 분석 둥을 성공적으로 하는 것을 알 수 있다. 이와 같은 결과를 볼 때 헬름홀츠 머신은 패턴 분석에 적절한 모델이고, 또한 생싱 모델이기 때문에 새로운 패턴을 생성하는 데에도 사용될 수 있다는 것을 알 수 있다.
• 표에서 알 수 있는 것처럼, 헬름홀츠 머신을 사용한 최적화 방법 (HM) 이 단순한 유전자 알고리즘(sGA)보다 훨씬 좋은 결과를 보여 주는 것을 알 수 있다. 최적해를 찾는 비율을 볼- 때, 헬름홀츠 머신을 이용한 방법은 거의 모든 경우에서 해를 찾고 있으나, 단순 유전자 알고리즘은 문제의 크기가 조:감만 커져도 해를 찾지 못하는 것을 알 수 있다.

본문요약 정보가 도움이 되었나요? 예 아니오 제출

이 논문을 인용한 문헌

더보기