$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

유전자알고리즘을 이용한 시그모이드 활성화 함수 파라미터의 최적화와 이중나선 문제의 입력공간 패턴인식 분석
Optimization of Sigmoid Activation Function Parameters using Genetic Algorithms and Pattern Recognition Analysis in Input Space of Two Spirals Problem 원문보기

한국콘텐츠학회논문지 = The Journal of the Korea Contents Association, v.10 no.4, 2010년, pp.10 - 18  

이상화 (서원대학교 정보통신공학과)

초록
AI-Helper 아이콘AI-Helper

본 논문에서는 유전자알고리즘을 이용한 시그모이드 활성화 함수 파라미터의 최적화와 이중나선기준문제(two spirals benchmark problem)의 입력공간 패턴인식 상태를 분석 한다. 실험을 위하여 캐스케이드 코릴레이션 학습 알고리즘(Cascade Correlation learning algorithm)을 이용한다. 첫 번째 실험에서는 기본적인 시그모이드 활성화 함수를 사용하여 이중나선 문제를 분석하고, 두 번째 실험에서는 시그모이드 활성화 함수(sigmoidal activation function)의 파라미터 값이 서로 다른 함수를 사용하여 8개의 풀을 구성한다. 세 번째 실험에서는 시그모이드 함수의 변위를 결정하는 세 개의 파라미터 값을 유전자 알고리즘을 이용하여 얻고 이 파라미터 값들이 적용된 시그모이드 함수들은 후보뉴런의 활성화를 위해서 사용된다. 이러한 알고리즘의 성능평가를 위하여 각 학습단계 마다 입력패턴공간에서 인식된 이중나선의 형태를 보여준다.

Abstract ▼ AI-Helper 아이콘AI-Helper

This paper presents a optimization of sigmoid activation function parameter using genetic algorithms and pattern recognition analysis in input space of two spirals benchmark problem. To experiment, cascade correlation learning algorithm is used. In the first experiment, normal sigmoid activation fun...

주제어

#캐스케이드코릴레이션 알고리즘   #활성화함수   #시그모이드함수   #이중나선 문제  

AI 본문요약
AI-Helper 아이콘 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

  • 두 번째 실험에서는 가급적 적은 수의 은닉뉴런을 생성하여 학습을 완료하고 또한 입력패턴공간의 이중나선 인식 상태를 개선하는 것이 목적이다. [그림 7]은 각 학습 단계 마다 인식된 입력패턴의 상태를 보여준다.
  • 본 논문의 목적은 시그모이드 활성화함수의 사용 방법에 따라서 패턴인식 결과에 많은 영향을 미칠 수 있음을 보여주는 것이다. 이는 첫 번째 주어진 이중나선의 모양과 가급적 똑같은 형태의 인식된 패턴의 그림을 나타내야하고 두 번째는 가급적 작은 수의 은닉뉴런을 생성하여 네트워크를 구성하는 것이다.
  • 더 나아가서 패턴인식 학습을 위한 시그모이드 함수의 최적의 파라미터 값을 구하기 위하여 유전자 알고리즘을 이용한다. 이러한 실험을 통하여 패턴 인식 능력을 최적화 시킬 수 있음을 본 논문에서 보여 주었다. 앞으로는 시그모이드 함수 이외의 함수를 이용하여 최적화 시키는 방법에 관하여 연구할 필요가 있다.
본문요약 정보가 도움이 되었나요?

질의응답

핵심어 질문 논문에서 추출한 답변
이중나선의 알고리즘은 어떤 입출력 값을 가지는가? 특히 움직이는 물체를 정확히 인식하기 위한 알고리즘을 테스트하기 위하여 많이 사용된다. 이중나선의 알고리즘은 연속된 값으로 이루어진 두 개의 입력을 갖고 한 개의 이원값의 출력을 갖는다. 서로 끼워 맞추어진 두 개의 나선은 학습을 통하여 구분하는 것이 목표이다.
캐스케이드 코릴레이션은 이중나선문제의 패턴을 인식하기 위해 무엇을 구성하고 어떤 함수를 사용하였는가? [2]에서와 같이 CC는 이중나선문제의 패턴을 인식하기 위하여 하나의 풀(pool)을 구성하고 활성화 함수로는 기본 시그모이드 함수를 사용하였다. 보통 하나의 풀은 4~8개의 후보뉴런으로 구성하고 같은 활성화 함수를 사용한다.
이중나선문제를 해결하기 위해 Fahlman은 무엇을 제안했는가? 특히 이 문제는 움직이는 물체를 정확히 인식 할 수 있는 뉴로칩을 개발하고 제작하여 미사일 등에 탑재하면 목표물을 명중시킬 수 있는 미국방성 프로젝트의 일환으로 연구되었다. 이러한 문제의 해결을 위하여 Fahlman은 캐스케이드 코릴레이션(Cascade Correlation (CC))을 제안하게 되었고 패턴인식을 위한 학습은 퀵프로파게이션(quickpropagation) 알고리즘을 이용하였다[2].
질의응답 정보가 도움이 되었나요?

참고문헌 (9)

  1. F. Dandurand, V. Berthiaume, and T. R. Shultz, "A systematic comparison of flat and standard cascade-correlation using a student-teacher network approximation task," Connection Science, Vol.19, No.3, pp.223-244, 2007. 

    상세보기 crossref

  2. S. E. Fahlman and C. Lebiere, "The cascadecorrelation learning architecture," Advances in Neural Information Processing Systems 2, Morgan Kaufmann, 1990. 

  3. S. E. Fahlman, "The Recurrent Cascade-Correlation Architecture," Advances in Neural Information Processing Systems 3, Morgan Kaufmann, pp.190-198, 1991. 

  4. X. Z Gao, X. Wang, and S. J. Ovaska, "A novel hybrid optimization method with application in Cascade-Correlation neural network training," Proceedings, 8th International Conference on Hybrid Intelligent Systems, Article number 4626728, pp.793-800, 2008. 

    crossref

  5. B. Hammer, A. Micheli, and A. Sperduti, "Universal approximation capability of cascade correlation for structures," Neural Computation, Vol.17, No.5, pp.1109-1159, 2005. 

    상세보기 crossref

  6. T. D. Le, T. Komeda, and M. Takagi, "Knowledge-based recurrent neural networks in reinforcement learning," Proceedings of the 11th IASTED International Conference on Artificial Intelligence and Soft Computing, pp.169-174, 2007. 

  7. L. Prechelt, "PROBEN1-A Set of Neural Network Benchmark Problems and Benchmarking Rules," Technical Report 21/94, Department of Computer Science, University of Karlsruhe, 1999. 

  8. Stuttgart Neural Network Simulator (SNNS), User Manual, Version 4.0, Institute for Parallel and Distributed High Performance Systems (IPVR), University of Stuttgart, 1998. 

  9. A. Zell.: Simulationneuronaler Netze, Addison-Wesley, 1994. 

저자의 다른 논문 :

관련 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로