[논문]순차적 실험계획법과 인공신경망을 이용한 제한조건이 없는 문제의 최적화 알고리즘 개발

이정환; 서명원

doi:10.3795/ksme-a.2008.32.3.258

순차적 실험계획법과 인공신경망을 이용한 제한조건이 없는 문제의 최적화 알고리즘 개발
Development of Optimization Algorithm for Unconstrained Problems Using the Sequential Design of Experiments and Artificial Neural Network 원문보기

大韓機械學會論文集. Transactions of the Korean Society of Mechanical Engineers. A. A, v.32 no.3 = no.270, 2008년, pp.258 - 266

이정환 (성균관대학교 대학원 기계공학부) , 서명원 (성균관대학교 기계공학부)

Abstract ▼ AI-Helper

The conventional approximate optimization method, which uses the statistical design of experiments(DOE) and response surface method(RSM), can derive an approximated optimum results through the iterative process by a trial and error. The quality of results depends seriously on the factors and levels assigned by a designer. The purpose of this study is to propose a new technique, which is called a sequential design of experiments(SDOE), to reduce a trial and error procedure and to find an appropriate condition for using artificial neural network(ANN) systematically. An appropriate condition is determined from the iterative process based on the analysis of means. With this new technique and ANN, it is possible to find an optimum design accurately and efficiently. The suggested algorithm has been applied to various mathematical examples and a structural problem.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

제안된 방법은 비선형성이 높은 문제에 대하여 전사(mapping) 능력이 우수하다고 알려진 인공신경망(Artificial Neural Network, ANN)과 혼합함으로써, 인자의 하한 또는 상한에 걸리지 않는 근사최적해를 체계적인(systematic) 반복과정에 의해 도출할 수 있게 된다. 그러므로 이를 수학적인 예제와 구조물 문제에 적용함으로써 실용성을 확인하고자 한다.
따라서 본 연구에서는 3수준의 직교배열표를 이용한 실험결과에 대하여 평균분석을 통해 최적수준을 선정하고, 도출된 최적수준을 기준으로 축소된 설계영역에 대한 새로운 수준 값을 선정하여 행렬실험과 평균분석의 과정을 반복 적용하는 개념인 순차적 실험계획법(sequential design of experiments, SDOE)을 제안하고자 한다. 제안된 방법은 비선형성이 높은 문제에 대하여 전사(mapping) 능력이 우수하다고 알려진 인공신경망(Artificial Neural Network, ANN)과 혼합함으로써, 인자의 하한 또는 상한에 걸리지 않는 근사최적해를 체계적인(systematic) 반복과정에 의해 도출할 수 있게 된다.
따라서 본 연구에서는 일반적인 실험계획법의 적용에 의하여 발생하는 시행착오적인 반복과정을 체계적인 규칙에 의한 최소실험 수행을 위하여 순차적 실험계획법이라고 정의한 방법을 제안하고자 하며, 이의 전체적인 과정은 Fig. 1과 같고 이를 요약하면 다음과 같다.
따라서 이러한 실험계획법과 인공신경망이 가지는 단점을 보완하고 장점을 이용하기 위하여 순차적 실험계획법(SDOE)과 인공신경망(ANN)을 조합함으로써 체계적이며 효과적인 해 탐색을 달성하고자 한다.

제안 방법

(2) 직교배열표를 이용한 실험계획 : 정의된 문제에 적합한 직교배열표는 인자 수 및 각 인자의 수준 수를 고려하여 결정하게 되며, 각 인자의 수준수는 비선형성을 갖는 문제를 포함하여 최대값이나 최소값을 탐색하는데 많이 활용되는 3수준을 사용하였다.⁽¹⁰⁾ 이때, 초기 설계영역의 최소값 및 최대값은 1 및 3수준에 배치하고, 2수준은 중앙값으로 선정한다.
역전파 학습 알고리즘은 두 단계의 순서에 의해 이루어진다고 볼 수 있는데, 첫 번째 단계에서는 입력을 네트워크에 제시하면 이것이 네트워크의 전방향으로 전파되어 출력을 내고, 이 출력과 목표출력과의 차이에 미분계수를 곱하여 출력 뉴런에 대한 오차를 계산한다. 두 번째 단계에서는 오차신호가 네트워크의 역방향으로 전파되어 가면서 각 뉴런의 오차 신호가 계산되고, 이것을 바탕으로 연결강도를 수정한다.⁽¹¹⁾ 이러한 네트워크를 도식적으로 나타낸 것이 Fig.
9로 스케일링하였으며, 은닉층의 개수는 문제의 특성에 맞게 조정하였다. 또한 역전파 학습 알고리즘의 향상을 위해 모멘텀과 적응 학습률을 이용하였다.
본 연구에서는 순차적 실험계획법과 인공신경망을 혼합한 최적화 알고리즘을 제한조건이 없는 수학예제와 구조물 문제에 적용하여 다음과 같은 결론을 얻었다.
본 연구에서는 활성화 함수로 시그모이드(sigmoid) 함수를 사용하였고, 입・출력을 0.1~0.9로 스케일링하였으며, 은닉층의 개수는 문제의 특성에 맞게 조정하였다. 또한 역전파 학습 알고리즘의 향상을 위해 모멘텀과 적응 학습률을 이용하였다.
)는 인자의 상한 값에 수렴하는것을 알 수 있다. 이러한 결과의 원인은 앞의 예제에서와 같이 인자에 대한 수준의 범위가 넓게 선정되어 구성된 근사모델의 적합도가 낮아진 것으로 판단되며, 따라서 본 저자들의 선행연구⁽¹⁴⁾에서는 근사최적해를 얻기 위하여 시행착오에 의한 실험계획법을 반복 적용하여 19.03mm(횡방향 리브 간격), 0.85mm(횡방향 리브 두께), 0.88mm(종방향 리브 두께)를 각각 도출하였다.
제시된 알고리즘의 평가를 위하여 제한조건이 없는 수학함수와 구조물 문제에 대하여 최적화를 수행하였다.
따라서 본 연구에서는 3수준의 직교배열표를 이용한 실험결과에 대하여 평균분석을 통해 최적수준을 선정하고, 도출된 최적수준을 기준으로 축소된 설계영역에 대한 새로운 수준 값을 선정하여 행렬실험과 평균분석의 과정을 반복 적용하는 개념인 순차적 실험계획법(sequential design of experiments, SDOE)을 제안하고자 한다. 제안된 방법은 비선형성이 높은 문제에 대하여 전사(mapping) 능력이 우수하다고 알려진 인공신경망(Artificial Neural Network, ANN)과 혼합함으로써, 인자의 하한 또는 상한에 걸리지 않는 근사최적해를 체계적인(systematic) 반복과정에 의해 도출할 수 있게 된다. 그러므로 이를 수학적인 예제와 구조물 문제에 적용함으로써 실용성을 확인하고자 한다.
5.2 구조물 문제

제안된 알고리즘의 공학문제에 대한 적용성 검토를 위하여 실험계획법을 이용한 선행연구⁽¹⁴⁾에 순차적 실험계획법을 적용하여 기존 연구결과와 비교 검토하고자 한다.
한편, Table 4는 본 연구에서 제안한 순차적 실험계획법(SDOE)에 의한 결과를 나타낸 것이며, 최종적으로 얻어진 설계영역에 대하여 Fig. 3과 같이 인공신경망을 이용하여 학습하였다.
여기서, 활성화 함수 f(net)는 신경세포의 반응 여부를 결정하는 역할을 한다. 현재 제안된 다양한 신경망 모델은 계층 수, 출력 형태, 데이터 유형, 학습 방법 그리고 활성화 함수와 같은 기준에 따라 분류할 수 있는데, 본 연구에서는 신경망 모델 중 다층 및 순환 신경망인 역전파(back propagation) 인공신경망을 사용하였다. 역전파 학습 알고리즘은 두 단계의 순서에 의해 이루어진다고 볼 수 있는데, 첫 번째 단계에서는 입력을 네트워크에 제시하면 이것이 네트워크의 전방향으로 전파되어 출력을 내고, 이 출력과 목표출력과의 차이에 미분계수를 곱하여 출력 뉴런에 대한 오차를 계산한다.

대상 데이터

)에 대해서만 순차적 실험계획법을 적용하였다. Fig. 8은 도출된 최종영역에 대한 인공신경망(ANN)의 학습결과이며, 목적함수를 최소로 하는 설계변수 탐색을 위하여 x₁은 15~25를 21등분, x₂는 0.8~1.2를 5등분, x₃는 0.8~1.2를 5등분으로 분할하여 총 525개의 실험데이터를 구성하였다. Fig.
상기와 같이 구성된 인공신경망을 이용하여 목적함수를 최소로 하는 설계변수 탐색을 위하여 x₁, x₂의 설계영역(1.75~2.25)을 0.05간격으로 분할하여 총 121개의 실험데이터를 구성하였고, 인공신경망에 적용한 결과를 Fig. 4에 나타내었다. 적용 결과 x₁=1.

데이터처리

이러한 직교배열표를 이용한 실험결과에 대한 분석방법으로는 분산분석(analysis of variance, ANOVA), 평균분석(analysis of means, ANOM) 등이 많이 활용되며, 본 연구에서는 실험결과에 대한 최적수준 선정을 위하여 평균분석을 적용하였다. 평균분석은 Table 1과 같이 3인자(A, B, C) 3수준에 대한 최소 실험계획인 L₉(3⁴)을 가정하여 실험을 수행하고, 각 인자의 수준에 대한 영향 파악을 위하여 식 (1)의 예처럼 A인자의 1수준에 대한 평균값(#)을 얻었다.

성능/효과

(1) 초기 설계영역에 대한 실험계획법과 반응표면법에 의한 최적화 수행 결과는 인자의 상한 값에 수렴하거나(수학예제2, 구조물문제) 엄밀 해와 큰 차이를 보였다(수학예제1).
(2) 순차적 실험계획법과 인공신경망을 혼합한 새로운 알고리즘을 적용하면 인자 자체가 가지는 제한조건(side constraint)에 걸리지 않는 근사최적해가 얻어짐을 확인하였다.
(3) 구조물 문제의 경우 시간비용의 대부분을 차지하는 해석횟수는 본 연구에서 제안한 방법이 시행착오에 의한 실험계획법을 반복 적용한 선행연구⁽¹⁴⁾보다 감소하는 경향을 보였다. 이를 통해 평균분석에 기초한 체계적인 반복과정의 유용성을 알 수 있었다.
이는 수학적인 엄밀 해와 매우 유사한 값이며, Table 5는 근사모델 구성에 필요한 두 방법의 함수비용을 비교한 것이다. 상기의 결과를 요약하면 SDOE와 ANN을 혼합한 방법이 해의 정확성 면에서는 우수하지만, 함수비용은 상대적으로 증가하는 것을 알 수 있다.
(5) 종료조건 : 순차적 실험계획법의 종료조건은 인공신경망(ANN)을 이용한 해 탐색이 가능하도록 좁혀진 설계영역이 얻어진 경우이다. 이에 대해서는 5장의 예제 문제를 통하여 구체적으로 언급하겠지만, 수학적인 예제와 구조물 문제를 통하여 3~4회 반복과정을 거치면 해 탐색에 적합한 설계영역이 얻어지는 것을 확인하였다.
우선, 제안된 알고리즘의 검토에 앞서 기존의 실험계획법과 반응표면법을 이용하여 주어진 설계영역에 대하여 최적화를 수행하였고, 그 결과를 Table 3에 정리하였다. 최적화 결과를 살펴보면 설계변수와 목적함수 모두 수학적인 엄밀해와 큰 차이를 가지고 수렴함을 알 수 있다.

후속연구

이러한 결과의 원인은 크게 두 가지이며, (1) 설계자에 의하여 선정된 인자의 수준이 적절하지 않은 경우 (2) 구성된 근사모델의 적합도가 낮아 실제 값을 정확히 모사하지 못하는 경우이다. 본 예제의 경우에는 인자에 대한 수준의 범위가 넓게 선정되어 구성된 근사모델의 적합도가 낮아진 것이 원인으로 판단되며, 따라서 이를 개선하기 위한 경험적인 지식이 필요하다.

질의응답

핵심어	질문	논문에서 추출한 답변
	근사최적화 기법이란?	이와 같은 문제점을 극복하기 위하여 1970년대에 도입된 방법이 근사최적화 기법(approximate optimization method)이다. 이 방법은 상대적으로 큰 비중을 차지하는 해석비용 저감을 위하여 근사모델(approximate model) 구성에 필요한 최소한의 해석만을 수행하고, 실제 최적화 과정에는 구성된 모델을 이용함으로써 근사적으로 최적점을 찾아가는 기법이다. 이의 대표적인 예가 실험계획법(design of experiments, DOE)과 반응표면법(response surface method, RSM)을 이용하는 것이며, 상기의 기법을 활용한 다수의 연구가 수행되어 왔다.
	최적설계란?	최적설계는 설계사양을 수학적 모델로 구성하고 수학적인 방식에 의해 설계치를 구하는 자동화 기법이다. 즉, 시스템 성능에 영향을 미치는 주요 성능 인자들과 요구사항을 목적함수와 구속조건으로 정식화하여, 구속조건을 만족하면서 목적함수를 최대화 또는 최소화하는 설계인자를 도출하는 기술이다.(1~3)
	직교배열표를 이용한 실험결과에 대한 분석방법으로는 무엇이 많이 활용되는가?	이러한 직교배열표를 이용한 실험결과에 대한 분석방법으로는 분산분석(analysis of variance, ANOVA), 평균분석(analysis of means, ANOM) 등이 많이 활용되며, 본 연구에서는 실험결과에 대한 최적수준 선정을 위하여 평균분석을 적용하였다. 평균분석은 Table 1과 같이 3인자(A, B, C) 3수준에 대한 최소 실험계획인 L9(34)을 가정하여 실험을 수행하고, 각 인자의 수준에 대한 영향 파악을 위하여 식 (1)의 예처럼 A인자의 1수준에 대한 평균값(#)을 얻었다.

참고문헌 (14)

Arora, J. S., 1989, Introduction to Optimum Design, McGraw-Hill, New York
Haug, E. J. and Arora, J. S., 1979, Applied Optimal Design, John Wiley & Sons, Inc., New York
Vanderplaats, G. N., 1984, Numerical Optimization Techniques for Engineering Design, McGraw-Hill, New York
Haftka, R. T., Gurdal, Z. and Kamat, M., 1990, Elements of Structural Optimization, Kluwer Academic Publishers, Dordrecht
Kirsch, U., 1981, Optimum Structural Design, McGraw-Hill, New York
Kim, C. W. and Park, T. W., 1994, 'Optimal Design of Mechanisms Using a Least Experimental Plan Method,' Trans. of the KSME(A), Vol. 18, No. 11, pp.2883-2893
Kim, S. J, Park, C. J. and Park, T. W., 1996, 'Suspension Parameter Design Using a Design of Experiments,' Trans. of the KSAE, Vol. 4, No. 1, pp.16-27
Baek, S. H., Lee, D. W., Lee, K. Y., Cho, S. S. and Joo, W. S., 2002, 'Application of Sequential Quadratic Programming on Multi-objective Optimization Using the Stochastic Method,' Spring conference proceedings of the KSME, pp. 954-961
Park, S. H., 2006, Design of Experiments, Min Young Inc., Seoul
Phadke, M. S., 1989, Quality Engineering Using Robust Design, Prentice Hall, New Jersey
Rumelhart, D. F., Hinton, G. E. and Williams, R. J., 1986, 'Learning Internal Representations by Error Propagation,' In Parallel Distributed Processing : Exploration in the Micro-Structure of Cognition, Vol. 1, pp.318-362
Reklaitis, G. V., Ravindran, A., and Ragsdell, K. M., 1983, Engineering Optimization Methods and Applications, John Wiley & Sons, Inc., New York, pp. 123-124
Hock, W. and Schittkowski, K., 1981, Lecture Notes in Economics and Mathematical Systems, Springer-Verlag, New York
Kim, J. M., Lee, J. H., Chun, J. H., Bae, C. H., Hong, H. S. and Suh, M. W., 2007, 'Optimal Rib Structure Design of a B-pillar Trim for Occupant Head Protection,' Spring conference proceedings of the KSAE, Vol. 3, pp.1332-1337

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증