선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 유독성, 폭발성 등 물질의 특성 등 여러 이유로 자연발화점에 대한 실험을 하기 어려운 경우에 대해 자연발화점을 예측하는 방법이 요구된다. 이 연구에서는 유독성, 폭발성인 물질을 포함하여 실험 데이터를 얻기 어려운 유기물의 자연발화점 실험데이터로부터 자연발화점을 예측하는 PLS와 SVM 모델을 만들고 비교하였다. 두 모델에서 얻어진 결과를 비교하여 다음 결론을 얻었다.
가설 설정
- (ii) SVM에 의한 AAE는 29.11K로 실험데이터의 30K와 유사하였다. 그러나 SVM모델로부터 얻은 상대오차를 그 범위별로 구하였을 때 상대오차가 큰 데이터가 적지 않아 예측방법의 지속적인 개선이 요구되었다.
제안 방법
- 503개 유기물의 자연발화점 데이터 중 80%인 402개를 훈련 데이터로 선택하여 PLS와 SVM 각각에 대해 자연발화점 예측모델을 구성하고 101개 데이터를 테스트 데이터로 하여 그 예측성능을 비교하였다.
- 이런 장점에도 불구하고 경험적 최적화기법이 매우 많은 목적함수 계산횟수를 요구한다는 것은 잘 알려진 단점이다. SVM의 매개변수 최적화에서는 목적함수의 미분값을 얻는 것이 매우 어렵기 때문에이 연구에서는 경험적 최적화기법을 채택하였다. 또한, SVM의 계산시간이 상대적으로 크기 때문에, GA나 SA에 비해 계산시간이 적다고 알려진 PSO를 SVM의 3개 계수를 결정하는 최적화문제에 적용하였다[13].
- 따라서 통계적으로 의미있는 PC수를 찾기 위해 이 연구에서는 교차검증(cross-validation)을 사용하였다. 교차검증은 데이터를 여러 개의 그룹들(이 연구에서는 10개)로 나눈 후에 그룹들 중에서 하나를 제외시킨 데이터 세트를 각각 만든다. 이 데이터 세트들로 각각 PLS 모델을 만든 후에 각 모델을 만들 때 제외된 그룹이각 모델의 검증 그룹이 되어 이 검증 그룹에 대한 Y 변수의 실제 값과 예측값의 차이를 계산한다.
- 이 연구에서는 신뢰할 수 있는 데이터베이스인 DIPPR 801에서 얻은 유기물에 대해 작용기를 입력 변수로 자연발화점을 예측하는 부분최소자승법(PLS, partial least squares)과 SVM모델을 각각 만들고 그 결과를 비교하였다. 또한 SVM의 최적 계수들을 얻기 위해 PSO(particle swarm optimization)를 이용한 최적화를 적용하였다.
- SVM의 매개변수 최적화에서는 목적함수의 미분값을 얻는 것이 매우 어렵기 때문에이 연구에서는 경험적 최적화기법을 채택하였다. 또한, SVM의 계산시간이 상대적으로 크기 때문에, GA나 SA에 비해 계산시간이 적다고 알려진 PSO를 SVM의 3개 계수를 결정하는 최적화문제에 적용하였다[13].
- 이 데이터 세트들로 각각 PLS 모델을 만든 후에 각 모델을 만들 때 제외된 그룹이각 모델의 검증 그룹이 되어 이 검증 그룹에 대한 Y 변수의 실제 값과 예측값의 차이를 계산한다. 모든 데이터 세트에서 얻어진 오차를 합산하여 그 모델의 예측력을 나타내게 되는데, 이 연구에서는 이를 최소화시키는 PC수를 사용하였다.
- 여기서는 c1과 c2를 2, 개체를 20개, 반복횟수를 50으로 하여 SVM의 3개 매개변수를 결정하였다.
- 교차검증은 데이터를 여러 개의 그룹들(이 연구에서는 10개)로 나눈 후에 그룹들 중에서 하나를 제외시킨 데이터 세트를 각각 만든다. 이 데이터 세트들로 각각 PLS 모델을 만든 후에 각 모델을 만들 때 제외된 그룹이각 모델의 검증 그룹이 되어 이 검증 그룹에 대한 Y 변수의 실제 값과 예측값의 차이를 계산한다. 모든 데이터 세트에서 얻어진 오차를 합산하여 그 모델의 예측력을 나타내게 되는데, 이 연구에서는 이를 최소화시키는 PC수를 사용하였다.
- 이 연구에서는 신뢰할 수 있는 데이터베이스인 DIPPR 801에서 얻은 유기물에 대해 작용기를 입력 변수로 자연발화점을 예측하는 부분최소자승법(PLS, partial least squares)과 SVM모델을 각각 만들고 그 결과를 비교하였다. 또한 SVM의 최적 계수들을 얻기 위해 PSO(particle swarm optimization)를 이용한 최적화를 적용하였다.
- 2008년에 Pan 등은 6개의 분자표현자로 90개 성분에 대한 예측모델을 SVM (support vector machine)으로 구축하였다[4]. 이 연구팀에는 2009년 3개의 데이터베이스로부터 얻은 데이터로부터 446개 성분에 대한 자연발화점 데이터를 정리하고, 이 데이터에 대한 예측모델로서 9개의 분자표현자를 입력으로 하는 다중회귀분석(multiple linear regression)과 SVM모델을 제안하였으며, 테스트 성분 90개에 대해 각각 32.7K와 28.88K라는 AAE를 얻었다[5].
대상 데이터
- Lee 등이 인화점 예측에 사용한 65개 작용기와 Albari와 George가 자연발화점 예측에 사용한 58개 작용기를 검토한 후 실험 데이터가 있는 503개 유기물의 작용기를 분석함으로써 Table 2와 같은 59개의 작용기를 독립변수로 선택하였다[9, 3]. 작용기는 ending group 17개, middle group 23개, aliphatic ring group 12개, aromatic ring group 7개로 구분된다.
- 자연발화점에 대한 자료를 많은 데이터베이스, 논문, 핸드북 등에서 찾을 수 있으나 이 연구에서는 미국화학공학회에서 추천되어 가장 신뢰할만한 물성 데이터베이스인 DIPPR 801 (2009년 버전2)의 자연발화점 데이터를 이용하였다[8]. 이 데이터베이스의 1973개 물질 중 유기물은 1765개이며, 자연발화점 데이터가 있는 1141개 유기물 중 자연발화점이 실험에 의해 결정된 것은 503개이다.
- 이 연구에 사용된 PC는 4GB 메모리, Intel Core2 Quad 2.4GHz CPU이며, PLS와 SVM의 계산에 사용된 시간은 각각 1.7초, 9분 1초였다. SVM의 계산 시간이 PLS보다 훨씬 큰 이유는 PLS의 매개변수는 정수인 PC수로 1개이지만 SVM은 매개변수가 3개로 더 많고 그 값이 실수이기 때문이다.
- 자연발화점에 대한 자료를 많은 데이터베이스, 논문, 핸드북 등에서 찾을 수 있으나 이 연구에서는 미국화학공학회에서 추천되어 가장 신뢰할만한 물성 데이터베이스인 DIPPR 801 (2009년 버전2)의 자연발화점 데이터를 이용하였다[8]. 이 데이터베이스의 1973개 물질 중 유기물은 1765개이며, 자연발화점 데이터가 있는 1141개 유기물 중 자연발화점이 실험에 의해 결정된 것은 503개이다.
데이터처리
- SVR에서 사용자가 결정해야 할 매개변수는 비용변수 C, ε-insensitive loss function의 값 ε, RBF의 γ이다. 3개 매개변수의 최적값은 PSO를 이용한 최적화를 통해 계산되었으며, 최적화의 목적함수는 데이터를 10개의 그룹으로 나누는 교차검증을 사용하였다.
- PC가 많아지게 되면 주어진 데이터를 잘 나타낼 수는 있으나 과적합으로 인해 추정오차가 커질 수 있다. 따라서 통계적으로 의미있는 PC수를 찾기 위해 이 연구에서는 교차검증(cross-validation)을 사용하였다. 교차검증은 데이터를 여러 개의 그룹들(이 연구에서는 10개)로 나눈 후에 그룹들 중에서 하나를 제외시킨 데이터 세트를 각각 만든다.
이론/모형
- 대표적 선형 예측법인 PLS 외에도 이 연구에서는 최근 분류 및 예측 분야에서 널리 사용되고 있는 SVM을 이용하였다. SVM은 그룹기여법과 같이 주어진 데이터가 희소하고 차원이 큰 문제를 잘 처리한다는 장점이 있다[11].
- 이 연구에서 사용된 SVM모델은 Chang과 Lin이 Matlab 라이브러리로 개발한 LibSVM 버전2.91로 계산하였다[12].
- 이 연구에서는 K(x,xi) = exp(-γ|x-xi|2 )의 RBF (radial basis function)를 커널 함수로 사용하였다.
성능/효과
- (i) 모든 결과에서 SVM이 PLS에 비해 우수한 예측성능을 보였다. 이 결과를 통해 비선형 예측법인 SVM이 선형예측법인 PLS에 비해 59개 독립변수와 자연발화점의 관계를 더 잘 나타낸다는 것을 확인하였다.
- 503개 데이터 중에서 SVM모델에 의한 예측값 중가장 큰 오차를 보인 유기물은 Benzoyl Chloride로 절대오차로 275K, 상대오차로 76.8%였다. 상대오차를 그 값에 따라 나누어보면 Fig.
- Table 3은 예측 결과를 요약한 것으로, 각각의 결과는 훈련 데이터, 테스트, 전체 데이터의 것을 따로 비교하였다. AAE, R, RMS, 최대오차의 모든 결과에서 SVM이 우수한 성능을 나타내었다. SVM의 AAE 는 29.
- 8%였다. 상대오차를 그 값에 따라 나누어보면 Fig. 2와 같은데 503개 데이터 중 1% 이하의 오차를 나타낸 성분은 11%인 57개, 5% 이하인 성분이 76%인 382개였고 7.2% 정도인 36개가 10%를 넘는 상대오차를 나타내어 전체적으로 오차가 작지 않고 일부 성분의 경우 오차가 매우 크다는 것을 보여준다.
- (i) 모든 결과에서 SVM이 PLS에 비해 우수한 예측성능을 보였다. 이 결과를 통해 비선형 예측법인 SVM이 선형예측법인 PLS에 비해 59개 독립변수와 자연발화점의 관계를 더 잘 나타낸다는 것을 확인하였다.
후속연구
- Table 4는 절대오차가 가장 큰 10개 성분의 결과를 보여주고 있는데 이 10개 성분이 평균 오차에서 10% 이상을 차지하고 있으므로 차후 이 성분들의 오차를 줄이는데 연구를 집중하여야 할 것이다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.