선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 그러나 ANFIS에 대한 연구는 광범위한 적용분야에 비해 대부분 제어 및 예측분야에 집중되고 있으며(Bersini and Bontempi, 1997, Malhotra and Malhotra, 2002) 분류문제에 적용된 사례는 찾아보기 힘들다. 따라서 본 연구에서는 ANFIS를 분류 문제에 적용하기 위한 구조를 설계하고 기존의 분류기법과 비교하여 분류 성능을 확인하고자 한다. 분류문제에서는 분류모형을 통해 추론된 결과값이 계급 값 중 한 개를 취하는 것이 일반적이다.
- 본 연구에서는 에 표시된 연구절차에 의해 ANFIS 기반의 분류모형을 설계하고 그 성능을 평가한다.
- 여기서는 추론에 필요한 초기 퍼지규칙의 구조를 생성하는 방법과 퍼지추론 방법 등 ANFIS 기반 분류 모형의 네트워크 구조를 구성하는 각 요소에 대해 설명하기로 한다.
제안 방법
- 첫 번째 데이터 세트는 입력변수가 연속형 값을 취하는 아이리스(Iris) 데이터이고 두 번째 데이터 세트는 이산 변수값을 취하는 균형저울(Balance Scale)에 대한 데이터이다. 각 데이터 세트에 대해 훈련용 데이터와 검증용 데이터로 구분하여 실험을 진행하였다. 학습은 검증용 데이터의 오차(RMSE ; Root Mean Square Error)를 최소로 할 때 까지 반복 수행하였다.
- 의사결정나무분석에 의한 계급값할당 방식은 훈련용 데이터의 대표성이 부족하거나, 입력변수의 목표변수에 대한 설명력이 부족한 경우, 분류정확도를 저하시킬 우려가 있다. 따라서 훈련용 데이터를 이용하지 않고 검증용 데이터만으로 계급값 수만큼을 군집 수로 하는 군집분석을 실시하였다. 이를 위해 검증용 데이터로부터 추론된 ANFIS 추론 값을 입력 변수로하여 계급값 수인 3을 군집의 개수로하는 k-means 분석을 수행하였다.
- 본 연구에서는 ANFIS를 기반으로 분류모형을 설계하고, 이를 분류정확성 관점에서 평가하였다. ANFIS 기반의 분류모형을 설계하기 위해 의사결정나무기법을 이용한 계급값 할당방법과 군집분석을 이용한 계급값 할당방법을 제안하고, 두 가지 데이터 세트에 적용한 실험결과 ANFIS를 기반으로 한 분류모형의 분류정확도가 다른 모형에 비해 높게 나타나는 것을 확인할 수 있었다.
- 그러나 ANFIS 추론의 경우, 최종 결과값이 계급값이 아닌 연속형 변수값을 취하게 되므로 산출된 결과값을 이용하여 적절한 계급 값을 할당하는 과정이 필요하다. 본 연구에서는 의사결정나무기법을 이용하여 계급값을 할당하는 방식과 군집분석을 이용하여 계급값을 할당하는 두 가지 방식을 제안하고 그 성능을 각각 평가한다.
- 여기에서는 ANFIS 학습결과로 구성된 퍼지신경망 모형의 최종 결과값을 이용하여 계급값을 할당하는 방법과 분류모형의 성능을 평가하는 방법을 제안한다.
- ANFIS 기반 분류모형의 분류정확도를 평가하기 위해 다음과 같은 ANFIS 모형을 구성하였다. 우선 입력공간의 분할방법은 차감클러스터링을 선정하였고, 영향반경은 0.3으로 설정하였다. 실험 결과 88회 반복 실험 시 검증용 데이터의 RMSE(Root Mean Square Error)가 0.
- 0을 이용하여 분류 정확도를 평가하였다. 우선 훈련용 데이터를 이용하여 의사결정나무 모형을 구축하였다. 이때, 글로벌 가치치기 방법을 선택하였고, 분기를 위한 최소 레코드 수는 2로 지정하였다.
- 우선 훈련용 데이터를 이용하여 의사결정나무 모형을 구축하였다. 이때, 글로벌 가치치기 방법을 선택하였고, 분기를 위한 최소 레코드 수는 2로 지정하였다. 이렇게 구축된 C5.
- 따라서 최종 계급값을 할당하는 과정이 필요하다. 이를 위해 우선 의사결정나무분석기법에 의한 계급값 할당방법을 적용하여 분류추론을 수행하기로 한다. 제안된 계급값할당 절차를 이용하여 훈련데이터로부터 분류규칙을 추출하면 <그림 8>과 같다.
- 즉 블랙박스모형인 신경망모형과는 달리 퍼지신경망에서는 If-Then 퍼지규칙(Babuška and Verbruggen, 2003)을 생성해주며 신경망의 학습 알고리듬을 적용하여 퍼지 규칙에 사용된 파라미터를 자동으로 조정해 줌으로써 예측성능을 최적화 한다.
- 각 데이터 세트에 대해 훈련용 데이터와 검증용 데이터로 구분하여 실험을 진행하였다. 학습은 검증용 데이터의 오차(RMSE ; Root Mean Square Error)를 최소로 할 때 까지 반복 수행하였다. ANFIS 기반 분류모형의 비교대상으로는 현재 분류문제에 가장 폭넓게 적용되고 있는 C5.
대상 데이터
- ANFIS 기반 분류모형의 분류정확성을 평가하기 위해 두 개의 데이터 세트를 활용하여 실험을 하였다. 첫 번째 데이터 세트는 입력변수가 연속형 값을 취하는 아이리스(Iris) 데이터이고 두 번째 데이터 세트는 이산 변수값을 취하는 균형저울(Balance Scale)에 대한 데이터이다.
- 학습은 검증용 데이터의 오차(RMSE ; Root Mean Square Error)를 최소로 할 때 까지 반복 수행하였다. ANFIS 기반 분류모형의 비교대상으로는 현재 분류문제에 가장 폭넓게 적용되고 있는 C5.0을 사용하였다. ANFIS 수행을 위해서는 MATLAB 7.
- 각 입력변수별 소속 함수 수와 형태를 알고 있다면, 이에 따라 각 변수의 소속 함수를 정의하고 초기 규칙의 구조를 생성한다면 분류 정확성이 더 높아질 것으로 생각할 수 있다. 두 번째 실험에 사용된 데이터는 UCI 리파지토리에 있는 데이터로(Asuncion and Newman, 2007) 저울의 균형(Balance Scale)과 기울어진 방향을 판단하는 심리 실험결과 데이터이다. 이 데이터 세트는 네 개의 입력 속성과 한 개의 균형여부 속성을 포함하고 있다.
- 아이리스 데이터 세트는 UCI 기계학습 리파지토리에 등록되어 있는 데이터 세트로써(Asuncion and Newman, 2007) 패턴인식 또는 분류문제에 가장 널리 알려진 데이터 세트이다. 아이리스 데이터는 세가지의 아이리스 품종을 계급값으로 가지며, 각 계급값 별로 50개씩 총 150개의 레코드로 구성되어 있다. 입력변수는 꽃받침 길이(SL：Sepal length), 꽃받침 넓이(SW：Sepal Width), 꽃잎 길이(PL : Petal Length), 꽃잎 넓이(PW：Petal Width)의 네가지 특성으로 구성되어 있다.
- 이 데이터는 총 625레코드로 구성되어 있다. 목표변수는 세 계급값을 가지며, 이 중 계급값 L과 R이 각 각 전체의 46.
- 84%를 차지하고 있다. 전체 데이터 중 훈련용 데이터는 54%(325개), 검증용 데이터는 46%(300개)가 되도록 랜덤하게 추출하여 실험을 진행하였다.
- ANFIS 기반 분류모형의 분류정확성을 평가하기 위해 두 개의 데이터 세트를 활용하여 실험을 하였다. 첫 번째 데이터 세트는 입력변수가 연속형 값을 취하는 아이리스(Iris) 데이터이고 두 번째 데이터 세트는 이산 변수값을 취하는 균형저울(Balance Scale)에 대한 데이터이다. 각 데이터 세트에 대해 훈련용 데이터와 검증용 데이터로 구분하여 실험을 진행하였다.
데이터처리
- 0을 사용하였다. ANFIS 수행을 위해서는 MATLAB 7.6을 사용하였고, 의사결정나무분석과 군집분석을 수행하기 위해서는 클레멘타인 11.0을 활용하였다.
- 두 번째 실험은 각 입력데이터가 이산값을 취하는 데이터세트를 적용하여 ANFIS 분류모형의 성능을 평가하였다. 입력변수가 이산값을 취하는 데이터를 선정한 이유는 각 입력변수별 소속 함수 수와 형태를 사전에 쉽게 파악할 수 있기 때문이다.
- 먼저 의사결정나무분석 기법 중 하나인 C5.0을 이용하여 분류 정확도를 평가하였다. 우선 훈련용 데이터를 이용하여 의사결정나무 모형을 구축하였다.
- 따라서 훈련용 데이터를 이용하지 않고 검증용 데이터만으로 계급값 수만큼을 군집 수로 하는 군집분석을 실시하였다. 이를 위해 검증용 데이터로부터 추론된 ANFIS 추론 값을 입력 변수로하여 계급값 수인 3을 군집의 개수로하는 k-means 분석을 수행하였다.
이론/모형
- ANFIS 기반 분류모형의 분류정확도를 평가하기 위해 다음과 같은 ANFIS 모형을 구성하였다. 우선 입력공간의 분할방법은 차감클러스터링을 선정하였고, 영향반경은 0.
- ANFIS의 학습과정은 주어진 입력과 출력데이터를 사용하여 출력오차를 최소화하도록 규칙의 조건부 및 결론부 파라미터를 조정해 나가는 것이다. 학습알고리듬은 역전파알고리듬(Back Propagation Algorithm)과 혼합알고리듬(Hybrid Algorithm)이 있는데 본 연구에서는 혼합알고리듬을 사용한다. 혼합알고리듬은 전방향 학습과 역방향 학습으로 구성되는데, 전방향 학습에서는 조건부 파라미터를 고정시키고 결론부 파라미터를 최적화하기 위해 최소자승법(Least-squares Method)을 적용한다.
- 학습알고리듬은 역전파알고리듬(Back Propagation Algorithm)과 혼합알고리듬(Hybrid Algorithm)이 있는데 본 연구에서는 혼합알고리듬을 사용한다. 혼합알고리듬은 전방향 학습과 역방향 학습으로 구성되는데, 전방향 학습에서는 조건부 파라미터를 고정시키고 결론부 파라미터를 최적화하기 위해 최소자승법(Least-squares Method)을 적용한다. 최적의 결론부 파라미터가 발견되면 역방향 학습이 즉시 수행된다.
성능/효과
- 본 연구에서는 ANFIS를 기반으로 분류모형을 설계하고, 이를 분류정확성 관점에서 평가하였다. ANFIS 기반의 분류모형을 설계하기 위해 의사결정나무기법을 이용한 계급값 할당방법과 군집분석을 이용한 계급값 할당방법을 제안하고, 두 가지 데이터 세트에 적용한 실험결과 ANFIS를 기반으로 한 분류모형의 분류정확도가 다른 모형에 비해 높게 나타나는 것을 확인할 수 있었다. ANFIS 기반 분류모형의 단점으로는 입력변수로 목표변수의 카테고리가 잘 설명되지 않는 도메인에 본 방법을 적용할 경우, ANFIS 추론과 계급값 결정의 두 단계를 거치는 동안 노이즈가 많아져서 분류정확도가 저하 될 수 있다는 것이다.
- 3으로 설정하였다. 실험 결과 88회 반복 실험 시 검증용 데이터의 RMSE(Root Mean Square Error)가 0.1059로 가장 낮은 값을 보여주었다(이때 훈련용 데이터의 RMSE는 0.0076였음). <그림 7>은 반복횟수별 훈련용 데이터와 검증용 데이터의 RMSE를 나타낸다.
- 균형저울 데이터에 여러 모형을 적용하여 실험을 한 결과 표3과 같은 결과를 얻었다. <표 3>에 나타난 것과 같이 대부분의 ANFIS 기반 분류모형에서 C5.0보다 10% 이상의 탁월한 분류정확도를 나타내고 있었다. 이는 ANFIS 모형을 구성할 때 소속함수의 형태와 개수 등 초기 규칙구조의 생성에 대한 사전정보가 매우 중요함을 의미한다.
- 0을 이용하여 분류 정확도를 평가하였다. 우선 훈련용 데이터를 이용하여 의사결정나무 모형을 구축한 후 검증용 데이터에 적용한 결과 훈련용 데이터의 정분류율은 89.4%, 검증용 데이터의 정분류율은 74%(일반화를 고려한 의사결정나무모형의 경우, 훈련용 데이터의 정분류율은 84%, 검증용 데이터의 정분류율은 72.66%)로 나타났다.
- 이 규칙을 검증용 데이터의 ANFIS 추론 결과값 (f)에 적용하여 계급값을 할당한 후 분류정확도를 계산한 결과 정분류율은 92%, 오분류율은 8%로 C5.0과 동일한 정확도를 나타냈다.
- 이때, 글로벌 가치치기 방법을 선택하였고, 분기를 위한 최소 레코드 수는 2로 지정하였다. 이렇게 구축된 C5.0모형을 검증용 데이터에 적용한 결과 정분류율은 92%, 오분류율은 8%로 나타났다.<그림 6>은 C5.
- 이상의 결과를 토대로 계급값을 할당한 후 분류 정확도를 계산한 결과 정분류율은 94% 오분류율은 6%로 나타나 C5.0보다 개선된 분류정확도를 나타냈다.
- 입력변수는 꽃받침 길이(SL：Sepal length), 꽃받침 넓이(SW：Sepal Width), 꽃잎 길이(PL : Petal Length), 꽃잎 넓이(PW：Petal Width)의 네가지 특성으로 구성되어 있다. 전체 데이터 중 훈련용 데이터가 67%, 검증용 데이터가 33%가 되도록 사례를 랜덤하게 추출하여 실험을 진행하였다.
후속연구
- 또한 ANFIS 기반의 분류모형은 입력공간의 분할, 소속함수의 형태 결정, 규칙의 구조 결정, 추론 연산방법의 결정, 학습방법과 계수의 결정 등 다양한 요소의 조합을 통해 구축된다. 따라서 실제 문제에 적용하기 위해서는 ANFIS 모형의 특성과 해당 도메인의 데이터 특성을 잘 파악하고 있는 전문가의 도움이 필요할 수도 있다.
- 또한 퍼지신경망은 인간전문가가 사용하는 퍼지용어로 규칙이 기술되기 때문에 인간전문가 지식과의 적절한 통합은 최적화 해에 수렴하는 시간을 단축할 뿐 아니라 분류성능 향상에도 기여할 것으로 보인다. 따라서 인간전문가 지식과 퍼지신경망을 통합하기 위한 인간-기계 상호작용시스템에 대한 연구도 필요할 것으로 판단된다.
- 향후 연구로써 본 연구에서 제안된 분류모형과 평가척도들을 다양한 경영분야의 분류문제에 적용하여 그 유용성을 확인하는 것도 의미 있는 연구가 될 것이다. 또한 퍼지신경망은 인간전문가가 사용하는 퍼지용어로 규칙이 기술되기 때문에 인간전문가 지식과의 적절한 통합은 최적화 해에 수렴하는 시간을 단축할 뿐 아니라 분류성능 향상에도 기여할 것으로 보인다. 따라서 인간전문가 지식과 퍼지신경망을 통합하기 위한 인간-기계 상호작용시스템에 대한 연구도 필요할 것으로 판단된다.
- 향후 연구로써 본 연구에서 제안된 분류모형과 평가척도들을 다양한 경영분야의 분류문제에 적용하여 그 유용성을 확인하는 것도 의미 있는 연구가 될 것이다. 또한 퍼지신경망은 인간전문가가 사용하는 퍼지용어로 규칙이 기술되기 때문에 인간전문가 지식과의 적절한 통합은 최적화 해에 수렴하는 시간을 단축할 뿐 아니라 분류성능 향상에도 기여할 것으로 보인다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.