[논문]인공 신경망에서 은닉 유닛 명확화를 이용한 효율적인 규칙추출 방법

이헌주; 김현철

인공 신경망에서 은닉 유닛 명확화를 이용한 효율적인 규칙추출 방법
A Efficient Rule Extraction Method Using Hidden Unit Clarification in Trained Neural Network 원문보기

컴퓨터교육학회논문지 = The Journal of Korean Association of Computer Education, v.21 no.1, 2018년, pp.51 - 58

이헌주 (고려대학교 정보대학 컴퓨터학과) , 김현철 (고려대학교 정보대학 컴퓨터학과)

초록
AI-Helper

인공 신경망은 최근 다양한 분야에서 뛰어난 성능을 보여주고 있다. 하지만 인공 신경망이 학습한 지식이 정확히 어떤 내용인지를 사람이 파악하기 어렵다는 문제점이 존재하는데, 이를 해결하기 위한 방법 중 하나로 학습된 인공 신경망에서 규칙을 추출하는 방법들이 연구되고 있다. 본 연구에서는 학습된 인공 신경망으로부터 규칙을 추출하는 방법 중 하나인 ordered-attribute search(OAS) 알고리즘을 사용하여 인공 신경망으로부터 규칙을 추출해보고, 추출된 규칙을 개선하기 위해 규칙들을 분석하였다. 그 결과로 은닉 층의 출력값 분포가 OAS 알고리즘을 이용해 추출된 규칙의 정확도에 영향을 주는 것을 파악하였고, 은닉 유닛 명확화 기법을 통해 은닉 층 출력값을 이진화하여 효율적인 규칙을 추출할 수 있음을 제시하였다.

Abstract ▼ AI-Helper

Recently artificial neural networks have shown excellent performance in various fields. However, there is a problem that it is difficult for a person to understand what is the knowledge that artificial neural network trained. One of the methods to solve these problems is an algorithm for extracting rules from trained neural network. In this paper, we extracted rules from artificial neural networks using ordered-attribute search(OAS) algorithm, which is one of the methods of extracting rules, and analyzed result to improve extracted rules. As a result, we have found that the distribution of output values of the hidden layer unit affects the accuracy of rules extracted by using OAS algorithm, and it is suggested that efficient rules can be extracted by binarizing hidden layer output values using hidden unit clarification.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구에서는 decompositional approach 중 하나인 ordered-attribute search(OAS) 알고리즘[3]을 사용하였을 때 어떠한 규칙이 나오는지 살펴보고 그 결과를 향상시킬 방안에 대해 조사하였다. OAS 알고리즘과 같은 decompositional approach의 단점 중 하나가 은닉 유닛의 활성화 함수인 sigmoid를 통해 나온 출력값을 이진화 하는 과정에서 정확도가 떨어질 수 있다는 것인데, 본 연구에서는 은닉 유닛의 출력값을 분석하여 이에 대해 명확하게 파악을 해보고, 해결 방안으로 구조적 학습법 중 은닉 유닛의 명확화 기법[4]을 적용하여 OAS 알고리즘의 결과에 어느 정도의 향상이 발생하는지를 실험을 통해 확인하였다.
본 연구에서는 실험을 위해 비교적 간단한 공개 데이터인 IRIS 도메인을 적용하였다. 간단한 데이터 셋을 사용한 이유는 규칙추출 알고리즘인 OAS의 계산 복잡도가 높아 복잡한 데이터 셋을 사용했을 때 결과가 나오기까지 시간이 오래 걸리는 문제점이 있고, 인공 신경망에 은닉 유닛 명확화 기법을 적용했을 때 OAS 알고리즘을 통한 규칙추출에 어떠한 영향이 발생하는지를 확인 하는 것이 이 연구의 주 목적이기 때문에 간단한 데이터를 사용해 실험을 진행하였다.
그리고 이 문제를 해결하기 위한 방법을 찾기 위해 은닉 유닛 명확화 기법을 사용해 인공 신경망을 추가로 학습하였을 때, 은닉 층 출력값의 결과가 어떻게 변화하는지 와 규칙의 품질이 개선이 되는지에 대한 실험을 진행하였다. 그 결과로 은닉 유닛 명확화 기법이 은닉 유닛으로부터 나오는 출력값을 완전 활성화 혹은 완전 비활성화에 가까운 값으로 만들어, 더욱 명확하게 이진화 시킬 수 있었고, 그로 인해 불필요한 규칙의 개수는 줄이면서 더욱 정확한 규칙을 만들어 낼 수 있었다.
본 연구에서는 decompositional approach 중 하나인 ordered-attribute search(OAS) 알고리즘[3]을 사용하였을 때 어떠한 규칙이 나오는지 살펴보고 그 결과를 향상시킬 방안에 대해 조사하였다. OAS 알고리즘과 같은 decompositional approach의 단점 중 하나가 은닉 유닛의 활성화 함수인 sigmoid를 통해 나온 출력값을 이진화 하는 과정에서 정확도가 떨어질 수 있다는 것인데, 본 연구에서는 은닉 유닛의 출력값을 분석하여 이에 대해 명확하게 파악을 해보고, 해결 방안으로 구조적 학습법 중 은닉 유닛의 명확화 기법[4]을 적용하여 OAS 알고리즘의 결과에 어느 정도의 향상이 발생하는지를 실험을 통해 확인하였다.
본 연구에서는 인공 신경망에 OAS 알고리즘을 적용해 만들어진 규칙을 분석해보고, 그 결과가 은닉 유닛 명확화 알고리즘을 통해 향상되는지를 확인하기 위해 다음과 같은 절차를 통해 연구를 진행하였다.
본 연구에서는 인공 신경망을 사람이 이해할 수 있는 형태의 규칙으로 만들어 주는 규칙추출 알고리즘 중 하나인 OAS 알고리즘을 사용하였을 때의 결과에 대해 살펴보았다. OAS 알고리즘을 통해 학습된 인공 신경망으로부터 규칙을 추출해보고, 그 결과 중 정확도가 떨어지는 규칙의 특징을 분석하였다.
위 실험 결과로 은닉 층 출력값이 규칙의 정확도에 영향을 주는 것을 확인하였고, 이 부분을 개선하는 것이 규칙추출에 있어 중요한 부분임을 알 수 있었다. 이제 이 문제점을 개선해 보기 위해 은닉 함수 명확화를 적용하는 실험을 진행하였다. 앞에서 학습한 인공 신경망에 추가로 2000 epoch를 [그림 2]에 있는 식을 적용하여 학습 시켜 은닉 유닛 명확화를 진행하였다.
본 연구의 향후 계획은 크게 2가지이다. 첫 번째로는 본 연구에서는 하나의 은닉 층을 갖고 실험을 하였는데, 향후에는 더욱 깊은 은닉 층을 갖고 있는 인공 신경망의 규칙을 추출하는 데에도 실험을 해보고 이에 대한 개선 방향을 찾아보고자 한다. 두 번째로는 본 연구에서는 OAS 알고리즘과 은닉 유닛 명확화 알고리즘을 갖고 실험을 진행하였었는데, 더 다양한 알고리즘 조합에 대한 실험도 진행하여 개선 가능성을 연구할 계획이다.

가설 설정

1. 인공 신경망의 개별 유닛의 수준에서 중간 규칙을 추출한다.

제안 방법

본 연구에서는 인공 신경망을 사람이 이해할 수 있는 형태의 규칙으로 만들어 주는 규칙추출 알고리즘 중 하나인 OAS 알고리즘을 사용하였을 때의 결과에 대해 살펴보았다. OAS 알고리즘을 통해 학습된 인공 신경망으로부터 규칙을 추출해보고, 그 결과 중 정확도가 떨어지는 규칙의 특징을 분석하였다. 그 결과 정확도가 떨어지는 규칙에 해당하는 데이터가 학습된 인공 신경망을 통과할 때 각 은닉 층 출력값의 분포가 0.
그다음으로는 비용함수의 페널티 항목 가중치인 매개변수 c값을 변화시켜 가면서 실험을 하여 추출된 규칙 개수와 정확도가 c값에 따라 어떻게 변화하는지를 살펴보았다. [그림 7]의 실험 결과를 살펴보면 매개변수 c가 0인 경우는 은닉 유닛 명확화를 적용하지 않았을 때의 값인데 c가 조금씩 증가할수록 규칙의 개수가 점차 줄어드는 것을 그래프를 통해 확인할 수 있었다.
본 연구에서 사용한 OAS 알고리즘 역시 decompositional approach를 기반으로 만들어진 알고리즘이다. 기존의 다른 decompositional approach가 갖는 문제점 중 하나로 계산하는데 비용이 많이 들고 규칙 검색 공간이 입력 속성의 개수에 따라 지수적으로 증가하는 문제점이 있었는데, OAS 알고리즘에서는 규칙 검색 공간을 줄이고 계산적으로 효율적인 방법을 제안하였다.
네 번째로, 은닉 유닛 명확화 기법을 적용하여 은닉 층 출력값과 규칙의 결과가 어떻게 향상되는지 확인하였다.
두 번째로, IRIS 데이터를 학습시키기 위해 입력 층, 한 개의 은닉 층, 출력 층으로 구성된 인공 신경망을 구성하였다. 인공 신경망은 <표 2> 에서처럼 입력 층은 이산화된 12개의 속성을 입력값으로 갖기 위해 12개의 노드로 구성이 되고, 은닉 층은 4개의 노드, 출력 층은 3개의 노드로 구성이 되었다.
본 연구에서는 실험을 위해 비교적 간단한 공개 데이터인 IRIS 도메인을 적용하였다. 간단한 데이터 셋을 사용한 이유는 규칙추출 알고리즘인 OAS의 계산 복잡도가 높아 복잡한 데이터 셋을 사용했을 때 결과가 나오기까지 시간이 오래 걸리는 문제점이 있고, 인공 신경망에 은닉 유닛 명확화 기법을 적용했을 때 OAS 알고리즘을 통한 규칙추출에 어떠한 영향이 발생하는지를 확인 하는 것이 이 연구의 주 목적이기 때문에 간단한 데이터를 사용해 실험을 진행하였다.
앞에서 언급한 바와 같이 학습된 인공 신경망의 각 노드의 출력값을 명확하게 이진화 시킬 수없는 문제가 존재하는데, 본 연구에서는 이를 해결하기 위해 은닉 유닛 명확화 알고리즘[그림 2]을 적용하여 이 문제의 개선을 시도하였다. 은닉 유닛 명확화 알고리즘은 구조적 학습(structural learning with forgetting)[4]에서 언급된 3가지 알고리즘 중 하나로 은닉 유닛의 출력값이 최대한 활성화되거나 최대한 비활성화 되는 방향으로 인공 신경망을 학습해주는 알고리즘이다.
이제 이 문제점을 개선해 보기 위해 은닉 함수 명확화를 적용하는 실험을 진행하였다. 앞에서 학습한 인공 신경망에 추가로 2000 epoch를 [그림 2]에 있는 식을 적용하여 학습 시켜 은닉 유닛 명확화를 진행하였다. 그 결과 [그림 6]과 같이 은닉 층 출력값의 분포가 변화하였다.
인공 신경망은 <표 2> 에서처럼 입력 층은 이산화된 12개의 속성을 입력값으로 갖기 위해 12개의 노드로 구성이 되고, 은닉 층은 4개의 노드, 출력 층은 3개의 노드로 구성이 되었다. 은닉 층과 출력 층의 활성함수는 sigmoid를 사용하였고, 비용함수로는 크로스 엔트로피를 사용하였다.
이번에는 위와 반대되는 경우를 살펴보기 위해 정확도가 100%인 규칙도 살펴보았다.
첫 번째로, IRIS 데이터에 OAS 알고리즘을 적용하기 위해 처럼 연속된 값을 갖는 입력속성을 3개의 간격을 갖는 속성으로 이산화 시켜, 총 12개의 속성을 갖는 데이터로 변환하였다[3].
학습한 인공 신경망에 OAS 알고리즘을 적용하여 규칙을 추출하는 실험을 진행하였다. 총 100회의 실험을 반복하였고, 반복 실험한 결과의 평균을 구하였다.

데이터처리

<표 3>에 표기된 규칙은 OAS 알고리즘을 IRIS 도메인에 적용하여 If-Then 규칙으로 추출한 결과 중 일부이다. 위의 결과를 좀 더 개선할 방안을 찾아보기 위해 추출된 규칙들을 정확도가 높은 것과 떨어지는 것으로 분류해 분석을 시도하였다. 먼저 정확도가 떨어지는 규칙부터 분석을 진행하였는데, 아래에 표시된 규칙은 정확도가 20%에 불과한 규칙이다.
학습한 인공 신경망에 OAS 알고리즘을 적용하여 규칙을 추출하는 실험을 진행하였다. 총 100회의 실험을 반복하였고, 반복 실험한 결과의 평균을 구하였다. 그 결과로 평균 82.

성능/효과

OAS 알고리즘을 통해 학습된 인공 신경망으로부터 규칙을 추출해보고, 그 결과 중 정확도가 떨어지는 규칙의 특징을 분석하였다. 그 결과 정확도가 떨어지는 규칙에 해당하는 데이터가 학습된 인공 신경망을 통과할 때 각 은닉 층 출력값의 분포가 0.3^~0.7사이에 많이 존재한다는 결과를 얻을 수 있었다. 이러한 중간 값이 많이 존재한다는 것은 출력값의 이진화가 잘 되지 않아 OAS 알고리즘을 사용해 규칙을 생성할 때 문제를 일으킬 가능성이 있다고 볼 수 있다.
그리고 이 문제를 해결하기 위한 방법을 찾기 위해 은닉 유닛 명확화 기법을 사용해 인공 신경망을 추가로 학습하였을 때, 은닉 층 출력값의 결과가 어떻게 변화하는지 와 규칙의 품질이 개선이 되는지에 대한 실험을 진행하였다. 그 결과로 은닉 유닛 명확화 기법이 은닉 유닛으로부터 나오는 출력값을 완전 활성화 혹은 완전 비활성화에 가까운 값으로 만들어, 더욱 명확하게 이진화 시킬 수 있었고, 그로 인해 불필요한 규칙의 개수는 줄이면서 더욱 정확한 규칙을 만들어 낼 수 있었다. 이러한 결과들을 바탕으로 은닉 유닛 명확화를 사용해 인공 신경망을 추가로 학습하는 경우 OAS 알고리즘으로부터 규칙을 효율적으로 추출할 수 있음을 확인할 수 있었고, 인공 신경망이 좀 더 해석하기 쉬운 형태로 학습된다는 것을 확인할 수 있었다.
총 100회의 실험을 반복하였고, 반복 실험한 결과의 평균을 구하였다. 그 결과로 평균 82.91개의 규칙이 추출되었으며, 추출된 규칙은 0.967의 정확도를 나타내었다.
세 번째로, OAS 알고리즘을 적용하여 학습된 인공 신경망으로부터 규칙을 추출해보고, 은닉 층 출력값 분석을 통해 그 규칙의 정확도를 떨어뜨리는 원인을 확인하였다.
위 결과들을 좀 더 정확하게 확인해보기 위해 정확도가 75% 미만인 모든 규칙들에 해당하는 데이터가 인공 신경망을 통과할 때의 은닉 층 출력 값과 그와 반대 경우의 출력값을 각각 뽑아 분포로 나타내어본 결과 [그림 4][그림 5] 과 같은 결과를 얻을 수 있었다.
위 실험 결과로 은닉 층 출력값이 규칙의 정확도에 영향을 주는 것을 확인하였고, 이 부분을 개선하는 것이 규칙추출에 있어 중요한 부분임을 알 수 있었다. 이제 이 문제점을 개선해 보기 위해 은닉 함수 명확화를 적용하는 실험을 진행하였다.
이 실험 결과로 은닉 층의 출력값이 명확하게 이진화 되지 않는 경우 잘못된 규칙을 뽑아낼 확률이 높다는 것을 확인할 수 있었고, 반대의 경우에는 정확도가 높은 규칙을 뽑아내는 것을 확인할 수 있었다.
[그림 8]을 살펴보면 은닉 유닛 명확화를 적용한 경우와 그렇지 않은 경우를 비교했을 때 적용한 경우가 오히려 정확도가 증가하는 것을 확인할 수 있었다. 이 실험 결과를 바탕으로 OAS 알고리즘을 사용할 때 은닉 유닛 명확화를 통해 추가 학습을 시키는 경우 더 정확하고 좋은 규칙을 만들 수 있다는 것을 실험 결과를 통해 확인 할 수 있었다.
그 결과로 은닉 유닛 명확화 기법이 은닉 유닛으로부터 나오는 출력값을 완전 활성화 혹은 완전 비활성화에 가까운 값으로 만들어, 더욱 명확하게 이진화 시킬 수 있었고, 그로 인해 불필요한 규칙의 개수는 줄이면서 더욱 정확한 규칙을 만들어 낼 수 있었다. 이러한 결과들을 바탕으로 은닉 유닛 명확화를 사용해 인공 신경망을 추가로 학습하는 경우 OAS 알고리즘으로부터 규칙을 효율적으로 추출할 수 있음을 확인할 수 있었고, 인공 신경망이 좀 더 해석하기 쉬운 형태로 학습된다는 것을 확인할 수 있었다.

후속연구

첫 번째로는 본 연구에서는 하나의 은닉 층을 갖고 실험을 하였는데, 향후에는 더욱 깊은 은닉 층을 갖고 있는 인공 신경망의 규칙을 추출하는 데에도 실험을 해보고 이에 대한 개선 방향을 찾아보고자 한다. 두 번째로는 본 연구에서는 OAS 알고리즘과 은닉 유닛 명확화 알고리즘을 갖고 실험을 진행하였었는데, 더 다양한 알고리즘 조합에 대한 실험도 진행하여 개선 가능성을 연구할 계획이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	인공 신경망의 문제점을 해결하기 위한 방법은?	이와 같은 인공 신경망의 문제점을 해결하기 위한 방법 중 하나로 인공 신경망으로부터 인간이 이해할 수 있는 형태의 규칙을 추출하는 방법 들이 고안되었다. 규칙추출(rule extraction)은 decompositional/pedagogical/eclectic 총 3가지 접근법을 통해 주로 이루어져 왔다[1][2].
	OAS 알고리즘을 사용해 규칙을 생성할 때 발생하는 문제를 해결하기 위한 실험을 진행한 결과는?	그리고 이 문제를 해결하기 위한 방법을 찾기 위해 은닉 유닛 명확화 기법을 사용해 인공 신경망을 추가로 학습하였을 때, 은닉층 출력값의 결과가 어떻게 변화하는지 와 규칙의 품질이 개선이 되는지에 대한 실험을 진행하였다. 그 결과로 은닉 유닛 명확화 기법이 은닉 유닛으로부터 나오는 출력값을 완전 활성화 혹은 완전 비활성화에 가까운 값으로 만들어, 더욱 명확하게 이진화 시킬 수 있었고, 그로 인해 불필요한 규칙의 개수는 줄이면서 더욱 정확한 규칙을 만들어 낼 수 있었다. 이러한 결과들을 바탕으로 은닉 유닛 명확화를 사용해 인공 신경망을 추가로 학습하는 경우 OAS 알고리즘으로부터 규칙을 효율적으로 추출할 수 있음을 확인할 수 있었고, 인공 신경망이 좀 더 해석하기 쉬운 형태로 학습된다는 것을 확인할 수 있었다.
	인공 신경망의 문제점은?	하지만 이러한 뛰어난 성능에도 불구하고 인공 신경망이 학습한 지식이 어떠한 내용인지를 사람이 이해하기 어려워, 의사결정 오류가 치명적인 결과를 가져올 수 있는 높은 신뢰도 검증을 요구 하는 분야에서 사용하기에는 아직 위험성이 있다는 문제점이 있다[1].

참고문헌 (12)

T. Hailesilassie. (2016). Rule extraction algorithm for deep neural networks: A review. International Journal of Computer Science and Information Security, 14, 7, p. 376.
Andrews, R. Diederich, J. & Tickle, A. B. (1995). Survey and critique of techniques for extracting rules from trained artificial neural networks. Knowledge-Based System, 8(6), 373-389.

상세보기
Kim H. (2000). Computationally Efficient Heuristics for If-Then Rule Extraction from Feed-Forward Neural Networks. Lecture Notes in Computer Science, vol 1967, Springer, Berlin, Heidelberg.
Ishikawa, M. (1996). Structural Learning with Forgetting. Neural Networks, vol.9, no.3, 509-521.

상세보기
L. M. Fu. (1994). Rule Generation from Neural Networks. Systems, Man and Cybernetics, 24(8), 1114-1124.

상세보기
L. M. Fu. (1991). Rule Learning by Searching on Adapted Nets. AAAI, 590-595.
L. M. Fu. (1993). Knowledge-based connectionism for revising domain theories. IEEE Transactions on Systems, Man, and Cybernetics 23(1), 173-182.

상세보기
S. Thrun. (1995). Extracting rules from artificial neural networks with distributed representations. Advances in neural information processing systems, 505-512.
I. A. a. J. G. Taha. (1999). Symbolic interpretation of artificial neural network. IEEE Transactions on knowledge and data engineering, 11(3), 448-463.

상세보기
G. P. C. A. a. F. S. G. Schmitz. (1999). ANN-DT: an algorithm for extraction of decision trees from artificial neural networks. IEEE Transactions on Neural Networks, 10(6), 1392-1401.

상세보기
G. G. a. j. W. S. Towell. (1993) Extracting refined rules from knowledge-based neural networks. Machine learning, 13(1), 71-101.

상세보기
R. Setiono, W. K. Leow (2000). FERNN: An algorithm for fast extraction. Applied Intelligence, 12(1-2), 15-25.

저자의 다른 논문 :

LOADING...

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증