[논문]비선형 패턴 분류를 위한 FPGA를 이용한 신경회로망 시스템 구현

이운규; 김정섭; 정슬

비선형 패턴 분류를 위한 FPGA를 이용한 신경회로망 시스템 구현
Implementation of a Feed-Forward Neural Network on an FPGA Chip for Classification of Nonlinear Patterns 원문보기

電子工學會論文誌. Journal of the Institute of Electronics Engineers of Korea. SD, 반도체, v.45 no.1 = no.367, 2008년, pp.20 - 27

이운규 (도담 시스템) , 김정섭 (BK21 메카트로닉스그룹, 충남대학교) , 정슬 (BK21 메카트로닉스그룹, 충남대학교)

초록
AI-Helper

본 논문에서는 비선형 패턴 분류를 위해 FPGA 칩에 신경회로망을 구현하였다. 병렬처리 연산을 위해 순방향 신경회로망이 구현 되었다. 신경망의 학습을 off-line으로 한 다음에 가중치 값들을 저장하여 사용한다. 예로서, AND와 XOR 논리의 패턴 구분이 수행된다. 실험결과를 통해 FPGA에 구현된 신경회로망이 잘 작동하는 것을 검증하였다.

In this paper, a nonlinear classifier of a feed-forward neural network is implemented on an FPGA chip. The feedforward neural network is implemented in hardware for fast parallel processing. After off line training of neural network, weight values are saved and used to perform forward propagation of neural processing. As an example, AND and XOR digital logic classification is conducted in off line, and then weight values are used in neural network. Experiments are conducted successfully and confirmed that the FPGA neural network hardware works well.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 많은 계산을 요하는 신경회로망 시스템을 병렬 연산이 가능하도록 프로그래밍된 FPGA에 적용함으로써 실시간으로 시스템에 적용이 가능하도록 구현하고자 했다. 실험 결과로 충분히 만족할 정도의 빠른 연산 속도를 보여주었으며, 그 결과 또한 정확했다.
본 논문에서는 이처럼 신경회로망을 FPGA로 구현함으로써 높은 처리 속도와 저가의 신경회로망 시스템을 실현하고자 한다. 간단하게 실험하기 위해 비선형으로 잘 알려진 XOR 논리회로의 패턴인식을 적용하여 보았다.

제안 방법

만일 소수점 이하의 값을 모두 버리고 연산을 하면 최종오차가 지나치게 커지게 된다. 따라서 소수점 값의 연산을 위해 모든 값들은 일정한 값으로 shift시켜 소수점 이하의 값을 정수 값으로 만든 후 연산하는 방식을 택했다. 연산이 완료된 값은 상황에 따라 다시 반대방향으로 shift하여 사용했다.
본 논문에 사용된 신경회로망은 가장 일반적인 형태로 입력층과 은닉층, 그리고 출력층을 가지며 은닉층과 출력층에서 비선형 함수를 사용한다. 그림 1은 본 논문에 사용된 신경회로망의 일반적인 구조를 보여준다.
본 논문에서는 그림 2처럼 2개의 입력을 가진 입력층과, 2개의 뉴론을 가진 은닉층, 그리고 1개의 뉴론을가진 출력층의 형태인 신경회로망을 프로그램하여 그 성능을 시험하였다.
간단하게 실험하기 위해 비선형으로 잘 알려진 XOR 논리회로의 패턴인식을 적용하여 보았다. 우선 컴퓨터에서 비선형 논리회로의 패턴인식을 시뮬레이션으로 수행하여 결과를 얻은 다음, 각 결정된 가중치 값을 FPGA에서 사용하여 신경회로망 구조를 구성하였다. FPGA에 구현된 신경회로망에 입력을 주어 실험결과가 잘 작동하는 것을 확인할 수 있었다.
이 값들을 앞에서 작성한 그림 9의 프로그램에 입력한 후 시뮬레이션을 했다. 입력이 “00”, “01”, “10”, “11”일 때의 출력 결과를 각 논리 연산의 진리표와 비교했다.

대상 데이터

여기에 사용된 CLOCKe 25MHz이다. start, elk이 입력된 후 결과 q[7.

데이터처리

위 프로그래밍 결과를 검증하기 위해 AND연산과 대표적인 비선형 논리 함수인 XOR를 Off-line으로 학습한 시킨 후 그 출력 결과를 확인해 보았다回 각 논리연산의 학습 결과는 그림 10에 나타난다. 학습 완료 후 출력되는 결과에서 약 0.

이론/모형

한다. 간단하게 실험하기 위해 비선형으로 잘 알려진 XOR 논리회로의 패턴인식을 적용하여 보았다. 우선 컴퓨터에서 비선형 논리회로의 패턴인식을 시뮬레이션으로 수행하여 결과를 얻은 다음, 각 결정된 가중치 값을 FPGA에서 사용하여 신경회로망 구조를 구성하였다.

성능/효과

우선 컴퓨터에서 비선형 논리회로의 패턴인식을 시뮬레이션으로 수행하여 결과를 얻은 다음, 각 결정된 가중치 값을 FPGA에서 사용하여 신경회로망 구조를 구성하였다. FPGA에 구현된 신경회로망에 입력을 주어 실험결과가 잘 작동하는 것을 확인할 수 있었다.
했다. 실험 결과로 충분히 만족할 정도의 빠른 연산 속도를 보여주었으며, 그 결과 또한 정확했다. 비록 본 논문에서는 간단한 논리 회로를 실험하였지만, 좀 더 복잡한 시스템에도 이 신경회로망 시스템이 적용하는 것이 가능하다.
학습 결과는 그림 10에 나타난다. 학습 완료 후 출력되는 결과에서 약 0.008 이하의 오차를 두고 수렴하는 것을 볼 수 있었다. 학습이 완료된 후의 가중치 값과 bias 값은 표 4에 나타냈다.

후속연구

실험 결과로 충분히 만족할 정도의 빠른 연산 속도를 보여주었으며, 그 결과 또한 정확했다. 비록 본 논문에서는 간단한 논리 회로를 실험하였지만, 좀 더 복잡한 시스템에도 이 신경회로망 시스템이 적용하는 것이 가능하다. 물론 곱하기 연산 등은 FPGA 의 용량을 증가시키므로 대용량의 Gate 수가 많은 FPGA를 사용해야 한다.
앞으로의 연구로는 복잡한 구조의 역전파 학습 알고리즘을 실시간으로 구현할 수 있도록 신경회로망을 FPGA 칩에 구현하는 것이다.

참고문헌 (9)

J. H. Lee and H. Hashimoto, 'Intelligent Space, its past and future', pp. 126-131, IECON, 1999
유비쿼터스 시스템(특집), 제어 자동화 시스템 공학회 논문지, 11권 12호, 2005
김성수, 정 슬, 'FPGA를 이용한 범용모션 컨트롤러 개발', 제어 자동화 시스템 공학회 논문지, 10권 1호, pp. 73-80, 2005
P. Kollig, B. M. Al-Hashimi, and K. M. Abbott, 'FPGA Implementation of High performance FIR Filters', IEEE Symposium on Circuits and Systems, pp. 2240-2243, 1997
Xinsheng Yu and Don Dent, 'Implementing neural network in FPGAs', Proceedings of IEE, pp. 1-5, 1994
Acosta Gerardo and Tosini Marcelo, 'A Firmware Digital Neural Network for Climate Prediction Applications', Proc. IEEE intelligent Control, pp. 127-131, 2001
Marco Krips, Thomas Lemmert, and Anton Kummert, 'FPGA Impementation of a Neural Network for a Real-Time Hand Tracking System' Proc. IEEE Workshop of Electronic Design, Test and Applications, pp. 1453-1457, 2002
Y. Taright and M. Hubin, 'FPGA Implemneta- tion of a Multilayer Percepttron Neural network using VHDL', Proceedings of ICSP, pp. 1311-1314, 1998
정 슬, '인공 지능 시스템 I,II : 신경회로망 구조 및 사용법', 충남대학교 출판부, 2003

저자의 다른 논문 :

LOADING...

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증