$\require{mediawiki-texvc}$
  • 검색어에 아래의 연산자를 사용하시면 더 정확한 검색결과를 얻을 수 있습니다.
  • 검색연산자
검색연산자 기능 검색시 예
() 우선순위가 가장 높은 연산자 예1) (나노 (기계 | machine))
공백 두 개의 검색어(식)을 모두 포함하고 있는 문서 검색 예1) (나노 기계)
예2) 나노 장영실
| 두 개의 검색어(식) 중 하나 이상 포함하고 있는 문서 검색 예1) (줄기세포 | 면역)
예2) 줄기세포 | 장영실
! NOT 이후에 있는 검색어가 포함된 문서는 제외 예1) (황금 !백금)
예2) !image
* 검색어의 *란에 0개 이상의 임의의 문자가 포함된 문서 검색 예) semi*
"" 따옴표 내의 구문과 완전히 일치하는 문서만 검색 예) "Transform and Quantization"
쳇봇 이모티콘
안녕하세요!
ScienceON 챗봇입니다.
궁금한 것은 저에게 물어봐주세요.

논문 상세정보

FPGA 상에서 은닉층 뉴런에 최적화된 MLP의 설계 방법

MLP Design Method Optimized for Hidden Neurons on FPGA

초록

일반적으로 신경망은 비선형성 문제를 해결하기 위해서 소프트웨어로 많이 구현되었지만, 영상처리 및 패턴인식과 같은 실시간 처리가 요구되는 응용에서는 빠른 처리가 가능한 하드웨어로 구현되고 있다. 다양한 종류의 신경망 중에서 다층 신경망(MLP: multi-layer perceptron)의 하드웨어 설계는 빠른 처리속도와 적은 면적 그리고 구현의 용이성으로 고정소수점 연산을 많이 사용하였다. 하지만 고정소수점 연산을 사용하는 하드웨어 설계는 높은 정확도의 부동소수점 연산을 많이 사용하는 소프트웨어 MLP를 쉽게 적용할 수 없는 문제점을 가진다. 본 논문에서는 높은 정확도와 높은 유연성을 가지는 부동소수점 연산을 사용하면서도 은닉층 뉴런수를 주기(cycle)로 빠르게 수행하는 MLP의 완전 파이프라이닝(fully-pipelining) 설계방법을 제안한다. MLP는 주어진 문제에 의해서 자연스럽게 입력층과 출력층의 구조가 결정되지만, 은닉층 구조는 사용자에 의해서 결정된다. 그러므로 제안된 설계방법은 많은 반복수행이 요구되는 영상처리 및 패턴인식 등의 분야에서 은닉층 뉴런수를 최적화 하여 쉽게 성능 향상을 이룰 수 있다.

Abstract

Neural Networks(NNs) are applied for solving a wide variety of nonlinear problems in several areas, such as image processing, pattern recognition etc. Although NN can be simulated by using software, many potential NN applications required real-time processing. Thus they need to be implemented as hardware. The hardware implementation of multi-layer perceptrons(MLPs) in several kind of NNs usually uses a fixed-point arithmetic due to a simple logic operation and a shorter processing time compared to the floating-point arithmetic. However, the fixed-point arithmetic-based MLP has a drawback which is not able to apply the MLP software that use floating-point arithmetic. We propose a design method for MLPs which has the floating-point arithmetic-based fully-pipelining architecture. It has a processing speed that is proportional to the number of the hidden nodes. The number of input and output nodes of MLPs are generally constrained by given problems, but the number of hidden nodes can be optimized by user experiences. Thus our design method is using optimized number of hidden nodes in order to improve the processing speed, especially in field of a repeated processing such as image processing, pattern recognition, etc.

저자의 다른 논문

참고문헌 (13)

  1. S. Coric, I. Latinovic and A. Pavasovic, 'A Neural Network FPGA Implementation,' In Proceedings of the 5th Seminar on Neural Network Applications in Electrical Engineering, Belgrade, pp.117-120, Sept. 2000 
  2. Nan Bu, Taiji Hamamoto, Toshio Tsuji and Osamu Fukuda, 'FPGA Implementation of a Probabilistic Neural Network for a Bioeletctric Human Interface,' In Proceedings of the 47th IEEE Midwest Symposium on Circuits and Systems, Vol.3, pp.29-32, 2004 
  3. Ossoinig, H., Reisinger, E., Steger, C., Weiss, R., 'Design and FPGA-Implementation of a Neural Network,' In Proceedings of the 7th International Conference on Signal Processing Applications & Technology, pp.939-942, 1996 
  4. Ma Xiaobin, Jm Lianwen, Shen Dongsheng, Ym junxun, 'A Mixed Parallel Neural Networks Computing Unit Implemented in FPGA,' In Proceedings of the 2003 International Conference on Neural Networks and Signal Processing Vol.1, pp.324-327, 2003 
  5. Sameh A,El Kader, M.SAA, 'Generic Floating Point Library for Neuro-Fuzzy Controllers based on FPGA Technology,' In Proceedings of the 4th IEEE International Symposium on Signal Processing and Information Technology, pp.369-372 Dec. 2004 
  6. Hikawa H, 'Pulse Mode Multilayer Neural Network based on Floating Point Number Representation,' In Proceedings of the IEEE International Symposium on Circuits and Systems, Geneva, pp.145-148, May, 2000 
  7. Watkins S.S, Chau PM, 'Reduced-complexity Circuit for Neural Networks,' Electronics Letters, Vol.31, No.19, pp.1644-1646, 1995 
  8. Wust H, Kasper K, Reininger H, 'Hybrid Number Representation for the FPGA-realization of a versatile neuro-processor,' In Proceedings of the 24th Euromicro Conference, Vol.2, pp.694-701, 1998 
  9. Keechul Jung, 'Neural Network-based Text Localization in Color Images,' Pattern Recognition Letters, Vol.22, No.14, pp.1503-1515, 2001 
  10. Keechul Jung and JungHyun Han, 'Hybrid Approach to Efficient Text Extraction in Complex Color Images,' Pattern Recognition Letters, Vol.25, No.6, pp.679-699, Apr., 2004 
  11. ANSI and IEEE, 'IEEE Standard for Binary Floating-Point Arithmetic,' ANSI/IEEE standard, 754-1985, New York, 1985 
  12. Attila Hidvegi, 'Implementation of Neural Networks in FPGA,' http:// www.sysf.physto.se/~attila/ANN.pdf, 2002 
  13. K Basterretxea, J.M Tarela and I. del Campo, 'Approximation of Sigmoid Function and the Derivative for Hardware Implementation of Artificial Neurons,' In Proceedings of the IEE Circuits, Devices and Systems, Vol.151, No.1, pp.18-24, Feb., 2004 

이 논문을 인용한 문헌 (0)

  1. 이 논문을 인용한 문헌 없음

원문보기

원문 PDF 다운로드

  • ScienceON :

원문 URL 링크

원문 PDF 파일 및 링크정보가 존재하지 않을 경우 KISTI DDS 시스템에서 제공하는 원문복사서비스를 사용할 수 있습니다. (원문복사서비스 안내 바로 가기)

상세조회 0건 원문조회 0건

이 논문과 연관된 기능

DOI 인용 스타일