$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

기계학습 및 분류를 위한 SVM 엔진의 FPGA 구현
FPGA Implementation of SVM Engine for Training and Classification 원문보기

전기전자학회논문지 = Journal of IKEEE, v.20 no.4, 2016년, pp.398 - 411  

나원섭 (Dept. of Electronics and Communications Engineering, Kwangwoon University) ,  정용진 (Dept. of Electronics and Communications Engineering, Kwangwoon University)

초록
AI-Helper 아이콘AI-Helper

기계학습 방법의 하나인 SVM은 뛰어난 일반화 성능으로 영상처리 분야에서 많이 사용하고 있다. 하지만 SVM을 이용한 시스템에서 미리 학습된 데이터가 아닌 다른 데이터를 이용하려하면 새로 학습을 시켜야 하는 경우가 생긴다. 특히, 임베디드 환경에서는 이러한 상황에서 학습 시간이 오래 걸려 SVM을 적절히 이용하지 못하는 경우가 있다. 본 논문에서는 이러한 문제점을 해결하기 위하여 SVM의 학습 및 분류를 모두 수행할 수 있도록 하나의 FPGA로 구현하였다. SVM 연산의 복잡성으로 인해 생기는 반복연산을 병렬처리를 통하여 해결하고 커널 사용으로 생기는 지수 연산을 변형하여 고정 소수점 연산이 가능하도록 하였다. 제안하는 하드웨어는 Xilinx사의 ZC 706보드에 구현하였고, 구현한 FPGA의 검증을 위하여 TSR 알고리즘을 이용하였다. 구현한 하드웨어는 100 MHz의 주파수로 동작하며, 2천개의 데이터를 이용한 학습 시 약 5sec가 소요되고 $1360{\times}800$ 해상도에서 분류 시 약 16.54msec가 소요됨을 확인했다.

Abstract ▼ AI-Helper 아이콘AI-Helper

SVM, a machine learning method, is widely used in image processing for it's excellent generalization performance. However, to add other data to the pre-trained data of the system, we need to train the entire system again. This procedure takes a lot of time, especially in embedded environment, and re...

주제어

#Machine Learning   #SVM   #FPGA   #Training   #Classification  

질의응답

핵심어 질문 논문에서 추출한 답변
특징점 추출기의 종류는 무엇이 있는가? 여기서 특징점 추출기란 물체의 특징이 될 수 있는 코너부분이나 선분영역을 찾아내어 일정한 형태로 저장하는 것을 말한다. 특징점 추출기의 종류로는 HOG(Histogram of Oriented Gradient), SIFT(Scale Invariant Feature Transform), SURF(Speeded Up Robust Feature) 등이 있다. 특징점 추출기를 통해 찾아낸 데이터는 각 추출기별로 정해져 있는 일정한 형태의 기술자(descriptor)로 저장된다.
SVM 학습에서 MAC 연산을 하드웨어로 구현했을 때 어떤 장단점을 얻을 수 있는가? MAC 연산만을 하드웨어로 구현한 [5]의 경우 학습을 위해서는 호스트 PC가 데이터 전송 및 전체 과정의 컨트롤을 담당한다. 이렇게 학습과정의 일부만을 하드웨어로 구현한 경우 구현이 간단하다는 장점이 있을 수 있으나 하드웨어로 동작하는 부분을 제외한 부분은 호스트 PC에 의존하기 때문에 임베디드 환경에서 사용 시 좋은 성능을 기대하기 어렵다는 단점이 생긴다. 이와는 달리 [6]에서는 전체 학습과정을 하드웨어로 구현하여 호스트 PC를 사용하지 않고 단독으로 SVM 학습을 진행 할 수 있어 호스트 PC에 관계없이 좋은 성능을 기대 할 수 있다.
SVM 학습과정 전체를 하드웨어로 구현했을 때 단점은 무엇인가? 이와는 달리 [6]에서는 전체 학습과정을 하드웨어로 구현하여 호스트 PC를 사용하지 않고 단독으로 SVM 학습을 진행 할 수 있어 호스트 PC에 관계없이 좋은 성능을 기대 할 수 있다. 하지만 [6]의 경우는 적은 하드웨어 사용량을 목적으로 설계를 하여 성능 향상이 크지 않고 반복횟수를 제한하고 Linear 커널을 사용하여 학습 결과를 이용할 시 정확도가 떨어진다는 단점이 있다.
질의응답 정보가 도움이 되었나요?

참고문헌 (20)

  1. K. Grauman and T. Darrell, "The pyramid match kernel Discriminative classification with sets of image features", Proceedings of IEEE International Conference on Computer Vision, 2005 

  2. Y. H. Kang, Y. B. Park, "Design of Automatic Document Classifier for IT documents based on SVM, " j.inst.Korean.electr.electron.eng, Vol. 8, No. 2 186-194, 2004 

  3. J. Platt, "Fast Training of Support Vector Machines Using Sequential Minimal Optimization," in Advances in kernel methods - Support Vector Learning, MIT Press, 185-208, 1999 

  4. C. Chang and C. Lin, "LIBSVM : A Library for Support Vector Machine," ACM Transactions on Intelligent Systems and Technology, Vol 2, No.3, 1-27, 2011 

  5. S. Cadambi, I. Srihari, et al. "A massively parallel FPGA-based coprocessor for support vector machines," Field Programmable Custom Computing Machines '09. 17th IEEE Symposium on, Napa, USA, 2009 

  6. T. Kuan, J. Wang, J. Wang, P. Lin, G. Gu, "VLSI Design of an SVM Learning Core on Sequential Minimal Optimization Algorithm," IEEE Transactions on Very Large Scale Integration (VLSI) Systems, Vol. 20, No. 4, 673-683, 2012 

    상세보기 crossref

  7. M. Qasaimeh, A. Sagahyroon, and T. Shanableh, "FPGA-Based Parallel Hardware Architecture for Real-Time Image Classification," Computational Imaging, IEEE Transactions, Vol. 1, No. 1 56-70, 2015 

    상세보기 crossref

  8. Marta Ruiz-Llata, Guillermo Guarnizo and Mar Yebenes-Calvino, "FPGA Implementation of a Support Vector Machine for Classification and Regression," IJCNN, 2010 

  9. Xipeng Pan, Huihua Yang, Lingqiao Li, Zhenbing Liu, Le Hou , "FPGA Implementation of SVM Decision Function Based on Hardware-friendly Kernel," ICCIS, 2013 

  10. Bryan Catanzaro, "Fast Support Vector Machine Training and Classification on Graphics Processors," IMAGING, Vol. 1, No. 1, March 2015 

  11. Christos Kyrkou, Theocharis Theocharides, "A Parallel Hardware Architecture for Real-Time Object Detection with Support Vector Machines," IEEE TRANSACTIONS ON COMPUTERS, Vol. 61, No. 6, 2012 

    상세보기

  12. Chih-Wei Hsu, Chih-Chung Chang, and Chih-Jen Lin, "A Practical Guide to Support Vector Classification," Technical Report, Department of Computer Science National Taiwan University, 2003 

  13. W. S. Na, S. W. Han, Y. J. Jeong, "FPGA Design of SVM Classifier for Real Time Image Processing," j.inst.Korean.electr.electron.eng, Vol. 20, No. 3 209-219, 2016 

  14. C. Cortes and V. Vapnik, "Support-Vector Network," Machine Learning, Vol. 20, No. 3 273-297, 1995 

  15. Il-Seok Oh, Pattern Recognition, Kyobomoongo, 137-173, 2008 

  16. Trevor Hastie, Robert Tibshirani, Jerome Friedman, The Elements of Statistical Learning - Data Mining, Inference, and Prediction, 2008 

  17. V. Vapnik, Estimation of Dependances Based on Empirical Data, Springer-Verlag, 1982 

  18. E. Osuna, R. Freund, F. Girosi, "An improved training algorithm for support vector machines," Neural Networks for Signal Processing VII. Proceedings of the 1997 IEEE Workshop, 276-285, 1997 

  19. J. Stallkamp, M. Schlipsing, J. Salmen, and C. Igel, "Man vs. computer: Benchmarking machine learning algorithms for traffic sign recognition," Neural Networks, vol. 32, pp. 323-332, 2012. 

    상세보기 crossref

  20. Tomasz Kryjak, Mateusz Komorkiewicz, Marek Gorgon, "FPGA IMPLEMENTATION OF REAL-TIME HEAD-SHOULDER DETECTION USING LOCAL BINARY PATTERNS, SVM AND FOREGROUND OBJECT DETECTION," Design and Architectures for Signal and Image Processing (DASIP) Conference, Karlsruhe, Germany, 2012 

저자의 다른 논문 :

관련 콘텐츠

오픈액세스(OA) 유형

GOLD

오픈액세스 학술지에 출판된 논문

섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로