$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

물체 검출 컨벌루션 신경망 설계를 위한 효과적인 네트워크 파라미터 추출
(Searching Effective Network Parameters to Construct Convolutional Neural Networks for Object Detection)

정보과학회논문지 = Journal of KIISE, v.44 no.7, 2017년, pp.668 - 673  

김누리 (서울대학교 전기정보공학부) ,  이동훈 (서울대학교 전기정보공학부) ,  오성회 (서울대학교 전기정보공학부)

초록
AI-Helper 아이콘AI-Helper

최근 몇 년간 딥러닝(deep learning)은 음성 인식, 영상 인식, 물체 검출을 비롯한 다양한 패턴인식 분야에서 혁신적인 성능 발전을 거듭해왔다. 그에 비해 네트워크가 어떻게 작동하는지에 대한 깊은 이해는 잘 이루어지지 않고 있다. 본 논문은 효과적인 신경망 네트워크를 구성하기 위해 네트워크 파라미터들이 신경망 내부에서 어떻게 작동하고, 어떤 역할을 하고 있는지 분석하였다. Faster R-CNN 네트워크를 기반으로 하여 신경망의 과적합(overfitting)을 막는 드랍아웃(dropout) 확률과 앵커 박스 크기, 그리고 활성 함수를 변화시켜 학습한 후 그 결과를 분석하였다. 또한 드랍아웃과 배치 정규화(batch normalization) 방식을 비교해보았다. 드랍아웃 확률은 0.3일 때 가장 좋은 성능을 보였으며 앵커 박스의 크기는 최종 물체 검출 성능과 큰 관련이 없다는 것을 알 수 있었다. 드랍아웃과 배치 정규화 방식은 서로를 완전히 대체할 수는 없는 것을 확인할 수 있었다. 활성화 함수는 음수 도메인의 기울기가 0.02인 leaky ReLU가 비교적 좋은 성능을 보였다.

Abstract ▼ AI-Helper 아이콘AI-Helper

Deep neural networks have shown remarkable performance in various fields of pattern recognition such as voice recognition, image recognition and object detection. However, underlying mechanisms of the network have not been fully revealed. In this paper, we focused on empirical analysis of the networ...

주제어

#딥러닝   #물체검출 네트워크   #컨벌루션 네트워크   #하이퍼파라미터  

참고문헌 (13)

  1. G. E. Hinton and R. R. Salakhutdinov, "Reducing the dimensionality of data with neural networks," Science, pp. 504-507, 2006. 

  2. Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton, "Imagenet classification with deep convolutional neural networks," Advances in neural information processing systems, 2012. 

  3. Shaoqing Ren, Kaiming He, Ross Girshick, and Jian Sun, "Faster R-CNN: Towards real-time object detection with region proposal networks," Advances in neural information processing systems, 2015. 

  4. Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian sun, "Deep residual learning for image recognition," Proc. of the IEEE Conference on Computer Vision and Pattern Recognition, 2016. 

  5. Jonathan Long, Evan Shelhamer, and Trevor Darrell, "Fully Convolutional Networks for Semantic Segmentation," Proc. of the IEEE Conference on Computer Vision and Pattern Recognition, 2015. 

  6. Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun, "Spatial pyramid pooling in deep convolutional networks for visual recognition," European Conference on Computer Vision, 2014. 

  7. Ross Girshick, "Fast r-cnn," Proc. of the IEEE International Conference on Computer Vision, 2015. 

  8. Heeyoul Choi, and Yoonhong Min, "Understanding Dropout Algorithms," Journal of KIISE, Vol. 33, No. 8, pp. 32-38, 2015. (in Korean) 

  9. Pierre Baldi and Peter Sadowski, "Understanding dropout," Advances in Neural Information Processing Systems, 2013. 

  10. Nitish Srivastava, Geoffrey Hinton, Al.ex Krizhevsky, Ilya Sutskever, and Ruslan Salakhutdinov, "Dropout: a simple way to prevent neural networks from overfitting," Journal of Machine Learning Research, Vol. 15, No. 1, pp. 1929-1958, 2014. 

  11. Vinod Nair and Geoffrey E. Hinton, "Rectified linear units improve restricted boltzmann machines," Proc. of the 27th International Conference on Machine Learning, 2010. 

  12. Sergey Ioffe, Christrian Szegedy, "Batch normalization: Accelerating deep network training by reducing internal covariate shift," arXiv, 2015. 

  13. Karen Simonyan and Andrew Zisserman, "Very deep convolutional networks for large-scale image recognition," arXiv, 2014. 

저자의 다른 논문 :

LOADING...

관련 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로