최소 단어 이상 선택하여야 합니다.
최대 10 단어까지만 선택 가능합니다.
다음과 같은 기능을 한번의 로그인으로 사용 할 수 있습니다.
NTIS 바로가기대한임베디드공학회논문지 = IEMEK Journal of embedded systems and applications, v.15 no.4, 2020년, pp.197 - 204
정희철 (Kyungpook National University) , 최민국 (hutom) , 김준광 (DGIST) , 권순 (DGIST) , 정우영 (DGIST)
The ImageNet dataset is a large scale dataset and contains various natural scene images. In this paper, we propose a convolutional neural network (CNN)-based weighted ensemble technique for the ImageNet classification task. First, in order to fuse several models, our technique uses weights for each ...
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
핵심어 | 질문 | 논문에서 추출한 답변 |
---|---|---|
앙상블 기법의 형태에는 무엇이 있는가? | ILSVRC 대회에서 우승한 기술들을 살펴보면 앙상블 (ensemble) 기법을 사용한다는 공통점이 있다. 앙상블 기법은 크게 두가지 형태로 구분할 수 있는데, 모델 앙상블, 데이터 증강을 이용한 앙상블 기법이 있다. 모델 앙상블의 경우 같은 종류의 여러 모델을 만들어 독립적으로 학습시킨 후 최종 출력값을 평균하여 결과를 추출하는 방식이다. | |
이미지 기반의 객체 인식 기술은 어디에 활용되고 있는가? | 이미지 기반의 객체 인식 기술은 자동차, 스마트폰, CCTV 등과 같은 기기에 탑재되어 무인 자율 주행 [1], 지문 및 얼굴 인식 [2, 3], 차량 모니터링 [4] 등에 활용되고 있다. 이러한 객체 인식 기술은 딥러닝 (deep learning) 의 발전으로 특정 인식 문제에 있어 사람보다 높은 인식률을 보이기도 하였다. | |
앙상블 기법이 딥러닝에서 잘 동작하는 이유는? | 성능 극대화를 위해 활용되는 앙상블 기법이 딥러닝에서 잘 동작하는 이유는 다음과 같이 정리할 수 있다. 첫째로, 스크래치로 훈련을 시작할 때, 깊은 신경망의 초기 가중치는 무작위로 설정된다. 이러한 무작위 초기 값으로부터 학습을 하게 되면 최종 모델의 weight 값은 유일(unique)하지 않으며, 초기 값에 따라 다른 weight가 학습되게 된다. 이러한 다양성에 의해 서로 다른 모델은 최종 출력에서 시너지 효과를 창출할 수 있을 것으로 추측된다. 우리는 두 번째 이유로 데이터 증강에 의한 효과가 있을 수 있다. 예를 들어, 랜덤 크롭을 훈련시 적용한다고 가정했을 때, 학습할 때 서로 다른 모델들이 서로 다른 이미지를 학습하는 효과를 얻을 수 있고, 이는 테스트 할 때는 동일한 이미지가 입력으로 들어오지만 각 모델은 이미 다른 위치를 보고 학습했기 때문에 서로 다른 확률값을 출력함으로써 일반화에 도움을 줄 수 있다. 세 번째는 입력 데이터의 무작위 셔플링 덕분에 앙상블에 효과가 있을 것으로 추측된다. 네트워크가 학습에 사용되는 이미지를 보는 순서에 따라 학습된 모델의 특성이 바뀔 수 있으므로, 앙상블을 할 때 시너지 효과를 이룰 수 있을 것이다. |
M. Bojarski, D. Del Testa, D. Dworakowski, B. Firner, B. Flepp, P. Goyal, L. D. Jackel, M. Monfort, U. Muller, J. Zhang, X. Zhang, J. Zhao, K. Zieba, "End to end learning for self-driving cars.", arXiv preprint arXiv:1604.07316, 2016.
Y. Sun, D. Liang, X. Wang, X. Tang, "Deepid3: Face Recognition with Very Deep Neural Networks.", arXiv preprint arXiv:1502.00873, 2015.
M. A. Wani, F. A. Bhat, S. Afzal, A. I. Khan, "Supervised Deep Learning in Fingerprint Recognition. Advances in Deep Learning.", Springer, Singapore, pp. 111-132, 2020.
H. Jung, M. K. Choi, J. Jung, J. H. Lee, S. Kwon, W. Young Jung, "ResNet-based Vehicle Classification and Localization in Traffic Surveillance Systems.", Proceedings of the IEEE conference on computer vision and pattern recognition workshops, pp. 61-67, 2017.
O. Russakovsky, J. Deng, H. Su, J. Krause, S. Satheesh, S. Ma, Z. Huang, A. Karpathy, A. Khosla, M. Bernstein, A.C. Berg, L. Fei-Fei, "ImageNet Large Scale Visual Recognition Challenge," International Journal of Computer Vision, Vol. 115, pp. 211-252, 2015.
Krizhevsky, Alex, Ilya Sutskever, Geoffrey E. Hinton. "Imagenet Classification with Deep Convolutional Neural Networks." Advances in neural information processing systems, pp. 1097-1105, 2012.
C. Szegedy, W. Liu, Y. Jia, P. Sermanet, S. Reed, D. Anguelov, A. Rabinovich, "Going Deeper with Convolutions.", In Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 1-9, 2015.
SIMONYAN, Karen ZISSERMAN, Andrew. "Very Deep Convolutional Networks for Large-scale Image Recognition.", arXiv preprint arXiv:1409.1556, 2014.
K. He, X. Zhang, S. Ren, J. Sun, "Deep Residual Learning for Image Recognition." Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 770-778, 2016.
M. Tan, Q. V. Le. "Efficientnet: Rethinking Model Scaling for Convolutional Neural Networks." arXiv preprint arXiv:1905.11946 (2019).
B. Zoph, Q. V. Le, "Neural Architecture Search with Reinforcement Learning." arXiv preprint arXiv:1611.01578 (2016).
HU, Jie SHEN, Li SUN, Gang. "Squeeze-and-excitation Networks.", In Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 7132-7141, 2018.
F. Iandola, M. Moskewicz, S. Karayev, R. Girshick, T. Darrell, K. Keutzer, "Densenet: Implementing Efficient Convnet Descriptor Pyramids." arXiv preprint arXiv:1404.1869 (2014).
S. Xie, R. Girshick, P. Dollar, Z. Tu, K. He, "Aggregated Residual Transformations for Deep Neural Networks." Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 1492-1500, 2017.
D. MATTHEW, R. FERGUS, "Visualizing and Understanding Convolutional Neural Networks.", In Proceedings of the 13th European Conference Computer Vision and Pattern Recognition, Zurich, Switzerland, pp. 6-12, 2014.
C. Szegedy, V. Vanhoucke, S. Ioffe, J. Shlens, Z. Wojna, "Rethinking the Inception Architecture for Computer Vision." Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 2818-2826, 2016.
C. Szegedy, S. Ioffe, V. Vanhoucke, A. A. Alemi, "Inception-v4, Inception-resnet and the Impact of Residual Connections on Learning." Thirty-first AAAI conference on artificial intelligence. 2017.
*원문 PDF 파일 및 링크정보가 존재하지 않을 경우 KISTI DDS 시스템에서 제공하는 원문복사서비스를 사용할 수 있습니다.
출판사/학술단체 등이 한시적으로 특별한 프로모션 또는 일정기간 경과 후 접근을 허용하여, 출판사/학술단체 등의 사이트에서 이용 가능한 논문
※ AI-Helper는 부적절한 답변을 할 수 있습니다.