[논문]자율주행차용 우선순위 기반 다중 DNN 모델 스케줄링 프레임워크

조호진; 홍선표; 김명선

doi:10.6109/jkiice.2021.25.3.368

자율주행차용 우선순위 기반 다중 DNN 모델 스케줄링 프레임워크
Priority-based Multi-DNN scheduling framework for autonomous vehicles 원문보기

한국정보통신학회논문지 = Journal of the Korea Institute of Information and Communication Engineering, v.25 no.3, 2021년, pp.368 - 376

조호진 (Department of IT Convergence Engineering, Hansung University) , 홍선표 (Department of IT Convergence Engineering, Hansung University) , 김명선 (Department of IT Convergence Engineering, Hansung University)

초록
AI-Helper

최근 딥러닝 기술이 발전함에 따라 자율 사물 기술이 주목받으면서 드론이나 자율주행차 같은 임베디드 시스템에서 DNN을 많이 활용하고 있다. 클라우드에 의지하지 않고 높은 인식 정확도를 위해서 큰 규모의 연산이 가능하고 다수의 DNN을 처리할 수 있는 임베디드 시스템들이 출시되고 있다. 이러한 시스템 내부에는 다양한 수준의 우선순위를 갖는 DNN들이 존재한다. 자율주행차의 안전 필수에 관련된 DNN들은 가장 높은 우선순위를 갖고 이들은 반드시 최우선적으로 처리되어야 한다. 본 논문에서는 다수의 DNN이 동시에 실행될 때 우선순위를 고려해서 DNN을 스케줄링하는 프레임워크를 제안한다. 낮은 우선순위의 DNN이 먼저 실행되고 있어도 높은 우선순위의 DNN이 이를 선점할 수 있어 자율주행차의 안전 필수 응용의 빠른 응답 특성을 보장한다. 실험을 통하여 확인한 결과 실제 상용보드에서 최대 76.6% 성능이 향상되었다.

Abstract ▼ AI-Helper

With the recent development of deep learning technology, autonomous things technology is attracting attention, and DNNs are widely used in embedded systems such as drones and autonomous vehicles. Embedded systems that can perform large-scale operations and process multiple DNNs for high recognition accuracy without relying on the cloud are being released. DNNs with various levels of priority exist within these systems. DNNs related to the safety-critical applications of autonomous vehicles have the highest priority, and they must be handled first. In this paper, we propose a priority-based scheduling framework for DNNs when multiple DNNs are executed simultaneously. Even if a low-priority DNN is being executed first, a high-priority DNN can preempt it, guaranteeing the fast response characteristics of safety-critical applications of autonomous vehicles. As a result of checking through extensive experiments, the performance improved by up to 76.6% in the actual commercial board.

주제어

표/그림 (9)

그림 Fig. 1 Comparison of priority-based scheduling and non priority-based scheduling
그림 Fig. 2 Priority-based GPU scheduling with CUDA stream
그림 Fig. 3 Priority-based multi-DNN Scheduling Framework
표 Table. 1 Jetson AGX Xavier platform [13]
그림 Fig. 4 Comparing the end time of the last finished H priority DNN model when all DNN models are identical
그림 Fig. 5 Comparing the end time distribution of H priority DNN models when all DNN models are identical
그림 Fig. 6 Illustration of the impact of preemption when kernels in streamH and streamL are concurrently launched using Visual Profiler [16].
그림 Fig. 7 Comparing the end time of the last finished H priority DNN model using various kinds of DNN models
그림 Fig. 8 Comparing the end time distribution of H priority DNN models using various kinds of DNN models

참고문헌 (16)

J. Gao, J. Du, and E. Chen, "Mixed-Bandwidth CrossChannel Speech Recognition via Joint Optimization of DNN-Based Bandwidth Expansion and Acoustic Modeling," in IEEE/ACM Transactions on Audio, Speech, and Language Processing, vol. 27, no. 3, pp. 559-571, Mar. 2019. DOI: 10.1109/TASLP.2018.2886739.

상세보기
K. Simonyan and A. Zisserman, "Very deep convolutional networks for large-scale image recognition," in Proceedings of the International Conference on Learning Representations, San Diego, CA, 2015.
S. Liu and Z. Liu, "Multi-channel CNN-based object detection for enhanced situation awareness," arXiv preprint arXiv:1712.00075, 2017.
A. Krizhevsky, I. Sutskever, and G. E. Hinton, "ImageNet classification with deep convolutional neural networks," in Proceedings of the 26th Conference on Neural Information Processing Systems, Lake Tahoe, pp. 1097-1105, 2012.
H. Kim, J. Kim, and H. Jung, "Convolutional Neural Network Based Image Processing System," Journal of Information and Communication Convergence Engineering, vol. 16, no. 3, pp. 160-165, Sep. 2018.

원문보기 상세보기
K. He, X. Zhang, S. Ren, and J. Sun, "Deep residual learning for image recognition," in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Las Vegas, NV, pp. 770-778, 2016.
H. Li, D. Yu, A. Kumar, and Y. -C. Tu, "Performance modeling in CUDA streams -A means for high-throughput data processing," 2014 IEEE International Conference on Big Data (Big Data), Washington, DC, pp. 301-310, 2014. DOI: 10.1109/BigData.2014.7004245.
HyperQ [Internet]. Available: http://developer.download.nvidia.com/compute/DevZone/C/html_x64/6_Advanced/simpleHyperQ/doc/HyperQ.pdf.
CUDA API [Internet]. Available: https://docs.nvidia.com/cuda/.
T. Amert, N. Otterness, M. Yang, J. H. Anderson, and F. D. Smith, "GPU Scheduling on the NVIDIA TX2: Hidden Details Revealed," 2017 IEEE Real-Time Systems Symposium (RTSS), Paris, pp. 104-115, 2017. DOI: 10.1109/RTSS.2017.00017.
Y. Xiang and H. Kim, "Pipelined Data-Parallel CPU/GPU Scheduling for Multi-DNN Real-Time Inference," 2019 IEEE Real-Time Systems Symposium (RTSS), Hong Kong, China, pp. 392-405, 2019. DOI: 10.1109/RTSS46320.2019.00042.
D. Kim and M. Kim "Avoiding Performance Degradation of DNN based Safety-Critical Applications in Autonomous Vehicles," Journal of the Institute of Electronics and Information Engineers, vol. 57, no. 9, pp. 56-64, Sep. 2019.

상세보기
Jetson AGX Xavier Developer Kit [Internet]. Available: https://developer.nvidia.com/embedded/jetson-agx-xavier-developer-kit.
X. Yu, N. Zeng, S. Liu, and Y. D. Zhang, "Utilization of DenseNet201 for diagnosis of breast abnormality," in Machine Vision and Applications, vol. 30, Oct. 2019.

상세보기
L. Nguyen, D. Lin, Z. Lin, and J. Cao, "Deep CNNs for microscopic image classification by exploiting transfer learning and feature concatenation," in Proceedings of the IEEE International Symposium on Circuits and Systems (ISCAS), Florence, Italy, 2018.
NVIDIA Visual Profiler [Internet]. Available: https://developer.nvidia.com/nvidia-visual-profiler.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증