[논문]정확히 재가중되는 온라인 전체 에러율 최소화 기반의 객체 추적

장세인; 박충식

doi:10.13088/jiis.2019.25.4.053

정확히 재가중되는 온라인 전체 에러율 최소화 기반의 객체 추적
Object Tracking Based on Exactly Reweighted Online Total-Error-Rate Minimization 원문보기

지능정보연구 = Journal of intelligence and information systems, v.25 no.4, 2019년, pp.53 - 65

장세인 (싱가폴국립대학 통계학과) , 박충식 (U1대학교 스마트IT학과)

초록
AI-Helper

영상 기반의 보안 시스템의 증가함에 따라 각 용도마다 다른 다양한 객체들에 대한 처리들이 중요해지고 있다. 객체 추적은 객체 인식, 검출과 같은 작업들과 함께 필수적인 작업으로 다뤄진다. 이 객체 추적을 달성하기 위해서 다양한 머신러닝이 적용될 수 있다. 성공적인 분류기로써 전체 에러율 최소화(total-error-rate minimization) 기반의 방법론이 사용될 수 있다. 이 전체 에러율 최소화 기반의 방법론은 오프라인 학습을 기반으로 하고 있다. 객체 추적은 실시간으로 처리하며 갱신해야하는 것이 필수적이므로 온라인 학습(online learning)을 기반으로 하는 것이 적합하다. 온라인 전체 에러율 최소화 방법론이 개발되었지만 점근적으로 재가중되는(approximately reweighted) 작업이 포함되어 에러를 누적시킬 수 있다는 단점이 있다. 본 논문에서는 정확하게 재가중되는(exactly reweighted) 방법론을 제안하면서 온라인 전체 에러율 최소화가 달성되었다. 이 제안된 온라인 학습 방법론을 객체 추적에 적용하여 총 8개의 데이터베이스에서 다른 추적 방법론들 보다 좋은 성능이 달성되었다.

Abstract ▼ AI-Helper

Object tracking is one of important steps to achieve video-based surveillance systems. Object tracking is considered as an essential task similar to object detection and recognition. In order to perform object tracking, various machine learning methods (e.g., least-squares, perceptron and support vector machine) can be applied for different designs of tracking systems. In general, generative methods (e.g., principal component analysis) were utilized due to its simplicity and effectiveness. However, the generative methods were only focused on modeling the target object. Due to this limitation, discriminative methods (e.g., binary classification) were adopted to distinguish the target object and the background. Among the machine learning methods for binary classification, total error rate minimization can be used as one of successful machine learning methods for binary classification. The total error rate minimization can achieve a global minimum due to a quadratic approximation to a step function while other methods (e.g., support vector machine) seek local minima using nonlinear functions (e.g., hinge loss function). Due to this quadratic approximation, the total error rate minimization could obtain appropriate properties in solving optimization problems for binary classification. However, this total error rate minimization was based on a batch mode setting. The batch mode setting can be limited to several applications under offline learning. Due to limited computing resources, offline learning could not handle large scale data sets. Compared to offline learning, online learning can update its solution without storing all training samples in learning process. Due to increment of large scale data sets, online learning becomes one of essential properties for various applications. Since object tracking needs to handle data samples in real time, online learning based total error rate minimization methods are necessary to efficiently address object tracking problems. Due to the need of the online learning, an online learning based total error rate minimization method was developed. However, an approximately reweighted technique was developed. Although the approximation technique is utilized, this online version of the total error rate minimization could achieve good performances in biometric applications. However, this method is assumed that the total error rate minimization can be asymptotically achieved when only the number of training samples is infinite. Although there is the assumption to achieve the total error rate minimization, the approximation issue can continuously accumulate learning errors according to increment of training samples. Due to this reason, the approximated online learning solution can then lead a wrong solution. The wrong solution can make significant errors when it is applied to surveillance systems. In this paper, we propose an exactly reweighted technique to recursively update the solution of the total error rate minimization in online learning manner. Compared to the approximately reweighted online total error rate minimization, an exactly reweighted online total error rate minimization is achieved. The proposed exact online learning method based on the total error rate minimization is then applied to object tracking problems. In our object tracking system, particle filtering is adopted. In particle filtering, our observation model is consisted of both generative and discriminative methods to leverage the advantages between generative and discriminative properties. In our experiments, our proposed object tracking system achieves promising performances on 8 public video sequences over competing object tracking systems. The paired t-test is also reported to evaluate its quality of the results. Our proposed online learning method can be extended under the deep learning architecture which can cover the shallow and deep networks. Moreover, online learning methods, that need the exact reweighting process, ca

주제어

표/그림 (4)

표 Database for Object Tracking
표 Comparison of Averaged RMS Errors over 10 Runs
표 A statistical significance paired t-test using the averaged RMS Errors
표 Comparison of Frame Per Second over 10 Runs

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 점근적 재가중 기법이 가지는 단점을 극복하는 정확히 재가중하는 TER 최소화(exactly reweighted TER minimization, ERTER)방법을 제안할 것이다. 또한, 이 제안된 ERTER를 객체 추적에 적용하여 결정론적 방법이라는 장점을 가지는 객체추적 방법론을 제안할 것이다.
본 논문에서는 정확히 재가중되는(exactly reweighted) 전체에러율 최소화 방법론(ERTER)이제안되었다. 또한 이 제안된 ERTER 방법론은 객체 추적에 많이 사용되는 SMC 방법인 파티클 필터에 적용되었다.

가설 설정

하나는 동적 모델(dynamic model), \(p\)(M_t|M_t-1)이고 다른 하나는 관측 모델(observation model), \(p\)(O_t|M_t)이다. 본 논문에서는 이 동적 모델을 균일 분포(uniform distribution)로 가정할 것이며 관측 모델은 생성적(generative) 방법과 분류적(discriminative) 방법을 같이 사용할 것이다. 본 논문에서 제안하는 관측 모델은 다음과 같이 나타낼 수 있다 (Jang et al.

제안 방법

본 논문에서 제안하는 온라인 학습 알고리즘은 먼저 수식 (13)을 이용하여 역행렬를 계산하고, 수식 (14), (15)를 이용하여 타겟 벡터를 계산한다. 이후 수식 (6)에 있는 마지막 수식을 이용하면 최종 솔루션을 얻을 수 있다.
본 논문에서는 추적 방법론에 대한 성능 평가를 위해서 8개의 데이터베이스와 7개의 추적 알고리즘과 비교할 것이다. [Table 1]에 본 논문에서 사용될 8개의 데이터베이스의 속성을 나열하였다 (Ross et al.

데이터처리

, 2015) 있다. 본 논문에서는 각 기법의 평가 기준으로 추적 분야에서 자주 사용되는 Root Mean Squared Error(RMSE)를 사용하였다.
성능 평가를 위해서 8개의 데이터베이스와 7개의 방법론들을 이용하여 RMSE를 제안하는 방법론(ERTER)과 비교하였다. [Table 2]는 정확도 성능을 나타내며 평균 RMSE를 사용하였고 10번을 시행하였다.
최고 좋은 성능은 볼드체로 테이블에 표기되었다. 제안한 ERTER 방법론은 8개의 데이터베이스 중에 3개의 데이터베이스에서 다른 방법론과 비교하여 최고 성능을 얻었다. 점근적으로 재가중되는 기법을 기반으로하는 방법론인 ARTER은 정확히 재가중되는 기법을 기반으로하는 ERTER 보다 낮은 성능이 관찰되었다.

이론/모형

본 논문에서는 정확히 재가중되는(exactly reweighted) 전체에러율 최소화 방법론(ERTER)이제안되었다. 또한 이 제안된 ERTER 방법론은 객체 추적에 많이 사용되는 SMC 방법인 파티클 필터에 적용되었다. 이를 8개의 데이터베이스에서 7개의 방법론과 비교하였을 때 보다 우수한 성능을 얻을 수 있었다.
본 논문에서는 객체추적에 대한 추론 방법으로 파티클 필터(particle filter) 방법론을 사용한다. 이 파티클 필터는 Sequential Monte Carlo(SMC) 방법이라고도 알려져 있다.
이 TER 최소화 방법론은 가중된 최소자승법(Weighted Least-Squares, WLS) 기반으로 개발되었다. 이에 해당하는 온라인 학습 방법은 Approximately Reweighted Total-Error-Rate(ARTER) 최소화 방법으로 (Kim et al.
이 TER 최소화 방법론은 가중된 최소자승법(Weighted Least-Squares, WLS) 기반으로 개발되었다. 이에 해당하는 온라인 학습 방법은 Approximately Reweighted Total-Error-Rate(ARTER) 최소화 방법으로 (Kim et al., 2013) 제안되었지만 점근적으로 재가중되는 기법이 적용되었다. 이 점근적 재가중 기법은 머신러닝 방법론에서 해답찾기에서 에러를 누적시킬 수 있다.

성능/효과

제일 좋은 성능은 OAB 방법에서 관측되었으며 제안하는 ERTER은 여섯번째로 좋은 성능을 얻었다. ARTER과 비교하였을 때 느린 성능이 관측 되었지만 정확도 성능 측면에서는 우수한 성능을 얻을 수 있었다.
이를 8개의 데이터베이스에서 7개의 방법론과 비교하였을 때 보다 우수한 성능을 얻을 수 있었다. 계산적인 측면에서 점근적으로 재가중되는(approximately reweighted) 방법보다 낮은 성능이 얻어졌지만 정확도 측면에서 우수한 성능을 얻을 수 있었다. 본 논문에서 제안된 방법론이 계산적인 측면에서 다른 방법론보다 느린 성능이 얻어졌다.
점근적으로 재가중되는 기법을 기반으로하는 방법론인 ARTER은 정확히 재가중되는 기법을 기반으로하는 ERTER 보다 낮은 성능이 관찰되었다. 모든 데이터베이스에서 각 알고리즘들의 평균에러를 구하여 비교하였을 때 제안하는 ERTER 방법론이 제일 좋은 성능을 얻는 것이 관찰되었다. [Table 3]에 대응표본 T검정(paired t-test) 결과를 나타내었다.
또한 이 제안된 ERTER 방법론은 객체 추적에 많이 사용되는 SMC 방법인 파티클 필터에 적용되었다. 이를 8개의 데이터베이스에서 7개의 방법론과 비교하였을 때 보다 우수한 성능을 얻을 수 있었다. 계산적인 측면에서 점근적으로 재가중되는(approximately reweighted) 방법보다 낮은 성능이 얻어졌지만 정확도 측면에서 우수한 성능을 얻을 수 있었다.
계산적 성능을 비교하기 위해서 Frame per Second(FPS)를 구하여 [Table 4]에 나타내었다. 제일 좋은 성능은 OAB 방법에서 관측되었으며 제안하는 ERTER은 여섯번째로 좋은 성능을 얻었다. ARTER과 비교하였을 때 느린 성능이 관측 되었지만 정확도 성능 측면에서는 우수한 성능을 얻을 수 있었다.

후속연구

본 논문에서 제안된 방법론은 가중된 최소 자승법을 기반하기 때문에 정확히 재가중되는 작업이 필요한 다른 이론적 방법론들이 적용될 수 있다. 또한, 실무적으로 객체 추적 뿐만 아니라 객체 검출 및 인식에 충분히 적용이 가능하며 특히 실시간 학습이 필요한 분야에 성공적으로 적용될 수 있을 것이다.
본 논문에서는 점근적 재가중 기법이 가지는 단점을 극복하는 정확히 재가중하는 TER 최소화(exactly reweighted TER minimization, ERTER)방법을 제안할 것이다. 또한, 이 제안된 ERTER를 객체 추적에 적용하여 결정론적 방법이라는 장점을 가지는 객체추적 방법론을 제안할 것이다. 본 논문의 기여를 아래와 같이 정리하였다:
하지만 이는 ERTER의 수식 개선을 통해 이루어질 수 있으며, GPU를 코딩을 통해 계산 성능을 최적화하여 개선할 수 있다. 본 논문에서 제안된 방법론은 가중된 최소 자승법을 기반하기 때문에 정확히 재가중되는 작업이 필요한 다른 이론적 방법론들이 적용될 수 있다. 또한, 실무적으로 객체 추적 뿐만 아니라 객체 검출 및 인식에 충분히 적용이 가능하며 특히 실시간 학습이 필요한 분야에 성공적으로 적용될 수 있을 것이다.
우리는 여기서 정확히 재가중되는 온라인 전체 에러율 최소화 방법론(exactly reweighted recursive TER minimization, ERTER)을 제안할 것이다. 이 ERTER은 점근적으로 재가중되는 ARTER의 단점을 극복하면서 온라인 학습 방법론을 달성하는데 초점이 맞추어져있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	객체 추적을 달성하기 위해 주로 쓰이는 방법은 어떻게 나누어질 수 있는가?	, 2004). 객체 추적을 달성하기 위해 주로 쓰이는 방법은 생성적 모델(generative model)과 분류적 모델(Discriminativemodel)로 나누어질 수 있다(Yilmaz et al., 2006).
	본 논문에서 제시한 ERTER 방법론의 느린 성능의 한계점은 어떻게 개선 될 수 있는가?	본 논문에서 제안된 방법론이 계산적인 측면에서 다른 방법론보다 느린 성능이 얻어졌다. 하지만 이는 ERTER의 수식 개선을 통해 이루어질 수 있으며, GPU를 코딩을 통해 계산 성능을 최적화하여 개선할 수 있다. 본 논문에서 제안된 방법론은 가중된 최소 자승법을 기반하기 때문에 정확히 재가중되는 작업이 필요한 다른 이론적 방법론들이 적용될 수 있다.
	객체 추적은 보안 관련 시스템에서 어떻게 적용되고 있는가?	객체 추적(object tracking)은 보안 관련 시스템에 필수적인 작업으로써 적용되고 있다. 예를들어 얼굴 인식(face recognition), 걸음걸이 인식(gait recognition), 군중 추적(people tracking) 등 다양한 분야에 적용될 수 있다(Hu et al., 2004).

참고문헌 (18)

Babenko, B., M.-H. Yang, and S. Belongie, "Robust Object Tracking with Online Multiple Instance Learning," IEEE Trans. Pattern Analysis and Machine Intelligence, Vol.33, No.8(2011), 1619-1632.

상세보기
Batkhuu, B., A. Jumabek, F. Yang, S. Ko, and G. S. Jo, "Transfer Learning using Multiple ConvNet Layers Activation Features with Principal Component Analysis for Image Classification," Journal of Intelligence and Information Systems, Vol. 24, No. 1(2018), 205-225.

원문보기 상세보기
Crammer, K., O. Dekel, J. Keshet, S. Shalev-Shwartz, and Y. Singer, "Online Passive-Aggressive Algorithms," Journal of Machine Learning Research, Vol.7(2006), 551-585.
Crammer, K., A. Kulesza, and M. Dredze, "Adaptive Regularization of Weight Vectors," Advances in Neural Information Processing Systems, (2009), 414-422.
Dredze, M., K. Crammer, and F. Pereira, "Confidence-Weighted Linear Classification," International Conference on Machine Learning, (2008), 264-271.
Hu, W., T. Tan, L. Wang, and S. Maybank, "A Survey on Visual Surveillance of Object Motion and Behaviors," IEEE Transactions on Systems, Man, and Cybernetics, Part C (Applications and Reviews), Vol.34, No.3 (2004), 334-352.

상세보기
Hare, S., A. Saffari, and P. H. S. Torr, "Struck: Structured Output Tracking with Kernels," IEEE International Conference on Computer Vision, (2011), 263-270.
Lee, M.-S., and H. Ahn, "A Time Series Graph based Convolutional Neural Network Model for Effective Input Variable Pattern Learning : Application to the Prediction of Stock Market," Journal of Intelligence and Information Systems, Vol. 24, No. 1(2018), 167-181.

원문보기 상세보기
Jang, S.-I., K. Choi, K.-A. Toh, A.B.J. Teoh, and J. Kim, "Object Tracking Based on An Online Learning Network with Total Error Rate Minimization," Pattern Recognition, Vol.48, No.1(2015), 126-139.

상세보기
Kim, Y., K.-A. Toh, A. B. J. Teoh, H.-L. Eng, and W.-Y. Yau, "An Online Learning Network for Biometric Scores Fusion," Neurocomputing, Vol.102(2013), 65-77.

상세보기
Kalal, Z., J. Matas, and K. Mikolajczyk, "P-N Learning: Bootstrapping Binary Classifiers by Structural Constraints," IEEE Conference on Computer Vision and Pattern Recognition, (2010), 49-56.
Yilmaz, A., O. Javed, and M. Shah, "Object Tracking: A Survey," ACM Computing Surveys, Vol.38, No.4(2006), 1-46.

상세보기
Ross, D. A., R.-S. Lin, and M.-H. Yang, "Incremental Learning for Robust Visual Tracking," International Journal of Computer Vision, Vol.77, No.1(2008), 125-141.

상세보기
Rosenblatt, F., "The Perceptron: A Probabilistic Model for Information Storage and Organization in The Brain," Psychological Review, Vol.65, No.6(1958), 386-408.

상세보기
Kim, S., and J. Kim, "Customer Behavior Prediction of Binary Classification Model Using Unstructured Information and Convolution Neural Network: The Case of Online Storefront," Journal of Intelligence and Information Systems, Vol. 24, No. 2(2018), 221-241.

원문보기 상세보기
Toh, K.-A., "Deterministic neural classification," Neural computation, Vol.20, No.6(2008), 1565-1595.

상세보기
Grabner, H., M. Grabner, and H. Bischof, "Real-Time Tracking via On-line Boosting," British Machine Vision Conference, (2006), 47-56.
Zhong, W., H. Lu, and M.-H. Yang, "Robust Object Tracking via Sparsity-based Collaborative Model," IEEE Conference on Computer Vision and Pattern Recognition, (2012), 1838-1845.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증