[논문]딥러닝 기반 실시간 손 제스처 인식

김규민; 백중환

doi:10.9717/kmms.2019.22.4.424

딥러닝 기반 실시간 손 제스처 인식
Real-Time Hand Gesture Recognition Based on Deep Learning 원문보기

멀티미디어학회논문지 = Journal of Korea Multimedia Society, v.22 no.4, 2019년, pp.424 - 431

김규민 (School of Electronic & Information Eng., Korea Aerospace University) , 백중환 (School of Electronic & Information Eng., Korea Aerospace University)

Abstract ▼ AI-Helper

In this paper, we propose a real-time hand gesture recognition algorithm to eliminate the inconvenience of using hand controllers in VR applications. The user's 3D hand coordinate information is detected by leap motion sensor and then the coordinates are generated into two dimensional image. We classify hand gestures in real-time by learning the imaged 3D hand coordinate information through SSD(Single Shot multibox Detector) model which is one of CNN(Convolutional Neural Networks) models. We propose to use all 3 channels rather than only one channel. A sliding window technique is also proposed to recognize the gesture in real time when the user actually makes a gesture. An experiment was conducted to measure the recognition rate and learning performance of the proposed model. Our proposed model showed 99.88% recognition accuracy and showed higher usability than the existing algorithm.

주제어

표/그림 (13)

그림 Fig. 1. Flowchart for proposed gesture recognition system.
그림 Fig. 2. GUI for data collection.
표 Table 1. 8 hand gesture patterns
그림 Fig. 3. Flowchart for organizing gesture learning data.
그림 Fig. 4. Result of gesture images before morphology processing.
그림 Fig. 5. Result of gesture images after morphology processing.
그림 Fig. 6. SSD model.
그림 Fig. 7. Process of object detection and classification (a) Image with ground truth boxes (b) 12*12 feature map (c) Classification.
그림 Fig. 8. Sliding window method.
그림 Fig. 9. Result of Class 1(V) gesture recognition using sliding window method
표 Table 2. Result of gesture recognition accuracy
표 Table 3. Comparison of classification rates between conventional and proposed methods
그림 Fig. 10. Result of gesture classification.

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

그러나 앞선 연구들은 유사 제스처에 대한 분류와 실사용 측면에 있어 인식률이 떨어지는 단점이 있었으며 3차원 정보를 2차원으로 투사할 때 발생하는 정보의 손실이 있다. 본 연구에서는 기존 연구에서 언급된 제한점을 통해 효율적이고 보완된 제스처 인식 알고리즘을 제안하고 구축한다.
본 연구에서는 실시간으로 제스처를 인식하기 위해 Fig. 9와 같이 슬라이딩 윈도우 기법을 제안한다. 사용자가 립모션을 통해 제스처를 취할 시 이미지가 Unity3D에서 생성된다.

제안 방법

총 8개의 제스처 종류를 구성하고 Unity3D와 립모션을 이용하여 제스처 데이터를 수집했다. 3차원 제스처 공간좌표를 제안모델에 학습하기 위해서 3개의 채널을 이용하여 2차원 이미지로 투영시켰으며, 제안 모델은 신경망을 토대로 심층 구조를 형성한 SSD를 활용했다. 제안한 모델의 인식률과 학습 성능을 측정한 실험에서 제안한 모델은 99.
따라서 슬라이딩 윈도우 구간 크기를 50 프레임으로 설정 후, 0～ 50 프레임까지 취한 제스처를 누적하여 SSD 모델 구조에 입력하여 제스처를 분류한다. 그 후, 사용자가 프로그램을 종료하기 전까지 5 프레임씩 이동시키며 계속 누적된 매 50 프레임씩의 제스처 이미지를 순차적으로 SSD 모델에 입력하여 분류한다. 사용자가 설정한 임계값에 따라 임계값을 초과하는 인식률만 제스처로 정의된다.
기존 연구에서 사용했던 1개 채널을 이용한 CNN 기반 제스처 인식과 본 논문에서 제시한 모델의 인식의 정확도를 비교하는 실험을 진행했다[15]. 실험은 Table 2와 같이 동일한 환경 변수의 SSD 모델을 사용하였다.
실험을 통해 본 연구에서 정의된 제스처를 사용자가 완료하는 데는 평균적으로 50 프레임이 소요되는 것을 확인하였다. 따라서 슬라이딩 윈도우 구간 크기를 50 프레임으로 설정 후, 0～ 50 프레임까지 취한 제스처를 누적하여 SSD 모델 구조에 입력하여 제스처를 분류한다. 그 후, 사용자가 프로그램을 종료하기 전까지 5 프레임씩 이동시키며 계속 누적된 매 50 프레임씩의 제스처 이미지를 순차적으로 SSD 모델에 입력하여 분류한다.
학습 데이터를 만드는 실험 군이 제스처를 입력할 때 사용자가 데이터를 입력하는 시간이 매 업데이트마다 데이터를 처리하는 시간보다 짧을 경우, 데이터를 이미지로 변환할 때 일부 픽셀이 누락되는 현상을 줄이기 위해서 팽창 연산을 수행한다. 또한 실험 군이 데이터를 입력 할 때 잘못 들어가는 일부 픽셀을 없애기 위해 침식 연산을 수행한다. Fig.
사용자의 3차원 손 좌표 정보를 립모션 센서를 통해 검출하고 X-Y 평면을 R 채널, Y-Z 평면을 G 채널, Z-X 평면을 B 채널로 만들고 이들을 합쳐 2차원의 RGB 이미지로 생성한다. 만들어진 이미지를 CNN 모델 중 하나인 SSD 모델을 통해 학습시킴으로써 손 제스처를 분류한다. 사용자가 제스처를 취할시 실시간으로 제스처를 인식하기 위해 슬라이딩 윈도우 기법을 제안한다.
본 논문에서는 가상환경에서 컨트롤러의 불편함을 대신할 보편적인 동적 제스처를 유형별로 분류하고, 이에 따른 실시간 손 제스처 인식 기법을 제안한다. Fig.
본 논문에서는 실시간으로 제스처를 분류하기 위해 CNN 모델 중 SSD를 활용하고 슬라이딩 윈도우 기법을 제안하였다. 총 8개의 제스처 종류를 구성하고 Unity3D와 립모션을 이용하여 제스처 데이터를 수집했다.
본 연구에서는 SSD 모델을 활용하여 8 종류의 제스처 분류 실험을 진행하였다. 데이터 셋의 크기는 학습 데이터와 테스트 데이터의 합이며, 학습 데이터는 3명의 실험자에 대한 데이터이고, 테스트 데이터는 2명의 피실험자에 대한 데이터이다.
본 연구에서는 신경망을 토대로 깊은 심층 구조를 형성하여 3차원 제스처 인식을 수행했다. 사용된 모델은 Fig.
만들어진 이미지를 CNN 모델 중 하나인 SSD 모델을 통해 학습시킴으로써 손 제스처를 분류한다. 사용자가 제스처를 취할시 실시간으로 제스처를 인식하기 위해 슬라이딩 윈도우 기법을 제안한다.
1은 전체적인 제스처 인식 시스템을 나타낸다. 사용자의 3차원 손 좌표 정보를 립모션 센서를 통해 검출하고 X-Y 평면을 R 채널, Y-Z 평면을 G 채널, Z-X 평면을 B 채널로 만들고 이들을 합쳐 2차원의 RGB 이미지로 생성한다. 만들어진 이미지를 CNN 모델 중 하나인 SSD 모델을 통해 학습시킴으로써 손 제스처를 분류한다.
만들어진 이미지는 손 제스처의 이동 궤적을 좌표로 나타내기 때문에 픽셀 각각의 좌표로 표현할 시 인식률이 저하될 수 있다. 이러한 현상을 줄이기 위해서 모폴로지 연산을 수행한다. 팽창과 침식 함수는 식 (4), (5)와같이 정의된다.
이를 300×300 크기의 이미지로 투영시키기 위해 좌표 정보를 0～300 범위로 정규화 하였다.
10은 학습된 모델을 이용하여 손제스처에 대해 생성된 이미지와 그에 따른 인식 결과 화면을 보인다. 제스처 학습 데이터 영상과 동일하게 립모션에서 취득되는 손 중심좌표 3개를 컬러채널로 변환하였으며, 본 연구에서 제안한 슬라이딩 윈도우 기법을 이용하여 실시간으로 사용자의 제스처를 인식하였다.
SSD는 사물 인식을 위한 CNN모델 기반 물체 인식 및 검출 알고리즘이다. 특징으로는 VGG-16을 기본으로 사용하며 하나의 심층 신경망을 사용하여 이미지의 객체를 검출한다. SSD는여러 히든 레이어에 정보가 분산되어 있다.
SSD 모델 학습을 위한 손 제스처들은 구별 가능한 동적 제스처 8개를 정의하였으며 패턴은 Table 1과 같다. 학습 데이터 960개와 테스트 데이터 240개로 구성하였으며 데이터를 수집하기 위해 3명의 학습 데이터 수집 실험 군과 2명의 테스트 데이터 수집 실험 군이 직접 손으로 제스처를 취하여 제스처의 궤적을 이미지로 변환하여 저장하였다.

대상 데이터

데이터 수집 환경은 Unity3D 게임 엔진을 활용하여 GUI(graphical user interface)를 구성하여 손 제스처 데이터를 수집했다. Fig.
본 연구는 프로세서 Intel Core I7 7700, 그래픽 카드 GTX 1080 Ti, RAM 16GB, Visual Studio 2017 환경에서 개발되었다. 딥러닝 학습을 위한 프레임워크로 Caffe를 이용하였으며 손 제스처 인터페이스를 적용한 시뮬레이션 개발을 위하여 Opencv 2.4을 기반한 OpencvforUnity 라이브러리와 Unity3D 2017.3.1.f1 엔진을 사용하였다.
기존 연구에서 사용했던 1개 채널을 이용한 CNN 기반 제스처 인식과 본 논문에서 제시한 모델의 인식의 정확도를 비교하는 실험을 진행했다[15]. 실험은 Table 2와 같이 동일한 환경 변수의 SSD 모델을 사용하였다. 각 제스처마다 30개의 입력영상을 테스트 데이터로 입력하였으며 분류기에서 나온 인식의 정확도를 Table 3에 보인다.
본 논문에서는 실시간으로 제스처를 분류하기 위해 CNN 모델 중 SSD를 활용하고 슬라이딩 윈도우 기법을 제안하였다. 총 8개의 제스처 종류를 구성하고 Unity3D와 립모션을 이용하여 제스처 데이터를 수집했다. 3차원 제스처 공간좌표를 제안모델에 학습하기 위해서 3개의 채널을 이용하여 2차원 이미지로 투영시켰으며, 제안 모델은 신경망을 토대로 심층 구조를 형성한 SSD를 활용했다.
데이터 셋의 크기는 학습 데이터와 테스트 데이터의 합이며, 학습 데이터는 3명의 실험자에 대한 데이터이고, 테스트 데이터는 2명의 피실험자에 대한 데이터이다. 학습한 데이터의 개수는 총 960개이며 정확도 측정을 위한 테스트 데이터는 제스처별 30개씩 총 240개이다. 아래 Table 2는 본 연구에서 제시한 SSD 모델 학습 환경 변수와 분류 결과로 99% 이상의 인식의 정확도를 나타낸다.

이론/모형

이 특징 맵의 크기는 모두 다르며 가로세로 크기가 38*38, 19*19, 10*10, 5*5, 3*3, 1*1 로 점점 작아진다. 예측 경계박스의 총 개수를 보면 각 클래스 당 8,732개의 경계박스를 예측하며 예측 중에서 신뢰도가 가장 큰 것만 남기고 나머지는 모두 지우는 NMS(Non-Maximum Supression) 알고리즘을 사용한다. 위 구조를 통해 위치 추정 및 입력 영상의 resampling 과정 없이도 정확도 높은 결과를 도출할 수 있다.

성능/효과

Table 3을 보면 본 연구에서 제안한 모델은 평균적으로 99.88%의 높은 인식의 정확도를 나타냈고, 기존 방법인 1개의 채널(R)만 사용할 때는 평균 94.5%의 정확도를 보였다. 각 제스처의 패턴 특징을 살펴보았을 때, 1개의 채널만 사용했을 경우, 3차원 제스처 이미지를 정면으로 보기 때문에 구분하기 힘든 6번, 7번, 8번 패턴은 인식률이 저하되는 것을 볼 수 있다.
88%로 상대적으로 적은 학습 데이터로도 높은 인식의 정확도를 확인할 수 있었다. 기존의 1개 채널만을 사용하는 알고리즘에 비해 3개의 채널을 사용함으로써 3차원적인 모션이 더 잘 검출되어 높은 인식률을 보였다. 또한 슬라이딩 윈도우 기법을 통해 실시간으로 제스처를 인식할 수 있었다.
사용자가 설정한 임계값에 따라 임계값을 초과하는 인식률만 제스처로 정의된다. 본 연구에서 제안하는 슬라이딩 윈도우 방법을 통해 실시간으로 높은 인식의 정확도를 보이는 것을 확인할 수 있었다.
사용자가 립모션을 통해 제스처를 취할 시 이미지가 Unity3D에서 생성된다. 실험을 통해 본 연구에서 정의된 제스처를 사용자가 완료하는 데는 평균적으로 50 프레임이 소요되는 것을 확인하였다. 따라서 슬라이딩 윈도우 구간 크기를 50 프레임으로 설정 후, 0～ 50 프레임까지 취한 제스처를 누적하여 SSD 모델 구조에 입력하여 제스처를 분류한다.
각 제스처의 패턴 특징을 살펴보았을 때, 1개의 채널만 사용했을 경우, 3차원 제스처 이미지를 정면으로 보기 때문에 구분하기 힘든 6번, 7번, 8번 패턴은 인식률이 저하되는 것을 볼 수 있다. 정면으로 보는 패턴의 특징이 단순할수록 다른 패턴들과 유사성이 크기 때문에 본 연구에서 제안한 알고리즘의 인식의 정확도가 높다.
3차원 제스처 공간좌표를 제안모델에 학습하기 위해서 3개의 채널을 이용하여 2차원 이미지로 투영시켰으며, 제안 모델은 신경망을 토대로 심층 구조를 형성한 SSD를 활용했다. 제안한 모델의 인식률과 학습 성능을 측정한 실험에서 제안한 모델은 99.88%로 상대적으로 적은 학습 데이터로도 높은 인식의 정확도를 확인할 수 있었다. 기존의 1개 채널만을 사용하는 알고리즘에 비해 3개의 채널을 사용함으로써 3차원적인 모션이 더 잘 검출되어 높은 인식률을 보였다.

후속연구

또한 슬라이딩 윈도우 기법을 통해 실시간으로 제스처를 인식할 수 있었다. 향후 연구로 제스처 종류를 늘리고 다양한 모델에 대한 실험을 수행할 필요가 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	손 제스처 데이터 수집 과정은 무엇을 활용하여 구성하였는가?	손 제스처 데이터 수집 과정은 Unity3D 내부에 있는 일시정지 기능을 활용하여 제스처의 시작과 끝을 구성했다. 그리고 수집된 데이터는 3차원 손 중심좌표의 궤적으로 이루어져있으며 각 제스처의 라벨링 폴더에 저장된다.
	게임 콘텐츠 내부의 캐릭터나 사물을 컨트롤하기 위한 컨트롤러는 어떤 위화감을 주고 무엇을 방해하는가?	현재 시장에 나와 있는 VR 게임은 게임화면을 보여주는 HMD 이외에도 게임 콘텐츠 내부의 캐릭터나 사물을 컨트롤하기 위한 컨트롤러가 별도로 존재한다. 그러나 이러한 컨트롤러의 존재는 게임 플레이어가 게임을 즐기는 것에 위화감을 줄 수 있고, 나아가서는 게임에 몰입하는 것을 방해할 수도 있다. 그리고 게임 컨트롤러라는 사물에 종속되어 컨트롤을 하기 때문에 VR 게임을 즐기는데 제약이 발생한다[1,2,3].
	제스처란 무엇인가?	그 중 많이 사용되고 있는 사용자 인터페이스는 제스처이다. 제스처는 사용자가 자신의 의도를 전달하기 위해 수행하는 의도된 동작뿐만 아니라 무의식 중에 의미 없이 수행하는 동작을 포함하고 있다.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증