4 차 산업혁명 시대로 접어들면서 증강현실은 사회 전반에 걸쳐 무한한 가능성을 보여주고 있다. 하지만 현재의 헤드-마운트 디스플레이, 핸드-헬드 디스플레이 방식의 증강현실은 착용의 번거로움, 멀미 등의 여러 문제점이 있고 이에 따라 프로젝터 기반의 증강현실 기술인 공간증강현실이 각광받고 있다. 공간증강현실은 증강현실의 실재감을 높이고 사용자의 몰입을 유도하기 위해 가상 영상을 투영할 움직이는 물체에 대한 정밀한 추적이 필수적이다. 본 논문에서 개발한 적외선 센서 기반의 정밀 추적 알고리즘은 평균 오차율 1.5% 이내의 매우 견고한 추적 성능을 통해 기술적으로는 임의의 물체에 대한 추적과 같은 진보된 증강현실 기술을 향한 길을 열었고, 사회적으로는 비전문가도 사용하기 쉬운 추적 알고리즘을 통해 디자이너, 학생, 어린이들이 쉽게 자신만의 증강현실 콘텐츠를 제작, 즐길 수 있게 하였다.
4 차 산업혁명 시대로 접어들면서 증강현실은 사회 전반에 걸쳐 무한한 가능성을 보여주고 있다. 하지만 현재의 헤드-마운트 디스플레이, 핸드-헬드 디스플레이 방식의 증강현실은 착용의 번거로움, 멀미 등의 여러 문제점이 있고 이에 따라 프로젝터 기반의 증강현실 기술인 공간증강현실이 각광받고 있다. 공간증강현실은 증강현실의 실재감을 높이고 사용자의 몰입을 유도하기 위해 가상 영상을 투영할 움직이는 물체에 대한 정밀한 추적이 필수적이다. 본 논문에서 개발한 적외선 센서 기반의 정밀 추적 알고리즘은 평균 오차율 1.5% 이내의 매우 견고한 추적 성능을 통해 기술적으로는 임의의 물체에 대한 추적과 같은 진보된 증강현실 기술을 향한 길을 열었고, 사회적으로는 비전문가도 사용하기 쉬운 추적 알고리즘을 통해 디자이너, 학생, 어린이들이 쉽게 자신만의 증강현실 콘텐츠를 제작, 즐길 수 있게 하였다.
As the era of the fourth industrial revolution began, augmented reality showed infinite possibilities throughout society. However, current augmented reality systems such as head-mount display and hand-held display systems suffer from various problems such as weariness and nausea, and thus space-augm...
As the era of the fourth industrial revolution began, augmented reality showed infinite possibilities throughout society. However, current augmented reality systems such as head-mount display and hand-held display systems suffer from various problems such as weariness and nausea, and thus space-augmented reality, which is a projector-based augmented reality technology, is attracting attention. Spacial augmented reality requires precise tracking of dynamic objects to project virtual images in order to increase realism of augmented reality and induce user 's immersion. The infrared sensor-based precision tracking algorithm developed in this paper demonstrates very robust tracking performance with an average error rate of less than 1.5% and technically opens the way towards advanced augmented reality technologies such as tracking for arbitrary objects, and Socially, by easy-to-use tracking algorithms for non-specialists, it allows designers, students, and children to easily create and enjoy their own augmented reality content.
As the era of the fourth industrial revolution began, augmented reality showed infinite possibilities throughout society. However, current augmented reality systems such as head-mount display and hand-held display systems suffer from various problems such as weariness and nausea, and thus space-augmented reality, which is a projector-based augmented reality technology, is attracting attention. Spacial augmented reality requires precise tracking of dynamic objects to project virtual images in order to increase realism of augmented reality and induce user 's immersion. The infrared sensor-based precision tracking algorithm developed in this paper demonstrates very robust tracking performance with an average error rate of less than 1.5% and technically opens the way towards advanced augmented reality technologies such as tracking for arbitrary objects, and Socially, by easy-to-use tracking algorithms for non-specialists, it allows designers, students, and children to easily create and enjoy their own augmented reality content.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
본 논문에서는 공간증강현실 구현을 위해 적외선 센서기반 동적물체 정밀 추적 알고리즘을 제안하였다. 본 논문의 알고리즘은 탐색할 물체에 대한 깊이정보 외에 추가적인 정보나 학습 없이 물체의 자세 자유도에 견고한탐색 알고리즘을 포함하고 있다.
본 논문에서는 적외선 센서 기반 동적 물체 추적 알고리즘을 제안한다. 본 논문에서 제안하는 추적 알고리즘은기존의 알고리즘들과 달리 어떠한 추가적인 센서나 마커등을 사용하지 않으면서 추적의 정밀도를 향상시켰다.
본 알고리즘 목표 물체 탐색의 핵심은 ICP를 이용한 탐색이다. 본 방법으로는 Figure 6 과 같이 하나의 물체점군으로 모든 자세의 목표물체를 탐색할 수 없다.
제안 방법
2에서 생성한 물체점군 집단 간의 ICP를 수행한다. ICP 결과로 도출된 변환행렬을 물체점군에 적용하여 클러스터에 일치시킨 뒤 클러스터의 각 점이 물체점군에서 하나의 최근접 점 만을 찾도록 K-Nearest neighbor search( 이하 KNN ) 을 수행하고 찾은 최근접점과의 거리에 따라 클러스터이상점에 가중치를 가한 후 합해 일치도를 구한다. 본논문에서 설정한 거리 범위와 범위에 따른 가중치는 Table 1과 같다.
RNN을 이용하여 이전물체 점군에서 유효점의 인접점군추출 후 인접점들의 Point Feature Histogram[7, 8]( 이하 PFH ) 를 도출한다. 여기서 PFH란 두 영상의 일치점을탐색할 때, 일치점을 비교하기 위해 사용되는 기하학적정보를 도출하는 알고리즘이다.
또한 개략적 추적 - 이동 추적 - ICP 의 3단계에 걸친 추적과정을 통해 추적정밀도를 향상 시켰다. 더해서 Kinect v2와 같은 적외선깊이센서의 불안정한 깊이정보로 인한 추적 정밀도 저하를 해결하기 위해 물체의 정적/ 동적 상태를 판단, 각각의 경우에 적합한 추적 방식을 따로 적용해주었다. 일부가 가려진 물체나 손에 들려있는 물체에 대한 견고한 추적을 위해 축소점군을 이용한 목표물체에 대한 점군과불필요한 점군의 효과적인 분리 방법 또한 제안하였다.
즉 물체가 매우 빠른 속도로 움직이지 않는 이상 이동 거리나 회전각이 정적 상태일 때와 큰 차이가 없다. 따라서 데이터 큐에 n 프레임 이전 까지의 목표물체 점군들을 저장함으로서 현재 목표물체 점군과 n 프레임 이전 목표물체 점군을 비교하여 동적 상태를 판단한다.
또한 Kinect fiision[9]기술을 적용하여 실시간 물체 깊이정보복원, 추적을 동시에 수행하여 임의의 물체에 대한 추적을 구현할 것이다. 콘텐츠 개발 또한 병행하여 프로젝터기반 실시간 색 보정 기술[10]을 본 알고리즘에 적용함으로서 손가락을 붓삼아 움직이는 물체에 직접 텍스쳐를입히는 저작도구를 개발할 예정이다.
본 논문의 알고리즘은 탐색할 물체에 대한 깊이정보 외에 추가적인 정보나 학습 없이 물체의 자세 자유도에 견고한탐색 알고리즘을 포함하고 있다. 또한 개략적 추적 - 이동 추적 - ICP 의 3단계에 걸친 추적과정을 통해 추적정밀도를 향상 시켰다. 더해서 Kinect v2와 같은 적외선깊이센서의 불안정한 깊이정보로 인한 추적 정밀도 저하를 해결하기 위해 물체의 정적/ 동적 상태를 판단, 각각의 경우에 적합한 추적 방식을 따로 적용해주었다.
5% 미만의 정밀도, 평균 속도 8~15fj5s 로 물체를 추적한다. 또한 손에 들려있는 물체, 무언가에 의해 일부가 가려진 (Occluded) 물체에 대한 정밀한 추적을 보장하며 Kinect v2 와 같은 적외선 깊이센서의 불안정한 깊이정보로 인한 추적 정밀도 저하를 해결하였다. 탐색할 물체에 대한깊이정보 외에 추가적인 정보나 학습 없이 물체의 자세자유도에 견고한 탐색 방식을 제안함으로서 추적할 물체를 탐색하고, 추적하는 모든 과정이 자동화가 되어 디자이너나 학생등과 같은 비전문가들이 사용하기에 용이하게 하였다.
탐색할 물체에 대한깊이정보 외에 추가적인 정보나 학습 없이 물체의 자세자유도에 견고한 탐색 방식을 제안함으로서 추적할 물체를 탐색하고, 추적하는 모든 과정이 자동화가 되어 디자이너나 학생등과 같은 비전문가들이 사용하기에 용이하게 하였다. 마지막으로 적외선 센서만을 사용한 추적을통해 맵핑 영상의 제한을 없애고 추적 공간의 라이트 컨디션에 견고한 추적성능을 구현하였다.
목표물체 후보인 클러스터의 법선벡터와 그것과 일치하는 물체점군의 법선벡터의 일치도를 계산하여 최고 일치도인 클러스터를 목표물체로 판단한다.
특히 깊이정보의 불안정성에 따른 점군의 자글거림으로 인해 정적 상태의 물체를 추적, 맵핑시 맵핑 영상 또한 불안정하게 진동하는 치명적인 단점이 존재했다. 본 논문에서 제안하는 물체 추적 알고리즘은 물체의 정적, 동적 상태를 판단하여 각각의 경우에맞는 추적 방식을 적용함으로서 이와 같은 문제를 해결하였다. 또한 손에 들려있는 물체, 일부가 가려진 물체의견고한 추적을 위한 목표물체 분리 과정을 포함하고 있다.
본 논문에서 제안하는 추적 알고리즘의 효용성을 평가하기위해, 한 변의 길이가 6cm인 정육면체 물체를 Microsoft Kinect v2를 이용해 추적한 추적 정확도, 속도 성능 테스트를 진행하였다. 정육면체가 같은 거리를 속도를 달리하여이동하게 함으로서 이를 추적알고리즘을 통해 추적한 결과와 비교하여 물체의 이동 속도에 따른 오차거리를 계산함으로서 정밀도를 평가하였으며 실험결과의 객관성 확보를 위해 서보 모터를 이용한 테스트 모듈을 제작하여 실험하였다.
파악한다. 본 논문에서 제안하는 탐색 알고리즘은 기존의 점군을 이용한 탐색 알고리즘과 달리 탐색을 위해물체점군을 제외한 어떠한 추가적인 정보[2]나 학습[5], 상황설정이 필요하지 않다. 또한 목표물체의 자세 자유도에 견고한 탐색이 가능하다.
특징점( 이하 유효점 )을 선택한다. 본 논문에서는 다양한 물체에 대한 실험을 통해 도출한 적절한 임계값으로 n을 5 개로, 거리 기준치를 5mni로 설정하였다.
본 논문에서는 다양한 물체에 대한 실험을 통해거리 임계치를 lcm 로 설정하였다.
여기서 PFH란 두 영상의 일치점을탐색할 때, 일치점을 비교하기 위해 사용되는 기하학적정보를 도출하는 알고리즘이다. 본 논문에서는 다양한물체에 대한 실험을 거쳐 이전물체 점군의 인접점 범위를 3cm 로 설정하였다.
즉, 회전각에 따라 탐색 속도와탐색 성능이 결정되기 때문에 적절한 회전 각 설정이 중요하다. 본 논문에서는 실험을 통해 도출한 최적의 회전각으로 90’ 를 설정하였다.
설정한 범위 내의 점군을추출하여 목표 물체 점군으로 설정한다. 본 논문에서는다양한 물체에 대한 실험을 통해 도출한 적절한 추적영역 범위로서 이전 프레임의 물체 위치로부터 ±8cm 영역으로 설정하였다.
동적물체 정밀 추적 알고리즘을 제안하였다. 본 논문의 알고리즘은 탐색할 물체에 대한 깊이정보 외에 추가적인 정보나 학습 없이 물체의 자세 자유도에 견고한탐색 알고리즘을 포함하고 있다. 또한 개략적 추적 - 이동 추적 - ICP 의 3단계에 걸친 추적과정을 통해 추적정밀도를 향상 시켰다.
현상이 발생한다. 본 논문의 추적 알고리즘은 이와같은 문제를 해결하기 위해 물체의 정적, 동적 상태를판단, 동적 상태일 때에만 ICP를 수행한다. 하지만 이와같은 방법은 미세한 움직임에 대해서도 정적 상태로 판단하여 추적을 하지 않는 문제가 존재한다.
여기서 자세 자유도란 Figure 4와 같이 키넥트를 향해 목표물체가 취하고 있는자세를 의미한다. 본 알고리즘은 목표물체와 비슷한 형태의 물체로 인한 오탐을 방지하기 위해 탐색 정제과정을 포함하고 있다.
또한 손에 들려있는 물체, 일부가 가려진 물체의견고한 추적을 위한 목표물체 분리 과정을 포함하고 있다. 본 추적 알고리즘은 이전의 목표물체( 이하 이전물체 ) 위치 추적 정보를 이용하여 다음의 목표물체 위치를추적하는 방식을 사용하고 있다. Figure 10 과 같이 이전프레임의 손에 해당하는 점군, 추적할 물체를 가리고 있는 점군이 분리된 목표물체 점군과 그에 추적되어 있는물체점군, 축소점군, 특징점군을 이용하여 현재 프레임의손, 목표물체를 가리고 있는 점군이 포함되어있는 목표물체 점군을 추적한다.
알고리즘 최초 시작시 키넥트로 들어오는 공간에 대한점군중 추적할 물체( 이하 목표물체 )에 해당하는 점군을 파악한다. 본 논문에서 제안하는 탐색 알고리즘은 기존의 점군을 이용한 탐색 알고리즘과 달리 탐색을 위해물체점군을 제외한 어떠한 추가적인 정보[2]나 학습[5], 상황설정이 필요하지 않다.
유효점 인접점군 법선벡터 평균계산 & 일치도 비교 Fixed-Radius near neighbors search( 이하 RNN )를 이용해클러스터와 물체점군에서 유효점의 인접점 추출, 각각의법선벡터 평균 계산 후 내적을 통해 두 법선벡터의 일치도를 산출한다.。개의 클러스터 인접점과 (3개의 물체점군 인접점의 법선벡터 일치도 산출 식은 다음과 같다.
일부가 가려진 물체나 손에 들려있는 물체에 대한 견고한 추적을 위해 축소점군을 이용한 목표물체에 대한 점군과불필요한 점군의 효과적인 분리 방법 또한 제안하였다. 이와 같은 방법들을 통해 기존의 연구들과 달리 추가적인 센서나 마커 없이 적외선 센서만을 이용한 정밀한 추적을 구현함으로서 여러 개의 물체 추적, 어떠한 사전데이터도 없는 임의의 물체 추적과 같은 진보된 증강현실 기술을 향한 길을 열었다. 또한 추적할 물체 탐색, 추적의 모든 과정을 자동화함으로서 비전문가들도 쉽게 사용 할 수 있도록 하면서, 많은 디자이너, 학생, 어린이들이 쉽게 자신들만의 증강현실 콘텐츠를 제작하여 즐길수 있도록 하였다.
더해서 Kinect v2와 같은 적외선깊이센서의 불안정한 깊이정보로 인한 추적 정밀도 저하를 해결하기 위해 물체의 정적/ 동적 상태를 판단, 각각의 경우에 적합한 추적 방식을 따로 적용해주었다. 일부가 가려진 물체나 손에 들려있는 물체에 대한 견고한 추적을 위해 축소점군을 이용한 목표물체에 대한 점군과불필요한 점군의 효과적인 분리 방법 또한 제안하였다. 이와 같은 방법들을 통해 기존의 연구들과 달리 추가적인 센서나 마커 없이 적외선 센서만을 이용한 정밀한 추적을 구현함으로서 여러 개의 물체 추적, 어떠한 사전데이터도 없는 임의의 물체 추적과 같은 진보된 증강현실 기술을 향한 길을 열었다.
진행하였다. 정육면체가 같은 거리를 속도를 달리하여이동하게 함으로서 이를 추적알고리즘을 통해 추적한 결과와 비교하여 물체의 이동 속도에 따른 오차거리를 계산함으로서 정밀도를 평가하였으며 실험결과의 객관성 확보를 위해 서보 모터를 이용한 테스트 모듈을 제작하여 실험하였다. 총 5번의 테스트를 통해 도출한 결과는 Table 2와 같다.
추적 알고리즘의 추적속도 테스트 또한 마찬가지로 정육면체가 같은 거리를 속도를 달리하여 이동하게 하면서 이를추적 알고리즘이 추적하는 동안의 프레임레이트를 측정하여평균 프레임레이트를 계산하였다. 총 7번의 테스트를 통해도출한 결과는 Table 3, chart 1과 같다.
이론/모형
본 논문의 추적 알고리즘은 ICP를 이용한다. ICP 의 특성상 추적 성능이 두 물체간의 거리에 반비례하기 때문에 목표물체 점군의 중점에 이전물체 점군의 중점을 이동시켜 이전물체와 그에 추적되어있는 점군 정보들을 목표물체에 개략적으로 추적시킨다.
성능/효과
이와 같은 방법들을 통해 기존의 연구들과 달리 추가적인 센서나 마커 없이 적외선 센서만을 이용한 정밀한 추적을 구현함으로서 여러 개의 물체 추적, 어떠한 사전데이터도 없는 임의의 물체 추적과 같은 진보된 증강현실 기술을 향한 길을 열었다. 또한 추적할 물체 탐색, 추적의 모든 과정을 자동화함으로서 비전문가들도 쉽게 사용 할 수 있도록 하면서, 많은 디자이너, 학생, 어린이들이 쉽게 자신들만의 증강현실 콘텐츠를 제작하여 즐길수 있도록 하였다.
제안한다. 본 논문에서 제안하는 추적 알고리즘은기존의 알고리즘들과 달리 어떠한 추가적인 센서나 마커등을 사용하지 않으면서 추적의 정밀도를 향상시켰다. 적외선 센서만을 이용해서 평균 오차율 1.
이 같은 문제를 별도의 이동변환 추적 알고리즘이 동적상태일 때뿐만 아니라 정적상태일 때에도 수행되게 함으로서 해결한다. 본 이동변환 추적 알고리즘은 미세한 움직임에 대한추적뿐만 아니라 격렬한 움직임에 대한 개략적 추적도가능하여 ICP 의 추적성능을 향상시킨다.
실험 결과 본 추적 알고리즘이 물체의 이동속도에 상관없이견고한 추적 성능을 보인다는 것을 확인할 수 있었다.
실험 결과, 물체가 정지해 있거나 정적 상태로 판단될만큼 느리게 움직이는 경우 ICP를 수행하지 않기 때문에 13-15 fps 의 속도로 추적하였으나, 물체가 1.5cm/s 이상의 속도로 움직이면 동적상태로 판단, ICP가 수행되어정적상태 일 때보다 다소 느린 8~9fps 의 속도로 추적하는 것을 확인할 수 있었다.
후속연구
Projector - Camera system 상에서 RGB 맵핑 영상 자체를 마커처럼 사용하여 추적하는 방식도 연구가 되었는데 [3] 맵핑 영상이 마커로 쓰일 수있을 만큼 복잡해야한다는 조건이 따라붙고 RGB 데이터를 사용하므로 추적 공간의 라이트 컨디션에 취약할 수밖에 없다. 라이트 컨디션에 견고한 추적을 하기 위해 RGB 데이터를 HUV 데이터로 변환하여 추적하는 방법도 개발이 되었는데 [4] 이 방법은 추적할 물체의 기하학적 정보중 중점 정보만 사용하여 이동변환만을 추적할수 있다는 한계점이 존재한다.
또한 Kinect fiision[9]기술을 적용하여 실시간 물체 깊이정보복원, 추적을 동시에 수행하여 임의의 물체에 대한 추적을 구현할 것이다. 콘텐츠 개발 또한 병행하여 프로젝터기반 실시간 색 보정 기술[10]을 본 알고리즘에 적용함으로서 손가락을 붓삼아 움직이는 물체에 직접 텍스쳐를입히는 저작도구를 개발할 예정이다.
향후 본 논문에서 사용한 Kinect v2 적외선 센서를 좀 더고속의 적외선 센서로 대체하고 알고리즘 또한 gpu 기반작동으로 변경하여 추적속도를 향상시킬 것이다. 또한 Kinect fiision[9]기술을 적용하여 실시간 물체 깊이정보복원, 추적을 동시에 수행하여 임의의 물체에 대한 추적을 구현할 것이다.
참고문헌 (10)
G. Narita, Y. Watanabe, and M. Ishikawa, "Dynamic projection mapping onto deforming non-rigid surface using deformable dot cluster marker," IEEE Transactions on visualization and computer graphics, pp. 1235-1248, 2017.
Y. Zhou, S. Xiao, N. Tang, Z. Wei, and X. Chen, "Pmomo: projection mapping on movable 3D object," ACM Conference on Human Factors in Computing Systems, pp. 781-790, 2016.
C. Resch, P. Keitler, and G. Klinker, "Sticky projections-a new approach to interactive shader lamp tracking," IEEE International Symposium on Mixed and Augmented Reality, pp. 151-156, 2014.
T. Sueishi, H. Oku, and M. Ishikawa, "Lumipen 2: Dynamic Projection Mapping with Mirror-Based Robust High-Speed Tracking against Illumination Changes," PRESENCE: Teleoperators and Virtual Environments, 2017.
B. Drost, M. Ulrich, N. Navab, and S. Ilic, "Model globally, match locally: Efficient and robust 3D object recognition," IEEE Computer Vision and Pattern Recognition, pp. 998-1005, 2010.
A.-J. Trevor, S. Gedikli, R.-B. Rusu, and H.-I. Christensen, "Efficient organized point cloud segmentation with connected components," Semantic Perception Mapping and Exploration, 2013.
R.-B. Rusu, N. Blodow, and M. Beetz, "Fast point feature histograms (FPFH) for 3D registration," IEEE International Conference on Robotics and Automation, pp. 3212-3217, 2009.
R.-B. Rusu, Z.-C. Marton, N. Blodow, and M. Beetz, "Learning informative point classes for the acquisition of object model maps," IEEE Control, Automation, Robotics and Vision, pp. 640-650, 2008.
S. Izadi, D. Kim, O. Hilliges, D. Molyneaux, R. Newcombe, P. Kohli, and A. Fitzgibbon, "KinectFusion: real-time 3D reconstruction and interaction using a moving depth camera," ACM Proceedings of the 24th annual ACM symposium on User interface software and technology, pp. 559-568, 2011.
C. Siegl, M. Colaianni, L. Thies, J. Thies, M. Zollhofer, S. Izadi, and F. Bauer, "Real-time pixel luminance optimization for dynamic multi-projection mapping," ACM Transactions on Graphics, 34(6), 2015.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.