[논문]모바일 증강현실을 위한 3차원 모델기반 카메라 추적

박정식; 서병국; 박종일

[국내논문] 모바일 증강현실을 위한 3차원 모델기반 카메라 추적
3-D Model-Based Tracking for Mobile Augmented Reality 원문보기

박정식 (한양대학교) , 서병국 (한양대학교) , 박종일 (한양대학교)

본 논문에서는 모바일 증강현실을 실현하기 위한 3차원 모델기반 카메라 추적 기술을 제안한다. 3차원 모델기반 추적 기술은 평면적이지 않은 객체에 적용 가능하며, 특히 텍스처가 없는 환경에서 유용하다. 제안하는 방식은 대상 객체의 3차원 모델정보로부터 영상에서 추출한 에지와의 대응점을 찾고, 대응점의 거리를 최소화하는 카메라 움직임을 추정함으로써 이전 카메라 포즈(위치 및 방향)로부터 현재 포즈가 추적되는 방식이다. 안드로이드 플랫폼의 스마트폰 상에서 제안된 방식으로 카메라 포즈를 추적하고 3차원 가상 콘텐츠를 증강시켜 봄으로써 그 유용성을 확인한다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 모바일 플랫폼의 상에서 실시간 카메라 추적을 위한 3차원 모델기반 추적 방법을 제안하고, 안드로이드 플랫폼 기반의 스마트폰을 이용해 구현, 검증함으로써 그 유용함을 확인한다.
본 논문에서는 안드로이드 플랫폼의 모바일 기기를 이용하여 3차원 모델기반 추적 방법을 구현하고 실시간으로 카메라 포즈를 추적하여 가상 콘텐츠를 증강시켜 봄으로써, 다양한 3차원 환경에서 모바일 증강현실을 구현하기 위한 핵심적 역할을 수행할 수 있음을 확인하였다. 3차원 모델기반 추적 방법은 텍스처가 적은 환경에서 추적이 가능하다는 장점이 있지만 투영된 모델의 형태의 모호성으로 인하여 추적이 어려운 경우도 있다.
현재 모바일 플랫폼 상에서 모델 정보와 특징점을 함께 사용하면서 보다 강건한 추적이 실시간에 가능한 카메라 추적 방법에 대한 연구를 진행하고 있다.

제안 방법

3차원 모델 정보를 이용하여 카메라 포즈를 추정하기 위해 먼저 이전 카메라 포즈로 투영된 3차원 모델을 영상에서 추출한 에지와 정합하여 대응점을 구한다. 그리고 구해진 대응점간의 거리를 최소화하도록 반복적으로 카메라 움직임을 계산함으로써 현재 카메라 포즈를 추정한다.
예를 들어 Samsung Galaxy S 스마트폰에서 640×480 크기의 YUV420 형식의 영상을 RGB565 형식으로 변환하는 경우 Java 로 작성할 경우 약 50 ms가 소요되는 반면, C/C++ 언어로 작성할 경우는 약 16 ms가 소요된다. 따라서 카메라 영상 입력 및 UI(User Interface) 이외의 부분은 처리속도를 위해 C/C++ 언어 함수를 JNI(Java Native Interface)를 통해 호출하는 방식으로 구현하였다.
그림 3-(가) 와 같은 특징점기반 추적 방법을 적용하기 어려운 환경에서 제안된 방식을 적용하여 카메라 포즈를 추적하고 가상 콘텐츠를 증강시켰다. 텍스처가 거의 없고 정반사가 강하게 나타나는 표면을 가진 물체를 추적에 사용하였음에도 그림 3-(바, 사) 와 같이 카메라 포즈를 추적하고 변화된 시점에 맞게 가상 캐릭터를 증강시키는 것을 확인할 수 있었다.
앞서 언급한 실험 결과에서는 도자기와 그 아래의 상자의 윗면을 함께 모델링함으로써 이러한 문제를 해결하였지만, 주변에 모델링이 용이한 물체가 없는 경우에는 주변 환경의 특징점을 모델 정보와 함께 이용하는 방법을 적용할 수 있다. 따라서 우리는 물체의 모델 정보와 물체 주변 환경의 특징점을 함께 사용하되, 모바일 기기의 성능을 고려하여 소수의 강한 특징점만을 추가로 사용하는 방법을 구현하고 실험하였다.
특징점 간의 대응점은 물체 주변 환경의 3차원 좌표를 알고 있는 강한 Harris 응답을 나타내는 코너점과 영상에서 추출한 코너점을 주변 패치을 이용하여 정합하였다. 3차원 좌표를 알고 있는 점을 사용하므로 연산량을 줄이기 위해 영상 전역에서 코너점을 추출하고 정합하는 대신, 이전 카메라 포즈로 투영된 코너점 주변의 좁은 영역에서 코너점을 추출하고 정합하였다.
특징점 간의 대응점은 물체 주변 환경의 3차원 좌표를 알고 있는 강한 Harris 응답을 나타내는 코너점과 영상에서 추출한 코너점을 주변 패치을 이용하여 정합하였다. 3차원 좌표를 알고 있는 점을 사용하므로 연산량을 줄이기 위해 영상 전역에서 코너점을 추출하고 정합하는 대신, 이전 카메라 포즈로 투영된 코너점 주변의 좁은 영역에서 코너점을 추출하고 정합하였다. 여기서, 카메라 포즈 추적은 제안된 방법과 동일하게 수행하였다.

대상 데이터

카메라 추적 처리를 위한 그레이스케일 영상은 YUV420 형식으로 입력되는 카메라 영상의 Y 채널만 추출하여 사용하였고, 카메라 프리뷰 렌더링을 위한 영상은 YUV420 형식에서 RGB565 형식으로 변환하였다. 그래픽 렌더링은 OpenGL ES 1.
카메라 추적 처리를 위한 그레이스케일 영상은 YUV420 형식으로 입력되는 카메라 영상의 Y 채널만 추출하여 사용하였고, 카메라 프리뷰 렌더링을 위한 영상은 YUV420 형식에서 RGB565 형식으로 변환하였다. 그래픽 렌더링은 OpenGL ES 1.1을 이용하였고, 3차원 캐릭터 애니메이션 렌더링을 위해 Cal3D 라이브러리를 사용하였다.
표 2 는 다양한 모바일 기기 상에서 500 프레임을 처리하는데 소요된 평균 시간을 나타낸다. 정육면체 모델은 8 개의 정점과 18 개의 선을, 도자기 모델은 673 개의 정점과 2000 개의 선을 가진 모델이 각각 사용되었다. 비교적 복잡한 도자기 모델을 640×480 영상에서 추적하는 경우에도 끊어짐 없이 원활한 추적이 가능하였다.

성능/효과

비교적 복잡한 도자기 모델을 640×480 영상에서 추적하는 경우에도 끊어짐 없이 원활한 추적이 가능하였다.
그림 3-(가) 와 같은 특징점기반 추적 방법을 적용하기 어려운 환경에서 제안된 방식을 적용하여 카메라 포즈를 추적하고 가상 콘텐츠를 증강시켰다. 텍스처가 거의 없고 정반사가 강하게 나타나는 표면을 가진 물체를 추적에 사용하였음에도 그림 3-(바, 사) 와 같이 카메라 포즈를 추적하고 변화된 시점에 맞게 가상 캐릭터를 증강시키는 것을 확인할 수 있었다.
영상 형식 변환 과정에서 약 16 ms 가 소요되었는데, 듀얼 코어 CPU에서는 렌더링 쓰레드에서 따로 수행될 수 있었기 때문에 전체 수행 시간에 큰 영향을 주지 않았지만, 싱글 코어 CPU에서는 전체 수행 시간에 비해 다소 큰 부담을 주었다. 전체 수행 시간에서 가장 큰 비중을 차지했던 부분은 영상 전역에 걸친 컨벌루션 연산과 잦은 메모리 참조를 필요로 하는 에지 검출 과정으로 약 39 ms가 소요되었다. 수행 시간이 모델의 복잡도에 크게 영향을 받는 과정은 가시성 검사와 에지 샘플링 과정뿐으로 전체 수행 시간에 비해 작은 비중을 차지하기 때문에 전체 수행 시간은 모델의 복잡도보다 영상 크기에 주로 영향을 받는 것을 확인할 수 있었다.
전체 수행 시간에서 가장 큰 비중을 차지했던 부분은 영상 전역에 걸친 컨벌루션 연산과 잦은 메모리 참조를 필요로 하는 에지 검출 과정으로 약 39 ms가 소요되었다. 수행 시간이 모델의 복잡도에 크게 영향을 받는 과정은 가시성 검사와 에지 샘플링 과정뿐으로 전체 수행 시간에 비해 작은 비중을 차지하기 때문에 전체 수행 시간은 모델의 복잡도보다 영상 크기에 주로 영향을 받는 것을 확인할 수 있었다.
3차원 모델 정보와 주변 환경의 소수의 강한 코너점을 함께 사용한 결과 그림 6 과 같이 대칭적인 물체에 대해서도 정확한 카메라 포즈를 추정하고 변화된 시점에 맞게 가상 캐릭터를 증강시킬 수 있었다.

핵심어

질문

논문에서 추출한 답변

3차원 모델기반 추적 기술은 어디에 적용 가능한가?

본 논문에서는 모바일 증강현실을 실현하기 위한 3차원 모델기반 카메라 추적 기술을 제안한다. 3차원 모델기반 추적 기술은 평면적이지 않은 객체에 적용 가능하며, 특히 텍스처가 없는 환경에서 유용하다. 제안하는 방식은 대상 객체의 3차원 모델정보로부터 영상에서 추출한 에지와의 대응점을 찾고, 대응점의 거리를 최소화하는 카메라 움직임을 추정함으로써 이전 카메라 포즈(위치 및 방향)로부터 현재 포즈가 추적되는 방식이다.

시각적 마커를 이용한 카메라 추적 방법의 단점은?

시각적 마커를 이용한 카메라 추적 방법은 그 간단함과 강건함으로 일찍부터 모바일 증강현실에 사용되어 왔다[1]. 하지만 인위적인 마커로 인해 발생되는 부자연스러운 환경은 사용자의 몰입감을 방해한다는 단점이 있다. 따라서 이러한 문제점을 해결하고 보다 자연스러운 일상 환경에서 몰입감 높은 증강현실을 제공하기 위해서 추적 환경에 존재하는 시각적 특이점, 예를 들어 코너나 에지 등을 이용하는 카메라 추적 방법에 대한 연구가 활발히 진행되어 왔다.

본 연구에서 제안하는 모바일 증강현실을 실현하기 위한 3차원 모델기반 카메라 추적 기술은 어떤 방식인가?

3차원 모델기반 추적 기술은 평면적이지 않은 객체에 적용 가능하며, 특히 텍스처가 없는 환경에서 유용하다. 제안하는 방식은 대상 객체의 3차원 모델정보로부터 영상에서 추출한 에지와의 대응점을 찾고, 대응점의 거리를 최소화하는 카메라 움직임을 추정함으로써 이전 카메라 포즈(위치 및 방향)로부터 현재 포즈가 추적되는 방식이다. 안드로이드 플랫폼의 스마트폰 상에서 제안된 방식으로 카메라 포즈를 추적하고 3차원 가상 콘텐츠를 증강시켜 봄으로써 그 유용성을 확인한다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

[국내논문] 모바일 증강현실을 위한 3차원 모델기반 카메라 추적
3-D Model-Based Tracking for Mobile Augmented Reality 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

[국내논문] 모바일 증강현실을 위한 3차원 모델기반 카메라 추적 3-D Model-Based Tracking for Mobile Augmented Reality 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

[국내논문] 모바일 증강현실을 위한 3차원 모델기반 카메라 추적
3-D Model-Based Tracking for Mobile Augmented Reality 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper