Each year, significant amounts of Stereoscopic 3D(S3D) contents have been introduced. However, viewers who enjoy the contents readily experience a sense of fatigue on account of various factors. Consequently, many improvement studies have been conducted with the domain of disparity by, for example, ...
Each year, significant amounts of Stereoscopic 3D(S3D) contents have been introduced. However, viewers who enjoy the contents readily experience a sense of fatigue on account of various factors. Consequently, many improvement studies have been conducted with the domain of disparity by, for example, simply controlling the disparity or optimizing the reaction speed of viewers' eyes to vergence. However, such studies are limited to the disparity domain and therefore are restricted to a limited number of applications. In this study, we attempted to transcend this limitation and analyzed how a reconstruction in color and brightness, as well as disparity and other important features, affects eyes in terms of vergence adaptation. As a result, we found that, the higher the color similarity is, the better it positively affects vergence adaptation during viewing. Based on this analysis, we propose in this paper a similar color extraction method between takes that are applicable to real-life situations. In an evaluation, the algorithm was applied to publicly available S3D contents and produced a converted color optimized image. The vergence adaptation time of this applied contents was significantly decreased. Also it was minimized through color reconstruction, thereby, being resulted in enhancing viewer concentration.
Each year, significant amounts of Stereoscopic 3D(S3D) contents have been introduced. However, viewers who enjoy the contents readily experience a sense of fatigue on account of various factors. Consequently, many improvement studies have been conducted with the domain of disparity by, for example, simply controlling the disparity or optimizing the reaction speed of viewers' eyes to vergence. However, such studies are limited to the disparity domain and therefore are restricted to a limited number of applications. In this study, we attempted to transcend this limitation and analyzed how a reconstruction in color and brightness, as well as disparity and other important features, affects eyes in terms of vergence adaptation. As a result, we found that, the higher the color similarity is, the better it positively affects vergence adaptation during viewing. Based on this analysis, we propose in this paper a similar color extraction method between takes that are applicable to real-life situations. In an evaluation, the algorithm was applied to publicly available S3D contents and produced a converted color optimized image. The vergence adaptation time of this applied contents was significantly decreased. Also it was minimized through color reconstruction, thereby, being resulted in enhancing viewer concentration.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
다음은 색상 유사도를 증가시키기 위해 연결된 테이크 간의 색상 유사도를 평가하고 이를 기반으로 유사도를 높여 줄 색상 변형 모델을 제안한다. 또한사용자의 집중도가 낮은 비중요 영역에 대한 설정 방법을 함께 제시한다.이를 실제 영상에 적용하여 원 영상과의 비교 평가를 통해 실제 환경에서 변환모델이 시각적 피로도 감소에 영향을 주는지를 확인하고 제안된 기법이 적용될 수 있는 영역에 대한 고찰을 통해 실제로 쓰일 수 있는 기술로의 가능성을 검증한다.
모델을 제안한다.본 모델은 연결된 두 테이크의 색상 및 밝기 유사도를 높여주어 분할 지점에서의 급격한 시각적 변화를 줄여 눈의 적응력을 높이고 안구 운동을 안정시켜 반응성을 향상시키기 위한 방법이다. 이를 위해 연결되는 두 테이크의 디스 패리티를 분석하여 두 영상의 유사도 색상을 결정한다.
본 실험은 빠르게 진화하는 3D콘텐츠 제작에 있어 매우 중요한 요소인 시청자 피로도를 감소시키는데 목적이 있고 결과를 통해 알 수 있듯 테이크의 분할 영역에서의 색상 및 밝기를 변형하고 디스 패리티를 이동시켜 영상을 감상하는 시청자의 안구 부담을 개선하고 안구 반응 속도를 향상시켜 시청자의 피로도를 감소시킬 수 있다는 결론을 얻었다.본 실험을 통해 얻어낸 결과를 토대로 기존에 출시된 S3D 영상을 재구성할 수 있고, 애초 콘텐츠 제작 단계에서 영상을 구성할 때 색상 변화에 대한 영향을 고려하여 테이크들을 구성한다면 시청자를 더욱 고려한 쾌적한 영상을 제공할 수 있을 것이다.
가설 설정
주목했다.색상과 밝기 정보는 영상을 구성하는 가장 기본적인 특징(Low-LevelFeature)이며 동공의 움직임과 직접적인 연관성을 지니기 때문에 빠르게 변화하는 테이크 사이에서 순응 과정에 도움을 줄 것이라는 가설을 세웠다.즉, 디스패리티 변화에 따라 안구 운동이 발생할 때 두 테이크 간의 색상 및 밝기 유사도를 증가시킴으로써 동공의 움직임을 최소화하고 이것이 안구 운동의 반응 속도에 영향을 준다면 결과적으로 눈의 피로도를 감소시키게 될 것이다.
하지만 디스패리티라는 한 가지 측면에서의 개선방법에는 한계가 있기 때문에 시각적 피로도를 감소시킬 수 있는 다른 도메인을 찾아 연구를 확장해야 한다.이를 위해 본 연구에서는 연속적으로 변화하는 테이크에서의 급변하는 색상과 밝기는 동공 움직임에 대한 부담감을 주게 되고 이는 곧 안구의 피로도를 누적시켜 안구 운동의 반응에도 영향을 줄 것이라는 가설을 세웠다.그리고 이를 확인하기 위해 테이크간의 색상과 밝기를 변형한 실험 영상을 만들어 원본을 시청할 때와의 안구 움직임을 비교하여 분석하였다.
제안 방법
후 추적을 진행하였다.각 테이크 당 30회의 반복측정을 수행하였고 실험을 수행하는 과정에서 측정 장비가 눈을 놓치는 경우 다시 Calibration 과정을 진행 후 실험을 재개하였다.
이를 위해 본 연구에서는 연속적으로 변화하는 테이크에서의 급변하는 색상과 밝기는 동공 움직임에 대한 부담감을 주게 되고 이는 곧 안구의 피로도를 누적시켜 안구 운동의 반응에도 영향을 줄 것이라는 가설을 세웠다.그리고 이를 확인하기 위해 테이크간의 색상과 밝기를 변형한 실험 영상을 만들어 원본을 시청할 때와의 안구 움직임을 비교하여 분석하였다.
이를 기반으로 색상 유사도 모델이 실제로 안구 반응에 영향을 미치는지 사전 실험을 통해 확인한다. 다음은 색상 유사도를 증가시키기 위해 연결된 테이크 간의 색상 유사도를 평가하고 이를 기반으로 유사도를 높여 줄 색상 변형 모델을 제안한다. 또한사용자의 집중도가 낮은 비중요 영역에 대한 설정 방법을 함께 제시한다.
데이터 분석 툴(Data Analysis Tool) Eye Tracker를 통해 트래킹된 눈의 움직임 데이터를 분석하여 각 영상이 시청자에게 주는 부담감을 수치화하여 보여주는 도구를 개발하였다.이 분석 도구는 변화하는 테이크에 따른 눈의 움직임을 추적하고 그 데이터를 통해 자극에 따른 안구 반응속도, 안구 운동 반응의 변화시간 등을 비교하고 상대적으로 시각적 피로감을 유발할 수 있는 구성인지의 여부를 알려주는 역할을 한다.
즉, 디스패리티 변화에 따라 안구 운동이 발생할 때 두 테이크 간의 색상 및 밝기 유사도를 증가시킴으로써 동공의 움직임을 최소화하고 이것이 안구 운동의 반응 속도에 영향을 준다면 결과적으로 눈의 피로도를 감소시키게 될 것이다. 따라서 동일한 디스패리티 변화를 갖는 두 영상(원본과 색상 변화를 준 영상)을 시청할 때의 안 구운동을 반복 측정하여 이 특징의 유효성을 검증한다. 하지만 이 과정에서 원영상에 부여된 콘텐츠 제작자의 의도를 훼손하게 되는 문제가 발생하게 된다.
하지만 이 과정에서 원영상에 부여된 콘텐츠 제작자의 의도를 훼손하게 되는 문제가 발생하게 된다. 따라서 색상 변화를 적용할 영역을 시선(Gaze)에 기반을 둔 중요도 영상(SaliencyMap)을 이용하여 시청자의 인지에 영향을 최소화 할 수 있는 영역을 선택하여 변화를 주는 방법을 함께 제시한다.
이는 피실험자의 집중도나 안구 건조에 의한 눈떨림 등에 영향을 받아 오차값들이 발생하기 때문으로 추정된다.따라서 저 역 필터(Low-Pass Filter)를 통해 오차값을 보정하였고 이를 각각 30회 반복하여 얻어진 측정값들을 모아 샘플링(Sampling)을 통해 평균 대표 커브(Curve)를 얻어내었다. 추가적으로 색상 유사도가 안구 움직임에 미치는 영향을 비교하기 위해 패치에 RGBCMYK7 가지 색상을 입혀 디스패리티 변화와 함께 색 변화를 함께 발생시켰다.
이들은 원본 영상 및 변환 영상을 각각 30차례씩 연속으로 감상하며 눈의 움직임을 측정하였다.또한 해당 변환으로 인한 영상 변형 및 체감하는 이질감 정도를 5단계로 평가하였다(이질감이 높을수록 낮은 점수로 평가).
추가적으로 색상 유사도가 안구 움직임에 미치는 영향을 비교하기 위해 패치에 RGBCMYK7 가지 색상을 입혀 디스패리티 변화와 함께 색 변화를 함께 발생시켰다.마찬가지로 이를 각각 30회씩 반복 재생을 통해 안구 움직임의 변화여부를 측정하여 안정화에 대한 일반적인 임계값인 95%에 해당하는 안구 운동 반응(Convergence)의 순응 지점(95%-Point) p를 찾아 비교하고자 하였다.GompertzCurve의 수식에서 a는 점근선에 대한 배율, b와 c는 Gompertz Curve의 양의 값을 갖는 상수들로 b는 x축에 대한 변위를 나타내고 c는 곡률(GrowthRate)을 의미하는데 우리가 알고자 하는 95% 순응 지점 p는 곧 (v-d)/a의 크기가 0.
모든 실험은 EyeTracker매뉴얼에 있는 대로 시선 추적에 앞서 Calibration과 Validation과정을 거친 후 추적을 진행하였다.각 테이크 당 30회의 반복측정을 수행하였고 실험을 수행하는 과정에서 측정 장비가 눈을 놓치는 경우 다시 Calibration 과정을 진행 후 실험을 재개하였다.
일반적인 SaliencyArea검출 알고리즘에서는 경계선 정보로는 파악하기 힘든 중요 객체(SaliencyObject, 주로 ForegroundObject)의 검출을 위해 색상의 유클리디안 거리나 텍스처, 경계선 정보 등 여러 가지 정보를 통해 객체를 추정하지만, S3D영상의 경우 영상 내의 디스패리티 차이를 통해 전경 영역을 특정할 수 있기 때문에 가우시안 피라미드(Gaussian Pyramid)를 통해 생성한 전역 경계선 영상(Blurred EdgeMap)과 디스패리티 맵을 더해 반전시키면 우리가 원하는 비 중요영역(LessSaliencyArea)을 생성할 수 있다.본 실험에서 사용한 경계선 영상은 가버 필터(GaborFilter)를 통해 가 0, 45, 90, 135도에 해당하는 4방향에 대한 경계선 영상을 생성한 뒤식 (4)[23]가우시안 피라미드를 통해 각기 5단계의 영상을 만들어 식 (5)[24]를 통해 원 영상의 크기로 동일하게 확대한 뒤 동일한 가중치로 하나의 영상을 만들어 사용한다.
색상 변환 툴( ColorReconstructionTool)본문에서 제안한 색상 변환 과정을 적용하여 연속된 두 테이크의 색상 및 디스패리티를 편집하도록 하는 툴을 제작하였다.입력된 영상을 급작스런 디스 패리티 변화를 기준으로 분리하고 각각의 대표색상을 산출, 색상 변환을 하거나 디스패리티가 발산하는 경우 디스 패리티를 이동시켜 수렴형태로 바꾸는 등의 기능을 제공한다.
실험에 앞서 S3D영상과 안구 운동간의 메커니즘을 살펴보았다.디스패리티에 의한 깊이 인지 과정에 대한 많은 연구가 있어 왔고 2004년 Me esters[18]가 정리한 조사 연구에서는 S3D와 안구 운동의 관계에 대해 정리하고 있다.
비교 측정하였다.실험의 핵심은 테이크 분할 영역에서의 색상 유사도를 증가시켰을 때의 안구 움직임을 측정하고 그 결과를 비교, 분석하여 시간 축(z축)의 결과값을 토대로 색상 유사도와 안구 반응에 따른 피로도의 상관관계를 증명하는 것이다.이 과정에서 원 영상에 대한 왜곡된 변형이 발생하여 시청자로 하여금급작스런 영상 변화에 따른 이질감이 발생하기 때문에 피실험자들로 하여금 실험 후의 설문을 통해 이질감에 대한 평가를 진행하였다.
애니메이션 라푼젤에서 일부 테이크들의 분할 지점 전후 프레임에 위 색상 변환 모델을 적용하여 색상 유사도를 높인 영상과 원영상을 비교하여 실험하였다. 이때 모든 프레임이 아닌 위 색상 분석 단계에서 검출 경계 이상의 값을 갖는 프레임에 대해서만 실험을 진행하였다.
우선 관련 연구 조사를 통해 S3D콘텐츠의 구성과 시청 환경, 시청 시의 눈의 움직임의 연관성에 대해 알아보고 이때 발생하는 피로도의 원인과 이를 감소시키기 위해 어떠한 연구가 진행되었는지를 알아본 뒤 색상 변형 모델을 통한 연구 확장 가능성을 검증한다. 이를 기반으로 색상 유사도 모델이 실제로 안구 반응에 영향을 미치는지 사전 실험을 통해 확인한다.
위 색상 변형 모델을 통해 변형된 영상을 시청할 때와 원영상을 시청할 때의 눈의 반응속도를 비교 측정하였다.실험의 핵심은 테이크 분할 영역에서의 색상 유사도를 증가시켰을 때의 안구 움직임을 측정하고 그 결과를 비교, 분석하여 시간 축(z축)의 결과값을 토대로 색상 유사도와 안구 반응에 따른 피로도의 상관관계를 증명하는 것이다.
위 선행실험에서 얻어낸 색상과 안구 운동의 관계를 바탕으로 실제 업무 환경에서 사용할 수 있는 색상 변환 모델을 제안한다.일련의 색상 변환은 디스 패리티가 급격히 변화하는 연속된 두 테이크 사이에서 수행하며 두 번째 테이크의 색상을 기준으로 첫 테이크의 색상을 조정한다.
위의 실험결과를 바탕으로 실제 S 3D 콘텐츠의 색상을 변형하여 시각적 피로도를 최소화 할 수 있는 변환 모델을 제안한다.본 모델은 연결된 두 테이크의 색상 및 밝기 유사도를 높여주어 분할 지점에서의 급격한 시각적 변화를 줄여 눈의 적응력을 높이고 안구 운동을 안정시켜 반응성을 향상시키기 위한 방법이다.
실험의 핵심은 테이크 분할 영역에서의 색상 유사도를 증가시켰을 때의 안구 움직임을 측정하고 그 결과를 비교, 분석하여 시간 축(z축)의 결과값을 토대로 색상 유사도와 안구 반응에 따른 피로도의 상관관계를 증명하는 것이다.이 과정에서 원 영상에 대한 왜곡된 변형이 발생하여 시청자로 하여금급작스런 영상 변화에 따른 이질감이 발생하기 때문에 피실험자들로 하여금 실험 후의 설문을 통해 이질감에 대한 평가를 진행하였다.테이크가 전환되는 과정에서 발생하는 색상 변화가 눈에 이질감을 주지 않을수록 높은 점수를 주도록 하였다.
눈 깜빡임은 Tracker에서 x, y좌표를 0으로 인식하기 때문에 0을 제거하고, 단속성 운동은 좌우 눈의 좌표변화가 동시에 같은 방향으로 일어나기 때문에 이를 기준으로 구분이 가능하다.이 두 가지를 구분해 제거한 뒤 저역필터를 통해 오차를 보정한 결과 값을 사용하였다.
실험하였다. 이때 모든 프레임이 아닌 위 색상 분석 단계에서 검출 경계 이상의 값을 갖는 프레임에 대해서만 실험을 진행하였다.이때 정확한 비교를 위해 H,
이때 모든 프레임이 아닌 위 색상 분석 단계에서 검출 경계 이상의 값을 갖는 프레임에 대해서만 실험을 진행하였다.이때 정확한 비교를 위해 H, 1.값을 제외한 영상의 디스패리티 등 다른 안구 운동에 영향을 줄 수 있는 요인들에 대해서는 제약을 두었다.Fig.
영화, 영상, 게임, 산업 현장, 의료 분석 등 다양한 분야에서 보다 현실적인 결과물을 보여주는 도구로 사용되고 있다.이러한 S3D콘텐츠는 양안시차에 따라 발생하는 디스패리티(Disparity)를 통해 깊이를 느낀다는 점에 착안하여 촬영 단계에서 2개의 카메라를 통해 사람이 두 눈을 통해 바라보는 영상을 각기 촬영하고 이를 양안에 보여줌으로써 실제 현실 세계를 볼 때와 유사한 경험을 제공한다.이처럼 오늘날의 S3D콘텐츠는 HVS(HumanVisualSystem) 관점에서 현상을 재현하고 있으나 실제 사람은 이외에도 보다 다양한 시각 정보들을 통해 상호 보완을 하며 현실 세계를 파악하고 구성하게 된다[7, 20].
검증한다. 이를 기반으로 색상 유사도 모델이 실제로 안구 반응에 영향을 미치는지 사전 실험을 통해 확인한다. 다음은 색상 유사도를 증가시키기 위해 연결된 테이크 간의 색상 유사도를 평가하고 이를 기반으로 유사도를 높여 줄 색상 변형 모델을 제안한다.
또한사용자의 집중도가 낮은 비중요 영역에 대한 설정 방법을 함께 제시한다.이를 실제 영상에 적용하여 원 영상과의 비교 평가를 통해 실제 환경에서 변환모델이 시각적 피로도 감소에 영향을 주는지를 확인하고 제안된 기법이 적용될 수 있는 영역에 대한 고찰을 통해 실제로 쓰일 수 있는 기술로의 가능성을 검증한다.
이를 위해 S3D영상을 구성하는 많은 특징들을 조사하였고 그 중 테이크간의 색상 변화 및 밝기 유사도에 주목했다.색상과 밝기 정보는 영상을 구성하는 가장 기본적인 특징(Low-LevelFeature)이며 동공의 움직임과 직접적인 연관성을 지니기 때문에 빠르게 변화하는 테이크 사이에서 순응 과정에 도움을 줄 것이라는 가설을 세웠다.
본 모델은 연결된 두 테이크의 색상 및 밝기 유사도를 높여주어 분할 지점에서의 급격한 시각적 변화를 줄여 눈의 적응력을 높이고 안구 운동을 안정시켜 반응성을 향상시키기 위한 방법이다. 이를 위해 연결되는 두 테이크의 디스 패리티를 분석하여 두 영상의 유사도 색상을 결정한다. 다음으로 영상의 비중요영역을 산출하여 이를 통해 시청자의 집중도가 낮은 영역에 대해 색상을 변환시키게 되는데, 이는 어떤 형태로든 색상 변환이 일어나게 되면 원작자의 의도와 달라지게 되며 시청자의 시각에서도 위화감을 줄 수 있기 때문이다.
다만 영상 전역에 색상 변환을 적용하는 경우 시청자들로 하여금 혼란을 줄 수 있기 때문에 위화감을 최소화 하기 위해 시청자의 주목도가 낮은 영역(LessSaliencyArea)을 찾아 해당 영역에 대해서만 가중치를 두어 변형을 진행한다.이를 위해 영상의 색상과 에지(Edge)정보, 디스패리티 맵을 통한 전방 물체 추정( ForegroundObjectDetection)등의 특징 정보들을 통합해 LessSaliencyArea을 생성하고 이 맵의 밝기 정보를 가중치로 사용하여 색상분석 단계에서 결정한 변환 색상값으로 테이크 1의 색상 변환을 실행한다.
다시 말해 이러한 정보들은 사물과의 거리에 매우 밀접한 연관을 가지고 있는데[4]이 중 입체시(Ster- eopsis)는 매우 강한 깊이 정보로서 HVS에서는 물체를 바라보는 양안의 디스패리티에 의해 거리감을 인지하게 된다[20].이에 따라 본 연구에서는 모든 데이터 및 문장의 디스패리티 표기는 픽셀을 기본 단위로 사용하고 좌우 영상의 특성상 수평성분만을 고려하였다(z축의 깊이 변화를 중심으로 실험).
변화시키기 위해 색상 변환 모델을 적용한다.적용을 위한 조건은 가우시안 피라미드(Gaus- sianPyramid)를 이용하여 두 테이크의 대표색상을 추출한 뒤 이를 HSLColorSpace로 변환하여 두 테이크의 H와 L값을 각각 비교한다. Hue는 색상을 0~360도의 각도로 표현한 값으로 ±로 이동함에 따라 색상이 점진적으로 변화하는 특성을 지닌다.
디스패리티에 의한 깊이 인지 과정에 대한 많은 연구가 있어 왔고 2004년 Me esters[18]가 정리한 조사 연구에서는 S3D와 안구 운동의 관계에 대해 정리하고 있다.주로 S3D환경에서 나타나는디스패리티 변화와 함께 발생하는 안구 움직임 변화를 정리한 것으로 디스패리티가 수렴하고 발산하는 과정에서 영상이 맺히는 영역과 변화 형태를 안 구운동과 순응, 두 관점에서 특징을 분석하였다.
따라서 저 역 필터(Low-Pass Filter)를 통해 오차값을 보정하였고 이를 각각 30회 반복하여 얻어진 측정값들을 모아 샘플링(Sampling)을 통해 평균 대표 커브(Curve)를 얻어내었다. 추가적으로 색상 유사도가 안구 움직임에 미치는 영향을 비교하기 위해 패치에 RGBCMYK7 가지 색상을 입혀 디스패리티 변화와 함께 색 변화를 함께 발생시켰다.마찬가지로 이를 각각 30회씩 반복 재생을 통해 안구 움직임의 변화여부를 측정하여 안정화에 대한 일반적인 임계값인 95%에 해당하는 안구 운동 반응(Convergence)의 순응 지점(95%-Point) p를 찾아 비교하고자 하였다.
이 분석 도구는 변화하는 테이크에 따른 눈의 움직임을 추적하고 그 데이터를 통해 자극에 따른 안구 반응속도, 안구 운동 반응의 변화시간 등을 비교하고 상대적으로 시각적 피로감을 유발할 수 있는 구성인지의 여부를 알려주는 역할을 한다.콘텐츠 제작자는 이를 통해 전체 콘텐츠 내의 상대적 피로유발 구간을 파악할 수 있으며 아래에서 제안하는 색상 변환 툴을 이용하여 보완할 수 있다.
이 과정에서 원 영상에 대한 왜곡된 변형이 발생하여 시청자로 하여금급작스런 영상 변화에 따른 이질감이 발생하기 때문에 피실험자들로 하여금 실험 후의 설문을 통해 이질감에 대한 평가를 진행하였다.테이크가 전환되는 과정에서 발생하는 색상 변화가 눈에 이질감을 주지 않을수록 높은 점수를 주도록 하였다.
대상 데이터
실험 영상은 애니메이션 라푼젤에서 추출한 8초짜리 테이크를 사용하였으며 각 중요영역(Saliency Area)의 평균 디스패리티를 -90px와 90px로 고정하였다(중요영역의 디스패리티를 기준으로 기준값이 맞도록 영상을 이동하였다).
실험은 2580*1440해상도의 Samsung27Inch3D Monitor와 HPWorkStation장비를 이용했고 눈의 움직임을 추적하기 위해 Eye Link 1000 Plus 장비를 사용했다.EyeLink1000모델은 초당 1000Sample (BinocularTrackinge 각 500)을 추적하여 기록할 수 있으며 눈이 바라보고 있는 모니터의 x, y 좌표를 실시간으로 기록한다.
이공대 학생들 20명으로 구성된 피실험자를 통해 실험을 진행하였으며(10M, 10F), 21살부터 35살까지 연령대의 스테레오 적합성 테스트를 통과한 인원으로 구성되어 있다.이 중 7명이 안경을 착용하고 있고 이들은 클립형 스테레오 글라스를 이용하였다.
이론/모형
색상 분석(ColorAnalysis)테이크가 바뀌며 컷이 발생하는 시점에서의 급격한 색상 변화를 보다 조화롭게 변화시키기 위해 색상 변환 모델을 적용한다.적용을 위한 조건은 가우시안 피라미드(Gaus- sianPyramid)를 이용하여 두 테이크의 대표색상을 추출한 뒤 이를 HSLColorSpace로 변환하여 두 테이크의 H와 L값을 각각 비교한다.
성능/효과
그 결과 색상의 변화가 눈에 보이기는 하지만 대체적으로 큰 이질감을 느끼지 못했다는 결론을 얻어낼 수 있었다.
그 결과 연결된 두 패치 영상의 색상이 동일할 때 안구 운동 시작 시점으로부터 순응 시점까지 걸리는 시간이 감소하는 것을 확인하였다.
해당 그래프는 피실험군 16명에 대한 평균 반응시간으로 오렌지색 선은 원영상의 반응을 나타내고 파란 선은 제안한 모델을 통해 색상 유사도를 높인 모델에 대한 반응이다.두 그래프를 통해 비교해보면 cut시작지점으로부터 안구 운동 반응이 일어나는 시점까지의 시간이 원영상에서는 122 ms, 변환영상에서는 84ms로 나타나는 것을 확인 할 수 있다.이는 테이크 분할 영역에서의 색상 유사도가 시청자의 안구 반응속도 개선에 긍정적인 영향을 미친다는 점을 나타낸다.
이와 함께 눈이 인지하는 영상 내 사물의 깊이 역시 원영상의 경우보다 더 작아지는 것을 확인할 수 있는데 이는 기존의 색상 대비와 깊이의 관계에 대한 연구에서 xy평면에나타나는 주파수 차이에 따라 깊이가 다르게 느껴지는 효과를 보인 바 있다.이로 미루어 볼 때 S 3D 영상에서의 깊이는 영상의 x, y축 외에 시간 축의 z 축간 주파수 차에 따라서도 체감 깊이가 달라지며 이로 인해 안구 운동 반응의 안정화까지의 시간이 단축된다는 결론을 얻을 수 있다.
이어 Krzysztof[14]은 테이크들이 연결되는 분할(cut)지점에서의 디스 패리 티 변화에 따른 안구 운동 반응을 분석하여 디스 패리 티 구성과 안구 운동의 반응 속도와의 관계를 체계화시켰다. 이를 응용하여 기존에 구성된 테이크내의 프레임을 분석하고 최적의 디스패리티 연결성을 지니는 분할 지점을 연결하여 안구 운동 반응을 최적화시키는 결과를 얻었다.
색상과 밝기 정보는 영상을 구성하는 가장 기본적인 특징(Low-LevelFeature)이며 동공의 움직임과 직접적인 연관성을 지니기 때문에 빠르게 변화하는 테이크 사이에서 순응 과정에 도움을 줄 것이라는 가설을 세웠다.즉, 디스패리티 변화에 따라 안구 운동이 발생할 때 두 테이크 간의 색상 및 밝기 유사도를 증가시킴으로써 동공의 움직임을 최소화하고 이것이 안구 운동의 반응 속도에 영향을 준다면 결과적으로 눈의 피로도를 감소시키게 될 것이다. 따라서 동일한 디스패리티 변화를 갖는 두 영상(원본과 색상 변화를 준 영상)을 시청할 때의 안 구운동을 반복 측정하여 이 특징의 유효성을 검증한다.
위 그래프를 통해 색상 유사도를 높였을 때 안구 운동 반응의 안정화가 빠르게 나타난다는 점을 확인할 수 있다.즉, 테이크 간의 색상 유사도의 증가는 안구의 피로도를 감소시키는데 효과적이며, 보다 편안한 영상 감상을 도울 수 있다는 결론을 도출했다.이와 함께 눈이 인지하는 영상 내 사물의 깊이 역시 원영상의 경우보다 더 작아지는 것을 확인할 수 있는데 이는 기존의 색상 대비와 깊이의 관계에 대한 연구에서 xy평면에나타나는 주파수 차이에 따라 깊이가 다르게 느껴지는 효과를 보인 바 있다.
후속연구
감소시킬 수 있다는 결론을 얻었다.본 실험을 통해 얻어낸 결과를 토대로 기존에 출시된 S3D 영상을 재구성할 수 있고, 애초 콘텐츠 제작 단계에서 영상을 구성할 때 색상 변화에 대한 영향을 고려하여 테이크들을 구성한다면 시청자를 더욱 고려한 쾌적한 영상을 제공할 수 있을 것이다.다만 본 실험은 –90px~90px의 디스패리티 변화가 발생하는 테이크 간의 변화를 기준으로 진행하였기 때문에 디스 패리 티 변화가 적은 영역의 변형에 대해서는 고려되지 않았고, 또한 색상 변화가 극단적인 경우 생성되는 비 중요영역에 대한 가중치를 적용하더라도 개인에 따라 거부감을 느낄만한 이질감을 발생시키기도 한다.
진행하였다. 하지만 디스패리티라는 한 가지 측면에서의 개선방법에는 한계가 있기 때문에 시각적 피로도를 감소시킬 수 있는 다른 도메인을 찾아 연구를 확장해야 한다.이를 위해 본 연구에서는 연속적으로 변화하는 테이크에서의 급변하는 색상과 밝기는 동공 움직임에 대한 부담감을 주게 되고 이는 곧 안구의 피로도를 누적시켜 안구 운동의 반응에도 영향을 줄 것이라는 가설을 세웠다.
참고문헌 (24)
Y. Kim and H. Kang, “An Analysis of Recovery Rate and a Change of Depth Recognition After Watching 3D Videos,” Journal of Korea Multimedia Society, Vol. 18.1, pp. 88-96, 2015.
J. CUTTING and P. VISHTON, Perceiving layout and knowing distances: The integration, relative potency, and contextual use of different information about depth. In Perception of Space and Motion (Handbook of Perception and Cognition). Academic Press, 1995.
Erkelens, C. J., R. M. Steinman, and H. Collewijn., “Ocular vergence under natural conditions II. Gaze- shifts between real targets differing in distance and direction.” Proceedings of the Royal Society of London B: Biological Sciences, 236.1285, pp. 441-465, 1989.
Hoffman, David M., et al. "Vergence–accommodation conflicts hinder visual performance and cause visual fatigue." Journal of vision 8.3 pp. 33-33, 2008.
Palmer, Stephen E. Vision science: Photons to phenomenology. Vol. 1. Cambridge, MA: MIT press, 1999.
Hung, George K., et al. "Vergence eye movements under natural viewing conditions." Investigative ophthalmology & visual science 35.9 pp. 3486-3492, 1994.
Hung, George K. "Dynamic model of the vergence eye movement system: simulations using MATLAB/SIMULINK." Computer methods and programs in biomedicine 55.1, pp. 59-68, 1998.
Hung, George K. Models of oculomotor control. Hackensack: World Scientific, 2001.
Krishnan, V. V., Faramarz Farazian, and Lawrence Stark. "AN ANALYSIS OF LATENCIES AND PREDICTION IN THE FUSIONAL VERGENCE SYSTEM*." Optometry & Vision Science 50.12, pp. 933-939, 1973.
Krishnan, V. V., DOUGLAS SHIRACHI, and LAWRENCE STARK. "Dynamic measures of vergence accommodation." Optometry & Vision Science 54.7, pp. 470-473, 1977.
Lambooij, Marc, Wijnand A. IJsselsteijn, and Ingrid Heynderickx. "Visual discomfort of 3D TV: Assessment methods and modeling." Displays 32.4, pp. 209-218, 2011.
Meesters, Lydia MJ, Wijnand A. IJsselsteijn, and Pieter JH Seuntiëns. "A survey of perceptual evaluations and requirements of threedimensional TV." Circuits and Systems for Video Technology, IEEE Transactions on 14.3, pp. 381-391, 2004.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.