모바일 폰의 디지털 융합과 함께, 카메라, 디스플레이, 빔 프로젝터와 같은 다양한 입출력 장치가 소형화되어 모바일 폰에 내장되고 있다. 특히, 모바일 디스플레이의 소화면의 크기를 극복하고 임장감이 넘치는 영상을 제공하기 위해, 모바일 폰에 일반 빔 프로젝터를 설치하기 위한 연구들이 진행 중에 있다. 그러나 모바일 빔 프로젝터는 백색 스크린에 투영되는 일반 빔 프로젝터와는 달리 다양한 배경색을 가진 유색 스크린에 투영될 때, 출력 영상이 왜곡되는 문제가 발생한다. 따라서 본 논문에서는 기존의 광원 추정에서 사용되던 칼라 항상성 개념을 도입하여 유색 스크린에 투영된 빔 프로젝터의 출력 영상을 보정하는 알고리즘을 제안하였다.
모바일 폰의 디지털 융합과 함께, 카메라, 디스플레이, 빔 프로젝터와 같은 다양한 입출력 장치가 소형화되어 모바일 폰에 내장되고 있다. 특히, 모바일 디스플레이의 소화면의 크기를 극복하고 임장감이 넘치는 영상을 제공하기 위해, 모바일 폰에 일반 빔 프로젝터를 설치하기 위한 연구들이 진행 중에 있다. 그러나 모바일 빔 프로젝터는 백색 스크린에 투영되는 일반 빔 프로젝터와는 달리 다양한 배경색을 가진 유색 스크린에 투영될 때, 출력 영상이 왜곡되는 문제가 발생한다. 따라서 본 논문에서는 기존의 광원 추정에서 사용되던 칼라 항상성 개념을 도입하여 유색 스크린에 투영된 빔 프로젝터의 출력 영상을 보정하는 알고리즘을 제안하였다.
With the current trend of digital convergence in mobile phone, imaging devices such as cameras, displays and beam-projectors have been made smaller and become into mobile phones. Especially, built-in beam-projectors (we call it mobile beam-projector hereafter) have been developed to overcome small s...
With the current trend of digital convergence in mobile phone, imaging devices such as cameras, displays and beam-projectors have been made smaller and become into mobile phones. Especially, built-in beam-projectors (we call it mobile beam-projector hereafter) have been developed to overcome small screen size of mobile display and to provide the realistic image while watching movies or broadcasting. However, mobile beam-projector can project an original image on various colored-screen, different from general data projector with white screen, thereby degrading the image quality of projected images. Therefore, this paper proposed a method of correcting projected images on colored-screens by adapting color constancy theory that has been mainly used for illumination estimation.
With the current trend of digital convergence in mobile phone, imaging devices such as cameras, displays and beam-projectors have been made smaller and become into mobile phones. Especially, built-in beam-projectors (we call it mobile beam-projector hereafter) have been developed to overcome small screen size of mobile display and to provide the realistic image while watching movies or broadcasting. However, mobile beam-projector can project an original image on various colored-screen, different from general data projector with white screen, thereby degrading the image quality of projected images. Therefore, this paper proposed a method of correcting projected images on colored-screens by adapting color constancy theory that has been mainly used for illumination estimation.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
반면에, 인간 시각은 광원의 분광 분포가 변화더라도, 인간 시각의 물체에 대한 기억 능력과 인지 능력으로 광원의 분광 분포의 영향을 제거한 물체의 고유색을 인지할 수 있다. 따라서 이런 인간 시각의 칼라 항상성은 디지털 카메라로 촬영된 영상에서 광원의 영향을 배제하기 위한 방법으로 연구되었다.
본 논문에서는 빔 프로젝터가 투영될 당시의 배경색의 영향을 제거하기 위해 공간적인 위치에 따른 밝기의 비 균일성 보상과 컬러 항상성에 기초한 색도 보정 알고리즘을 제안하였다. 제안한 색 보정 알고리즘을 일반 빔 프로젝터 장비에 적용하여, 백색 스크린에 투영된 영상과 유사한 결과를 획득하였다.
제안 방법
[표 2]는 Red 배경색에 3개의 패치를 투영한 후 위에서 구한 카메라 장치 특성화 과정을 수행해서, XYZ 값을 추정하였다. 카메라 장치 특성화를 수행할 때, 표준 데이터의 최대 값은 100 정도이며 이 값은 실제적으로 측정했을 때의 절대적인 크기와 상당한 차이를 가지기 때문에 각 채널의 최대 휘도 값을 보정해 주었다.
먼저, 기준이 되는 백색 스크린에 화이트 패치를 디스플레이 한 후, 카메라를 사용해서 영상을 촬영하고 영상 전체를 평균함으로써 색도 값(rwhite, gwhite, bwhite)를 추정한다. 그리고 배경색에 대해서도 동일한 방법으로 화이트 패치를 디스플레이 한 후, 배경색의 변화에 따른 색도 값 Gee血, gcolor, bwhite) 을 획득한다. 마지막으로, 원 영상 (Rm球, Gmage, Bmage) 에 색도 값의 비율을 곱해 줌으로써 배경색이 보정된 (R, , G, , B, ) 영상을 획득하게 된다.
그리고 배경색은 단일 배경색과 무늬 배경색으로 나누어서 각각 실험하였다. 단일 배경색은 공간적인 휘도가 균일하기 때문에 제안된 알고리즘에서 칼라 항상성을 이용한 색도 보정 (chromaticity correction) 알고리즘만을 적용해서 투영된 영상과 제안된 결과 영상의 색도 차를 계산함으로써 정량적인 성능을 평가하였다.
첫째, 측색기를 사용한 장치 특성화 과정을 실험하기 위해, 화이트 종이에 다양한 색상을 프린트하여 배경색을 만들고, 각 채널의 최대값으로 만든 패치를 EPSON EMP 7600 빔 프로젝터에 인가한다. 그리고 측 색기를 사용해서 각각의 배경색 위에 투영된 각 채널의 최대값에 대한 CIEXYZ 값을 측정한다. 측정된 CIEXYZ 값을 기존의 1채널 GOG (Gain Offset Gamma) 모델의 매트릭스 변환에 대입해서 빔 프로젝터의 장치 특성화 과정을 수행하였다.
그리고 배경색은 단일 배경색과 무늬 배경색으로 나누어서 각각 실험하였다. 단일 배경색은 공간적인 휘도가 균일하기 때문에 제안된 알고리즘에서 칼라 항상성을 이용한 색도 보정 (chromaticity correction) 알고리즘만을 적용해서 투영된 영상과 제안된 결과 영상의 색도 차를 계산함으로써 정량적인 성능을 평가하였다. 무늬 배경색은 색도 보정뿐만 아니라, 밝기의 공간적인 비 균일성보상까지 적용해서 결과를 분석해 보았다.
둘째, 측색기의 비용 부담으로 측색기를 사용하는 대신에 카메라 장치 특성화 기법을 사용하여, R, G, B 최대 디지털 값에 대한 XYZ 값을 추정할 수 있다. 모바일카메라의 장치 특성화란 RGB 출력 신호와 표준 색 자극치 데이터와의 관계를 설정하는 과정이다(3) 일반적으로 카메라의 장치 특성화 과정은 먼저, Gretag GolorChecker와 같은 표준 컬러 차트를 광원과 카메라의 기하학적인 위치가 0/45 설정한 후, D65 광원하에서 디지털 카메라로 촬영한다.
그러나 배경색의 정보를 추출하기 위해 사용되는 카메라의 장치 특성화 기술의 정확한 배경색의 색도 값 추정의 어려움과 CIEXYZ 색 공간에서의 계산량 처리의 문제점이 발생하였다. 따라서 배경색에 따른 적응적인 빔 프로젝터의 색 재현을 위해 CIEXYZ 색 공간이 아닌, RGB 색 공간에서 인간 시각의 칼라 항상성 (Color Constancy) 기법을 적용한 빔 프로젝터의 배경색 제거 알고리즘을 제안하였다.
촬영된 영상은 카메라의 잡음과 광원의 불균일성을 포함하기 때문에, 각 샘플의 90%에 해당하는 화소의 평균값을 RGB 대표값으로 사용한다. 마지막으로, 촬영된 RGB 값과 표준 컬러 차트가 제공하는 색 자극치인 CIEXYZ 값을 다항 회귀 방정식에 대입하여 변환 관계를 추정한다.
이러한 칼라 항상성 기법은 빔 프로젝터의 배경색의 색도 값을 추정할 때에도 그대로 적용될 수 있다. 먼저, 기준이 되는 백색 스크린에 화이트 패치를 디스플레이 한 후, 카메라를 사용해서 영상을 촬영하고 영상 전체를 평균함으로써 색도 값(rwhite, gwhite, bwhite)를 추정한다. 그리고 배경색에 대해서도 동일한 방법으로 화이트 패치를 디스플레이 한 후, 배경색의 변화에 따른 색도 값 Gee血, gcolor, bwhite) 을 획득한다.
[그림 4]는 스크린의 배경색을 고려한 모바일 빔 프로젝터의 색 보정기술의 흐름도이다. 먼저, 빔 프로젝터가 투영될 당시의 배경색의 정보를 획득하기 위해 모바일 폰에 내장된 모바일 카메라를 사용해서 배경색을 촬영한다. 그리고 배경색의 영향을 제거하기 위해 배경색 영상의 영상 크기를 모바일 디스플레이에 출력될 영상크기로 변환한다.
단일 배경색은 공간적인 휘도가 균일하기 때문에 제안된 알고리즘에서 칼라 항상성을 이용한 색도 보정 (chromaticity correction) 알고리즘만을 적용해서 투영된 영상과 제안된 결과 영상의 색도 차를 계산함으로써 정량적인 성능을 평가하였다. 무늬 배경색은 색도 보정뿐만 아니라, 밝기의 공간적인 비 균일성보상까지 적용해서 결과를 분석해 보았다.
배경색의 밝기의 비 균일성을 보상한 후, 배경색의 공간적인 색상의 변화에 대한 영향을 제거하기 위해 컬러 항상성 기법을 응용해서 보정한다. 인간은 물체에서 반사되는 빛 에너지에 기반을 두어 주위 광원의 효과를 상쇄 시켜 물체의 고유색을 인지한다.
(Linearization) 과정이 필요하다. 일반적으로 카메라는 디지털 값과 휘도 값과의 관계가 감마의 비선형적인 관계에 있고, 이 비선형적인 관계를 추정하기 위해 Gretag ColorChecker의 회색조 패치를 카메라로 촬영한 후, 그 디지털 값과 그에 대응하는 XYZ값의 관계를 최적화 프로그램을 사용해서 추정하였다. [그림 3]은 7개의 회색조 패치와 휘도 값과의 관계를 보여주고 있고, 그림에서 다른 색으로 표현된 점은 촬영된 RGB 값에 대한 휘도 값을 보여주고, 실선은 추정된 곡선이다.
제안된 알고리즘을 실험하기 위해, EPSON LCD EMP 7600 빔 프로젝터를 사용했고, 유색 스크린은 컬러 프린터로 출력된 일반 종이로 대체하였다. 그리고 배경색은 단일 배경색과 무늬 배경색으로 나누어서 각각 실험하였다.
제안한 RGB 색 공간에서의 색 보정은 영상크기 변환, 배경색 밝기의 비 균일성 보상, 칼라항상성 기법을 이용한 배경색의 색도보정으로 구성된다. [그림 4]는 스크린의 배경색을 고려한 모바일 빔 프로젝터의 색 보정기술의 흐름도이다.
제안하였다. 제안한 색 보정 알고리즘을 일반 빔 프로젝터 장비에 적용하여, 백색 스크린에 투영된 영상과 유사한 결과를 획득하였다. 정량적인 평가에서도 밝기와 색도를 순차적으로 적용한 색 보정 기술이 가장 우수한 성능을 보여주었다.
이 자극치 값은 배경색이 있는 스크린에 R, G, B 최대값으로 만들어진 패치를 투영시킨 다음, 측색기를 사용해서 측정하거나 카메라의 장치 특성화 기법을 이용하여 추정할 수 있다. 첫째, 측색기를 사용한 장치 특성화 과정을 실험하기 위해, 화이트 종이에 다양한 색상을 프린트하여 배경색을 만들고, 각 채널의 최대값으로 만든 패치를 EPSON EMP 7600 빔 프로젝터에 인가한다. 그리고 측 색기를 사용해서 각각의 배경색 위에 투영된 각 채널의 최대값에 대한 CIEXYZ 값을 측정한다.
그리고 배경색의 영향을 제거하기 위해 배경색 영상의 영상 크기를 모바일 디스플레이에 출력될 영상크기로 변환한다. 촬영된 배경색 영상의 공간적 위치에 따른 휘도 값의 분포를 이용하여 배경색의 공간적인 위치에 따른 밝기의 비 균일성을 보상한 후, 인간 시각이 물체색을 바라볼 때 광원을 영향을 제거할 수 있는 컬러 항상성 기법을 도입해서 빔 프로젝터가 투영될 당시의 배경색의 영향을 제거한다.
그리고 측 색기를 사용해서 각각의 배경색 위에 투영된 각 채널의 최대값에 대한 CIEXYZ 값을 측정한다. 측정된 CIEXYZ 값을 기존의 1채널 GOG (Gain Offset Gamma) 모델의 매트릭스 변환에 대입해서 빔 프로젝터의 장치 특성화 과정을 수행하였다. [그림 2]는 모바일 카메라로 촬영된 3종류의 배경색을 보여주고 있고, [표 1]은 장치 특성화 알고리즘의 성능을 보여주고 있다.
데이터처리
전반적으로 투영된 영상의 색상이 백색 스크린에 투영된 영상과 비슷하면서 평균적인 밝기도 동시에 유지된 것을 알 수 있다. 무늬 배경색에 적용된 제안된 알고리즘을 정량적으로 평가하기 위해 [그림 8]의 결과영상의 차 영상을 계산해서 RGB 각 채널의 평균값을 획득했다. [표 5]는 그 결과를 보여주고 있고, 제안된 알고리즘의 밝기와 색도를 동시에 고려한 [그림 8](e)의 결과가 가장 우수한 성능을 달성하였다.
화소 값이 고, Rorigianlimage, Goriginalimage, Borigianiimage M 원 영상의 화소 값이다. 배경색 영상의 휘도 값을 수식 ⑺을 통해 계산한 후, 배경색 영상의 휘도의 평균 값 YMasktage-ave를 계산한다. 그리고 배경 색 영상의 휘도의 평균값을 기준으로 배경색 영상의 각 화소에 대응되는 휘도 값(YMasg/xy))이 배경색 영상의 휘도의 평균값보다 높으면 그 차이 값만큼 원 영상의 휘도 값 (Y(x, y))을 낮추어 주고, 반대로 배경색 영상의 각 화소에 대응되는 휘도 값이 배경색 영상의 휘도의 평균값보다 작으면 그 차이 값만큼 원 영상의 휘도 값을 높여줌으로써, 배경색의 밝기의 비 균일성을 보상할 수 있다.
성능/효과
카메라 장치 특성화를 수행할 때, 표준 데이터의 최대 값은 100 정도이며 이 값은 실제적으로 측정했을 때의 절대적인 크기와 상당한 차이를 가지기 때문에 각 채널의 최대 휘도 값을 보정해 주었다. 그러나 [표 2]에서 알 수 있듯이, 측정된 값과 추정된 값과의 오차가 많이 발생한 것을 알 수 있고, 평균 색차가 13이고 최대 색차가 44의 장치 특성화 결과를 보여주었다. 따라서, 카메라 장치 특성화 기법을 사용해서는 추정된 오차로 인해 배경색에 따른 장치 특성화를 구현할 수 없고, 더 나아가 CIEXYZ 색 공간에서 배경색에 따른 빔 프로젝터의 색 보정 알고리즘을 적용할 수 없다.
배경색 영상의 휘도 값을 수식 ⑺을 통해 계산한 후, 배경색 영상의 휘도의 평균 값 YMasktage-ave를 계산한다. 그리고 배경 색 영상의 휘도의 평균값을 기준으로 배경색 영상의 각 화소에 대응되는 휘도 값(YMasg/xy))이 배경색 영상의 휘도의 평균값보다 높으면 그 차이 값만큼 원 영상의 휘도 값 (Y(x, y))을 낮추어 주고, 반대로 배경색 영상의 각 화소에 대응되는 휘도 값이 배경색 영상의 휘도의 평균값보다 작으면 그 차이 값만큼 원 영상의 휘도 값을 높여줌으로써, 배경색의 밝기의 비 균일성을 보상할 수 있다. 배경색 영상의 밝기의 비 균일성 보상은 수식 (9)로 표현된다 .
3종류의 배경색에 적용된 장치 특성화 결과는 백색 스크린을 사용한 결과와 아주 유사한 것을 알 수 있고, 이로부터 계조 전달 곡선의 가정은 성립한다고 볼 수 있다. 따라서 측 색기의 측정값을 사용해서 기존의 장치 특성화 모델의 매트릭스 안의 CEXYZ 값만 수정함으로써 배경색에 따른 우수한 장치 특성화 과정을 수행할 수 있다.
마지막으로, A광원에서 촬영된 영상에서 A광원의 영향이 배제된 영상을 획득하기 위해서 D65광원의 색도 값과 A광원의 색도 값의 비를 전체 영상에 곱해줌으로써, 칼라 항상성을 달성할 수 있다.
이는 제안된 알고리즘에서 배경색의 휘도의 비 균일성을 적용하지 않고, 단지 색도 보정 알고리즘만 적용했기 때문에 절대적인 RGB 값의 비교보다 색도 값을 비교해야 한다. 색도 값을 비교했을 때, 원 영상과 색도 보정이 적용된 결과 영상의 색도 차이 값이 원 영상과 색도 보정이 되지 않고 투영된 영상의 색도 값 차이보다 휠 씬 작은 것을 알 수 있다. [표 4]의 녹색 배경색에 대해서 동일한 결과를 획득할 수 있었으며, 이를 통해 색도 보정 알고리즘을 적용해서 단일 배경색의 영향을 제거할 수 있음을 알 수 있다.
[그림 8](e)의 결과는 배경색의 공간적인 위치에 따른 휘도의 비 균일성을 보상한 후에, 색도 보정을 순차적으로 적용한 결과 영상이다. 전반적으로 투영된 영상의 색상이 백색 스크린에 투영된 영상과 비슷하면서 평균적인 밝기도 동시에 유지된 것을 알 수 있다. 무늬 배경색에 적용된 제안된 알고리즘을 정량적으로 평가하기 위해 [그림 8]의 결과영상의 차 영상을 계산해서 RGB 각 채널의 평균값을 획득했다.
[그림 7](a)는 원 영상을 푸른색 배경색에 투영해서 촬영된 영상이고, 전반적으로 푸른 색상을 많이 포함한 것을 볼 수 있고, [그림 7](b)의 화이트 배경색에 투영된 영상보다 영상의 화질이 떨어진 것을 볼 수 있다. 특히, 인간 시각이 유채색보다는 무채색에서 배경색의 영향에 더 민감한 것을 알 수 있었다. [그림 7](c)는 칼라 항상성 기법을 적용해서 배경색의 영향을 제거한 결과 영상이다.
참고문헌 (7)
M. Tsukada and T. Tajima, 'Projector color reproduction adapted to the colored wall projector,' CGIV 2004, pp. 449-453, 2004
C. H. Son and Y. H. Ha, 'The Characterization Method of Beam-Projectior Considering Colored Screen and Illumination Level,' Proceedings of the 2006 Korea Signal Processing Conference, Ansan, Korea, vol. 19, no. 1, pp. 86, Sep. 2006
C. H. Son and Y. H. Ha, 'Implementation of the Color Matching Between Mobile Camera and Mobile LCD Based on RGB LUT,' The Journal of The Institute of Electronics Engineers of Korea, vol. 43, no. 3, pp. 25-33, May 2006
J. Y. Hardeberg, Acquisition and reproduction of color Images: Colorimetric and multispectral approaches, Dissertation.com, 2001
H. R. Kang, Color technology for electronic imaging devices, SPIE Optical Engineering Press, 1999
R. C. Gonzalez and R. E. Woods, Digital Image Processing, Prentice Hall, 2002
L. T. Maloney and B. A. Wandell, 'A computational model for color constancy,' J. Optical Soc. Am., A, vol. 3, pp. 29-33, 1986
※ AI-Helper는 부적절한 답변을 할 수 있습니다.