‘보는 것이 믿는 것이다(seeing is believing)’라는 유명 격언은 멀지 않은 미래에는 사용할 수 없게 될 지도 모른다. 눈으로 분명히 영상을 보고는 있지만, 그 영상이 진짜인지 혹은 가짜인지를 도저히 판단할 수 없는 무서운 세상이 현실로 다가오고 있기 때문이다.

가짜 동영상으로 인해 유명인들의 피해 증가

가짜 동영상의 심각성을 전 세계 네티즌들이 깨달을 수 있었던 데는 지난 4월 동영상 공유 사이트인 유튜브에 올라온 한 개의 동영상 때문이었다. 전 미국 대통령인 오바마가 현 미국 대통령인 트럼프를 향해 독설을 퍼붓는 동영상이 유튜브에 공개된 것.
화면에 등장한 오바마 전 대통령은 예전과 다름없는 모습을 하고 있었지만, 표정만은 단호하게 지으며 “우선 결론만 말해 보겠습니다. 트럼프 대통령은 진짜 머저리(dipshit) 같은 인간입니다”라고 말했다.
가뜩이나 전임 대통령과 현 대통령의 사이가 좋지 않은 상황에서 이 같은 동영상이 공개되자마자 미 정가는 벌집을 쑤셔 놓은 듯 난리가 났다. 하지만 동영상을 제작한 곳에서 즉시 ‘동영상은 가짜’라는 해명 자료를 발표하면서 논란은 수그러들 수 있었다.
동영상을 제작한 곳은 버즈피드라는 인터넷 매체로서 영화감독인 조든 필(Jordan Peele)과 함께 이 같은 가짜 동영상을 만들어냈다. 필 감독은 “오바마 전 대통령은 그런 말을 한 적이 없다”라고 밝히며 “가짜 동영상의 폐해가 얼마나 심각한지를 알리기 위해 이 같은 영상을 만들었다”라고 설명했다.
파문은 곧바로 진화되었지만, 후폭풍은 지금까지도 거세게 일어나고 있는 중이다. 그 이유는 동영상에 등장하는 오바마 전 대통령의 표정이 너무나 자연스러웠기 때문이다. 가짜 동영상이라면 어딘가가 어색해 보여야 정상인데, 너무 진짜인 것처럼 보인다는 점에서 네티즌들은 충격을 받았다.
가짜 동영상 사건으로 인해 본의 아니게 피해를 입은 사람은 오바마 전 대통령 외에도 독일의 메르켈 총리가 있다. 역시 유튜브에 올라온 가짜 동영상에서 메르켈 총리가 마치 히틀러를 연상시키는 말투로 “우리 유럽인들은 우리 손으로 운명을 결정해야 합니다. 미국 및 영국과 우호 관계 속에 가능하면 러시아나 다른 좋은 이웃들과 말입니다”라고 말했다.
메르켈 총리가 미국의 트럼프 대통령이나 러시아의 푸틴 대통령을 껄끄럽게 여긴다는 사실을 알고 있는 사람이 이 영상을 봤다면, 이중적인 태도를 가진 지도자라고 생각할 수도 있는 내용이었다. 반대로 그런 사실을 몰랐다면 메르켈 총리가 히틀러처럼 독재자 같은 면모를 갖고 있다고 오해할 수도 있는 장면이었다.
국내라고 해서 예외는 아니다. 최근 모 아이돌 그룹의 멤버이자 유명 가수인 A양은 있지도 않은 자신의 나체 영상을 인터넷에 유포한 네티즌을 잡아달라고 경찰에 사건을 의뢰한 바 있다. 이 역시 오바마 전 대통령이나 메르켈 총리를 난처하게 만든 가짜 동영상을 만드는 기술로 제작된 것이었다.

가짜 뉴스로 사회가 전복되는 위기도 겪을 수 있어

가짜 동영상을 만드는 주범은 딥페이크(deep fake)란 기술이다. 인공지능(AI)이나 얼굴매핑(facial mapping)과 같은 기술을 활용하여 특정한 영상에 또 다른 영상을 합성한 편집 기술을 가리킨다.
딥페이크의 원리는 인공지능 기술의 하나인 머신러닝(machine learning)을 기반으로 하고 있다. 머신러닝은 컴퓨터에 충분히 많은 데이터를 입력한 다음 여기서 일반적 패턴을 찾아내는 방법이다.
컴퓨터에 합성하려는 대상의 다양한 표정이나 촬영 각도와 같은 데이터를 입력한 후, 대입할 영상을 고르게 되면 컴퓨터가 스스로 데이터를 재구성하면서 영상을 바꿔 나가는 것이다.
예를 들어 A라는 사람의 얼굴이 찍힌 수 천 장의 사진을 컴퓨터에 데이터로 입력한 뒤, 특정한 영상에 등장하는 B라는 사람의 얼굴을 지정하면 프로그램이 알아서 B의 얼굴을 A로 바꿔 준다.
이에 대해 한국전자통신연구원(ETRI)의 관계자는 “원리가 단순한 만큼 프로그램만 있다면 누구나 시도해볼 수 있을 정도로 쉽다”라고 지적하며 “따라서 이를 악용한다면 수많은 부작용을 낳을 수 있을 정도로 위험한 기술‘이라고 평가했다.
실제로 미국안보센터(CNAS)의 경우 딥페이크 기술의 등장이 인종과 빈부, 종교 등의 문제에 도화선이 될 수 있음을 우려하고 있다. CNAS의 대변인은 “가짜 정보의 범람으로 사회가 전복되는 위기를 마주할 수도 있을 것”이라고 전망하며 “전 세계는 딥페이크로 인해 ‘진실의 종언’에 직면하게 될 것”이라고 경고했다.
이 같은 가짜 뉴스 문제를 해결하기 위한 움직임도 빨라지고 있다. 해외에서는 미국의 방위고등연구계획국(DARPA)이 가짜 사진과 영상을 분간할 수 있는 프로그램을 개발하고 있고, 국내에서도 과학기술정보통신부 주최로 매년 개최하는 ‘인공지능 R&D 챌린지 대회’를 통해 가짜 이미지를 파악하는 기술을 공모하고 있다.
올해 열린 ‘2018 인공지능 R&D 챌린지 대회’에서는 예선 대회를 거쳐 진출한 40개 팀이 합성된 사진을 찾아내는 경연을 진행한 바 있다. 대회는 가짜 사진과 진짜 사진을 수천 장 제공한 후 이 중에서 진짜와 가짜를 얼마나 정확하게 구분하는가를 겨루는 방식으로 진행되었다. 참가팀들이 사진 선별을 위해 인공지능 기술을 사용하여 순위를 가렸다.