[논문]불법촬영물 검색 방지를 위한 시험 세트 방안 연구

신용녀

doi:10.7236/jiibc.2023.23.3.27

불법촬영물 검색 방지를 위한 시험 세트 방안 연구
A Study on Test Set to prevent illegal films searches 원문보기

The journal of the institute of internet, broadcasting and communication : JIIBC, v.23 no.3, 2023년, pp.27 - 33

신용녀 (마이크로소프트)

초록
AI-Helper

세계 각국은 아동 그루밍(grooming)과 같은 아동 성 착취 이미지의 제작 및 배포에 강력한 법 집행이 요구하고 있다. 이러한 사회적 문제의 규모와 중요성을 고려할 때 법 집행 기관, 정부, 업계, 정부 기관의 광범위한 협력이 필요하다. N-번방 사건이후 국내에서도 사전조치의무사업자의 제공 부가통신서비스에 대한 전기통신사업법 시행령의 일부 개정이 있었다. 국내 Naver등은 ETRI(한국전자통신연구원)의 자체기술을 탑재하여 불법촬영물에 대하여 필터링을 수행하는데 반해 Microsoft는 자체 PhotoDNA기술을 사용한다. Microsoft의 PhotoDNA는 불법 촬영물 등 비교, 식별하는 기술 자체가 뛰어나 Twitter등 주요 글로벌 사업자가 이미지를 탐지하고 필터링하는데 PhotoDNA 기술을 적용하고 있다. Microsoft는 한국 정부의 시험 기준에 맞추기 위해서 Bing 서비스에 적용되고 있는 "PhotoDNA for Video 2.0A"에 대하여 KCC(방송통신심의위원회)/TTA(한국정보통신기술협회)와 협력하여 총 16회가 넘게 성능 시험을 수행하였다. 본 논문에서는 기준에 통과하지 못한 사례에 대하여 분석하여 로고 추가 관련 개선방안을 도출한다. 또한, 불법촬영물에 대한 필터링 성능시험에 있어서 세 가지 동영상 데이터 세트를 성능시험에 사용하는 것을 제안한다.

Abstract ▼ AI-Helper

Countries around the world are calling for stronger law enforcement to combat the production and distribution of child sexual exploitation images, such as child grooming. Given the scale and importance of this social problem, it requires extensive cooperation between law enforcement, government, industry, and government organizations. In the wake of the Nth Room Case, there have been some amendments to the Enforcement Decree of the Telecommunications Business Act regarding additional telecommunications services provided by precautionary operators in Korea. While Naver and others in Korea use Electronics and Telecommunications Research Institute's own technology to filter illegal images, Microsoft uses its own PhotoDNA technology. Microsoft's PhotoDNA is so good at comparing and identifying illegal images that major global operators such as Twitter are using it to detect and filter images. In order to meet the Korean government's testing standards, Microsoft has conducted more than 16 performance tests on "PhotoDNA for Video 2.0A," which is being applied to the Bing service, in cooperation with the Korea Communications Commission and Telecommunications Technology Association. In this paper, we analyze the cases that did not pass the standards and derive improvement measures related to adding logos. In addition, we propose to use three video datasets for the performance test of filtering against illegal videos.

주제어

표/그림 (12)

표 표 1. 사전조치의무사업자의 제공 부가통신서비스 Table 1. Additional telecommunications services provided by the precautionary duty carrier
그림 그림 1. 사전조치의무사업자가 준비해야 할 시험환경의 범위 Fig. 1. Scope of test environments for precautionary operators
표 표 2. 기술적 조치(시행령 제30조의6제2항제3호) Table 2. Technical Measure(Article 30-6, Paragraph 2, Subparagraph 3 of the Enforcement Decree)
표 표 3. 성능시험의 평가지표 Table 3. Metrics for performance tests
그림 그림 2. 성능시험을 위한 각 기관별 정보 제공 범위 Fig. 2. Scope of information provided by each organization for performance testing
그림 그림 3. 성능시험 완료 로그 샘플 Fig. 3. Sample Performance Test Completion Log
표 표 4. 성능평가 결과에 대한 계산식 Table 4. Calculations for performance evaluation results
표 표 5. 식별 로그 항목들에 대한 설명 Table 5. Description of identification logs
표 표 6. PhotoDNA에 대한 성능시험 결과 Table 6. Performance test results for PhotoDNA for Video
표 표 7. PhotoDNA에 대한 14번째 성능시험 결과 Table 7. 14th Performance Test Results for PhotoDNA
그림 그림 4. 상대적으로 작은 로고가 삽입된 이미지 예제 Fig. 4. Example image with a relatively small logoembedded
그림 그림 5. 큰 로고가 삽입된 이미지 예제 Fig. 5. Example image with a big logo embedded

AI 본문요약
AI-Helper

제안 방법

국가적인 테스트를 수행하는 것이기 때문에 전세계적으로 이러한 데이터 세트를 가지고 불법촬영물에 대한 성능시험이 수행되는 것이 일반적이다. 따라서, 불법 촬영물에 대한 성능시험을 수행하는 데 있어서 다음의 세 가지 동영상 데이터 세트를 성능시험에 사용하는 것을 제안한다. 첫째, 합법적으로 동영상이 제작되는 경우 동영상의 내용을 볼 수도 있고, 시험용 도구 제작자가 수정이 필요한 경우에 동영상 제작 툴을 사용해서 동영상을 테스트를 해볼 수 있는 동영상 세트를 제공한다.
파라미터(Parameter) 값을 수정하면서 TTA 기준에 맞춰 PhotoDNA가 성능시험에 통과될 수 있도록 테스트를 진행했다. 총 16차례의 성능시험 테스트가 진행되었으며, 이 과정에서 14번째에 표7과 같은 수치들이 도출되었다.

대상 데이터

파라미터(Parameter) 값을 수정하면서 TTA 기준에 맞춰 PhotoDNA가 성능시험에 통과될 수 있도록 테스트를 진행했다. 총 16차례의 성능시험 테스트가 진행되었으며, 이 과정에서 14번째에 표7과 같은 수치들이 도출되었다.
시험평가자는 평가용 데이터세트, 불법 촬영물 등 특징 정보 목록, 로그파일 등을 분석하여 평가지표별로 결과를 계산한다. 평가용 데이터세트는 방송통신심의의원회가 필터링 기술로 생성한 특징정보 전자파일을 성능평가에 적합한 형태로 재분류하여 구성한다. 평가지표별 결과 계산식 및 표기법은 표 4와 같다.
이 단계가 완료되면 TTA에서는 성능시험을 위해서 불법촬영물에 대하여 일부 영상을 잘라내거나 외곡 등의 변형된(modified) 영상 DNA 샘플과 변형되지 않은(non-modified) 영상 DNA 샘플을 섞어서 FTP로 Microsoft에 제공하게 된다. 평가용 데이터세트는 불법촬영물등과 일반영상을 잘라내기(Clip), 로고 추가(Logo Overlay), 해상도 변화(Resolution Change), 프레임룰 변화(Frame Rate Change), 화면 크기 변화(Size Change) 등 변형하여 만든 20초 이하 동영상의 특징정보로 구성되어 있다. Microsoft는 DB로부터 쿼리(Query)를 날려서 TTA가 제공한 이미지가 불법 촬영물에서 변형된 동영상이면 Match의 결과를, 불법 촬영물과 상관없는 동영상이라면 No-Match의 결과를 줘야 한다.

데이터처리

신청기관은 Client PC에 저장된 평가용 데이터세트를 순차적으로 필터링 기술에 입력하고, 그 결과를 로그 파일에 기록한 후 평가기관에 제공한다. 시험평가자는 평가용 데이터세트, 불법 촬영물 등 특징 정보 목록, 로그파일 등을 분석하여 평가지표별로 결과를 계산한다. 평가용 데이터세트는 방송통신심의의원회가 필터링 기술로 생성한 특징정보 전자파일을 성능평가에 적합한 형태로 재분류하여 구성한다.

성능/효과

첫째, 합법적으로 동영상이 제작되는 경우 동영상의 내용을 볼 수도 있고, 시험용 도구 제작자가 수정이 필요한 경우에 동영상 제작 툴을 사용해서 동영상을 테스트를 해볼 수 있는 동영상 세트를 제공한다. 둘째, 합법적으로 동영상이 제작되는 경우 성능시험 수행자가 동영상 내용을 볼 수 있고 성능시험 수행자가 시험 도구의 초기 테스트를 수행하는 데 사용할 수 있는 동영상 세트를 제공한다. 셋째, 불법적으로 동영상이 제작되는 경우 성능시험 수행자나 성능시험 대상 도구 제작자가 볼 수 없으며 최종 검증에 사용할 수 있는 동영상 세트를 제공한다.
성능평가 수행기관으로부터 제시된 통과기준은 불법촬영물 식별가능성, 일반영성 식별 가능성, 일관성에 있어서 모두 95% 이상이여야 했고, PhtotoDNA는 Parameter의 조정을 통해 성능시험을 통과하였다. 성능기준은 추후, 불법 촬영물 등이 사회에 미치는 영향 증가, 기술 성숙도 향상 등 인터넷 이용환경 변화에 따라 통과 기준은 변경이 가능하지만, 개발 평가 지표 모두 통과 시 성능평가를 통과할 수 있다.
셋째, 불법적으로 동영상이 제작되는 경우 성능시험 수행자나 성능시험 대상 도구 제작자가 볼 수 없으며 최종 검증에 사용할 수 있는 동영상 세트를 제공한다. 성능평가 수행기관으로부터 제시된 통과기준은 불법촬영물 식별가능성, 일반영성 식별 가능성, 일관성에 있어서 모두 95% 이상이여야 했고, PhtotoDNA는 Parameter의 조정을 통해 성능시험을 통과하였다. 성능기준은 추후, 불법 촬영물 등이 사회에 미치는 영향 증가, 기술 성숙도 향상 등 인터넷 이용환경 변화에 따라 통과 기준은 변경이 가능하지만, 개발 평가 지표 모두 통과 시 성능평가를 통과할 수 있다.
둘째, 합법적으로 동영상이 제작되는 경우 성능시험 수행자가 동영상 내용을 볼 수 있고 성능시험 수행자가 시험 도구의 초기 테스트를 수행하는 데 사용할 수 있는 동영상 세트를 제공한다. 셋째, 불법적으로 동영상이 제작되는 경우 성능시험 수행자나 성능시험 대상 도구 제작자가 볼 수 없으며 최종 검증에 사용할 수 있는 동영상 세트를 제공한다. 성능평가 수행기관으로부터 제시된 통과기준은 불법촬영물 식별가능성, 일반영성 식별 가능성, 일관성에 있어서 모두 95% 이상이여야 했고, PhtotoDNA는 Parameter의 조정을 통해 성능시험을 통과하였다.
위의 성능시험 결과를 기반으로 분석해 보면, 로고 추가(Logo Overlay)를 제외하고는 99% 이상의 matching 결과를 보이고 있다. 불법촬영물로 통용되는 일반적인 이미지에서는 로고가 사용되는 사례가 극히 드물고, 특히 TTA에서 제시된 로고의 크기와 위치는 일반적인 영상에서도 흔하지 않은 경우이다.
따라서, 불법 촬영물에 대한 성능시험을 수행하는 데 있어서 다음의 세 가지 동영상 데이터 세트를 성능시험에 사용하는 것을 제안한다. 첫째, 합법적으로 동영상이 제작되는 경우 동영상의 내용을 볼 수도 있고, 시험용 도구 제작자가 수정이 필요한 경우에 동영상 제작 툴을 사용해서 동영상을 테스트를 해볼 수 있는 동영상 세트를 제공한다. 둘째, 합법적으로 동영상이 제작되는 경우 성능시험 수행자가 동영상 내용을 볼 수 있고 성능시험 수행자가 시험 도구의 초기 테스트를 수행하는 데 사용할 수 있는 동영상 세트를 제공한다.

후속연구

불법촬영물로 통용되는 일반적인 이미지에서는 로고가 사용되는 사례가 극히 드물고, 특히 TTA에서 제시된 로고의 크기와 위치는 일반적인 영상에서도 흔하지 않은 경우이다. 시험자의 입장에서는 합법적인 콘텐츠를 차단할 가능성(Fault Positive)도 존재 할 수 있고, 로고가 지나치게 크게 삽입되어 제공되고 있는 TTA의 영상 컨텐츠에 가릴 수도 있기 때문에 로고 추가 관련 개선이 필요하다. PhotoDNA는 Microsoft에서 만든 이미지 매칭 기술로, 전 세계 인터넷 회사와 법집행 기관에서 불법 콘텐츠를 탐지하는 데 사용되고 있다.
향후 연구는 본 연구에서 제안된 세 가지 동영상 데이터 세트를 사용하여 불법촬영물에 대한 필터링 성능시험을 연구하는 것이다.

참고문헌 (11)

Wikipedia, "Nth Room Case" June 2020. Nth Room case - Wikipedia
Microsoft, "Combating Child Sexual Exploitation and Abuse Online", July 2020. GAHub - Combating Child Sexual Exploitation and Abuse Online - All Documents (sharepoint.com)
National Center for Missing &Exploited Children (missingkids.org), May 2021.
WeProtect Global Alliance - against child sexual exploitation and abuse online
Digital Crimes Unit: Leading the fight against cybercrime - On the Issues (microsoft.com), Jan 2022.
Microsoft, PhotoDNA I Microsoft,
Microsoft, Digital Safety Content Report I Microsoft CSR
'Revenge porn': Putting victims back in control - Microsoft On the Issues
Victoria Baines, Online Child Sexual Exploitation: Towards an Optimal International Response, August 2018
Digital Sexual Crime and PublicDNA DB technical Support Portal, Korea Communicatins Standards Commission, https://dna.kocsc.or.kr/mainPage.do
Eun-Gyu Ham, Chang-Bok Kim, "Model Implementation of Reinforcement Learning for Trading Prediction Using Deep Q Network ," The Journal of KIIT, Vol. 17, No. 4, pp. 1-8, 2019.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증