초록 ▼

연구개발 목표 및 내용
최종 목표
o 최종목표
멀티미디어 콘텐츠의 음란성 분석 및 검출 시스템 개발 및 사업화 지원(기술이전)
- 유해 동영상 분석 및 분류 기술
- 근미래 장면 예측 기술
- 스마트 단말에서의 동영상 스트리밍 실시간 차단 기술
- 국내외 유해미디어 차단기술 현황 및 전망 분석·연구
- AI 학습용 유해 콘텐츠 빅데이터 시스템 구축방안 연구
- 공공 또는 민간 인터넷 스트리밍 음란콘텐츠 차단 기술 적용
- 국내외 유해 웹사이트 목록 자동 업데이트 기술
- 앱

연구개발 목표 및 내용
최종 목표
o 최종목표
멀티미디어 콘텐츠의 음란성 분석 및 검출 시스템 개발 및 사업화 지원(기술이전)
- 유해 동영상 분석 및 분류 기술
- 근미래 장면 예측 기술
- 스마트 단말에서의 동영상 스트리밍 실시간 차단 기술
- 국내외 유해미디어 차단기술 현황 및 전망 분석·연구
- AI 학습용 유해 콘텐츠 빅데이터 시스템 구축방안 연구
- 공공 또는 민간 인터넷 스트리밍 음란콘텐츠 차단 기술 적용
- 국내외 유해 웹사이트 목록 자동 업데이트 기술
- 앱 콘텐츠 유해성 분류 기술
o 연차별 개발목표
1차년도
- 의미정보 기반 유해 동영상 분석 및 분류 기술 개발
- 스마트 단말 동영상 스트리밍 실시간 차단 기술 개발
- 근미래 장면 예측 기술 개발
- 공공 및 민간 보유 음란 콘텐츠 빅데이터 구축방안 연구
2차년도
- 공공 또는 민간 적용 스트리밍 모니터링 시스템 기술 개발
- 스트리밍 모니터링 시스템 설치 및 시험 운영
- 국내외 유해 웹사이트 목록 자동 업데이트 기술 개발
- 유해정보 유통 전주기를 고려한 차단 프레임워크 연구
3차년도
- 앱 콘텐츠 유해성 분류 기술 개발
- 스마트단말 탑재형 앱 화면 유해성 분석 엔진 개발
- 국내외 유해 웹사이트 목록 자동 업데이트 기술 민간 및 공공 활용 지원 기술 개발
- 대쉬보드형 유해미 디어 관제 시스템 개발 및 시험 운영
1차년도 결과물
- 유해동영상 분석 및 분류 엔진
- 스마트 단말 동영상 스트리밍 실시간 차단앱
- 민간사업자 유해동 영상 스트리밍 실시간 차단앱
- 근미래 장면 예측 엔진
- 음란정보 빅데이터 시스템 구축방안 연구보고서

2차년도 결과물
- 인터넷 스트리밍 모니터링 시스템
- 유해 웹사이트 목록 자동 업데이트서버
- 인터넷 스트리밍 모니터링 시험 적용 (공공 또는 민간)
- 민간사업자 미디어 플랫폼내 유해 웹사이트 차단 시험 적용
- 유해정보 유통 차단 프레임워크 연구 문서

3차년도 결과물
- 앱 콘텐츠 유해성 관리 서버
- 스마트 단말용 앱 유해성 분석 엔진
- 스마트단말용 유해성 차단앱
- 대쉬보드형 유해미디어 관제 시스템
- 민간사업자 유해성 차단앱 시험 적용

o 주요 성능치
- (음란물 검출 정확도) 99%
- (유해 콘텐츠 단위장면 판별 속도) 단위장면 유해성 분석 처리속도: 0.1초
- (동시 모니터링 채널 수) 우선 모니터링 대상 채널 수: 50개
- (서비스 운용시험 사용자 수) 서비스 운용시험 시 서비스 이용자 수: 100명
- (사전예측 정확도) 0.72

전체 내용
o 의미정보 기반 유해 동영상 분석 및 분류 기술 개발
- 행동 인식을 위한 움직임 궤적 생성 기술
- 행동 인식을 통한 유해 동영상 인지 및 분류 기술
- 유해성 분류 엔진 검증 테스트베드 구축
- 민간사업자 미디어 플랫폼 적용 시험 운용
o 스마트 단말 동영상 스트리밍 실시간 차단 기술 개발
- 스마트 단말에서 동영상 유해성 분석을 위한 딥러닝 모델 개발
- 스마트 단말용 동영상 유해성 분석 엔진 개발
- 동영상 세그먼트 특성 기반의 프레임 추출 및 제어 기술 개발
- 단말 동영상 스트림 특성 기반의 프레임 추출 및 제어 기술 개발
- 단말 자원 특성 기반의 프레임 추출 및 제어 기술 개발
- 동영상 유해성 분석/차단 엔진 연동 기술 개발
- 단말 미디어 프레임워크 인터페이스 및 제어 기술
- 스마트단말용 동영상 유해성 분석 엔진 정확도 향상 기술 개발
- 스마트단말용 동영상 유해성 분석 엔진 경량화 기술 개발
o 근미래 장면 예측 기술 개발
- 유해 영상 예측을 위한 Generative Adversarial Networks 개발
- 예측 프레임 기반 유해 여부 판별 모델 개발
o 유해정보 유통 전주기를 고려한 차단 프레임워크 연구
- 계층별 유해정보 차단 프레임워크 설계
- 계층별 유해정보 차단 세부 기술 적용 방안 도출
o 민간 보유 음란 콘텐츠를 활용한 음란정보 빅데이터 구축 방안
연구
- 협의체 운영 및 요구사항 수렴
o 공공 또는 민간 적용 스트리밍 모니터링 시스템 기술 개발
- 인터넷 스트리밍 음란 콘텐츠 차단을 위한 딥러닝 융합 기술
- 인터넷 스트리밍 음란 콘텐츠 차단을 위한 유해 장면 추출 도구 개발
- 유해미디어 대쉬보드 관제 시스템 개발
- 대쉬보드형 사용자 요구사항 정립 및 모니터링 통합 시스템 개발
- 공공 또는 민간 적용 모니터링 시스템 설치 및 시범 운영
o 국내외 유해 웹사이트 목록 자동 업데이트 기술 개발
- 실시간 유해 사이트 목록 수집 및 데이터베이스 저장 기술 개발
- 유해성 웹사이트의 미디어와 메타정보 수집 및 저장 기술 개발
- 웹사이트 크롤링 기술 개발
- 유해 웹사이트 분석 및 판별 기술 개발
- 민간사업자 미디어 플랫폼상에서 유해 웹사이트 차단 시험 적용
o 앱 콘텐츠 유해성 분류 기술 개발
- 웹사이트 주소 기반 유해 사이트 차단 요소 기술 개발
- 앱 화면 기반 유해 앱 차단 기술 개발 (유해성 분석 서버 연동)
- 앱 콘텐츠 유해성 분석을 위한 스마트단말용 딥러닝 모델 개발
- 유해 앱 차단 정보관리 UI/UX 기능 개발
- 스마트단말 탑재형 앱 화면 유해성 분석 엔진 개발
- 앱화면 기반 유해 사이트 차단 기술 개발 (단말탑재형)
- 스마트단말 유해성 분석 및 보고 기능개발
- 스마트단말 앱 스토어 등록 및 시험 운영

연구개발성과
o 인공지능 기반 유해미디어 분석·검출 시스템 (SYS)
- 유해동영상 분석 및 분류 SW(서버탑재형SW)
- 스마트단말 유해동영상 차단 및 제어 SW(단말탑재형SW)
- 유해동영상 모니터링 및 관리 SW(서버탑재형SW)
- 유해 웹사이트 목록 자동 업데이트 SW(서버탑재형SW)
- 앱(App) 콘텐츠 유해성 제어 및 관리 SW(단말탑재형SW)
- 유해미디어 학습 시스템(서버탑재형SW)
- 근미래 장면 예측 SW(서버탑재형 SW)

연구개발성과 활용계획 및 기대 효과
o 공공 및 민간 분야에서 시범 적용
- 유해영상 분석, 검출, 차단 기능을 활용한 안전하고 신뢰성 있는 사용자 생성 콘텐츠 서비스 제공
- 웹하드 및 인터넷 파일 공유서비스 등의 유해 영상 업로드 되는 영상 필터링 서비스 제공
- 라이브 방송 서비스 사업자, 개인 방송 사용자의 유해물 자동 검증 및 모니터링 서비스 제공
- 라이브 스트리밍 서비스 기반의 클린 개인 미디어 방송 서비스 제공
- 기존 또는 신규의 차단 서비스를 제공하는 사업자에게 음란 웹사이트 정보 제공 서비스 제공
o 다발적으로 확산되는 유해 미디어 콘텐츠를 대상으로, 상호 신뢰할 수 있는 환경에서 제공할 수 있는 건강한 미디어 서비스 핵심 기술 확보
- 콘텐츠 플랫폼과 단말 사업자간 상생할 수 있는 생태계 창출 기대
- 자동화된 유해미디어 감지 기술을 통해 음란물 모니터링 비용 감소
- 브랜드세이프티 실현으로 광고 및 부가 서비스로의 서비스 확대에 기여
- 유해성 분석, 검출, 차단의 실시간 제어로 클린미디어 서비스 산업 기반 마련

(출처 : 요약문 3p)

목차 Contents

• 표지 ... 1
• 요 약 문 ... 3
• 목차 ... 7
• 1. 연구개발과제의 개요 ... 8
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 10
• 2-1. 추진계획 대비 수행실적 ... 10
• 2-2. 수행 내용 ... 12
• 3. 연구개발과제의 수행 결과 및 목표 달성 정도 ... 27
• 1) 연구수행 결과 ... 27
• 2) 목표 달성 수준 ... 35
• 4. 목표 미달 또는 미흡한 사항에 대한 분석 ... 35
• 5. 연구개발성과의 관련 분야에 대한 기여 정도 ... 36
• 6. 연구개발성과의 관리 및 활용 계획 ... 36
• 1) 향후 5년간 성과활용·확산 활용방안 및 계획(활동계획) ... 37
• 2) 주요 성과활용 (기대)성과목표 ... 38
• 3) 성과활용·관리 추진체계 ... 39
• 4) 기타 ... 39
• 7. 연구개발성과에 대한 후속연구 및 추가 개발 계획 ... 40
• 8. 연구개발비 사용실적 ... 41
• 1) 연구개발비 사용명세서 ... 41
• 2) 발생이자 사용명세서 ... 41
• 3) 반납액 명세서 ... 41
• 붙임 1. 사업화대상기술별 기술명세서 ... 42
• 붙임 2. 자체 보안관리 진단표 ... 58
• 끝페이지 ... 59