[논문]ETRI AI 실행전략 7: AI로 인한 기술·사회적 역기능 방지

김태완; 최새솔; 연승준

doi:10.22648/etri.2020.j.350708

[국내논문] ETRI AI 실행전략 7: AI로 인한 기술·사회적 역기능 방지
ETRI AI Strategy #7: Preventing Technological and Social Dysfunction Caused by AI 원문보기

전자통신동향분석 = Electronics and telecommunications trends, v.35 no.7, 2020년, pp.67 - 76

김태완 (지능화정책연구실) , 최새솔 (지능화정책연구실) , 연승준 (지능화정책연구실)

Abstract ▼ AI-Helper

Because of the development and spread of artificial intelligence (AI) technology, new security threats and adverse AI functions have emerged as a real problem in the process of diversifying areas of use and introducing AI-based products and services to users. In response, it is necessary to develop new AI-based technologies in the field of information protection and security. This paper reviews topics such as domestic and international trends on false information detection technology, cyber security technology, and trust distribution platform technology, and it establishes the direction of the promotion of technology development. In addition, the development of international trends in ethical AI guidelines to ensure the human-centered ethical validity of AI development processes and final systems in parallel with technology development are analyzed and discussed. ETRI has developed AI policing technology, information protection, and security technologies as well as derived tasks and implementation strategies to prepare ethical AI development guidelines to ensure the reliability of AI based on its capabilities.

Keyword

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

(4) 멀티모달 미디어 신뢰성 판별 기술 개발은 미디어 신뢰도 측정을 위한 지능형 미디어 지식 베이스 구축 기술, 미디어의 멀티모달리티 분석을 통한 스토리 이해 기술, 미디어 고의적 편집 및 악의적 정보 판별 기술, 미디어 신뢰도 실시간 측정 플랫폼 기술 개발을 목표로 한다.
(3) 암호화된 상태에서 원데이터의 처리·분석이 가능한 데이터 암호화(CipherData) 기술의 세부기술로 암호화된 상태를 유지하면서 데이터의 처리 및 연산이 가능한 검색 기술, 중복처리 기술, 소유권 증명 기술, 동형암호 기술 등의 원천기술 확보를 목표로 한다.

제안 방법

미디어 신뢰성 판별 기술 분야에서는 ICT 인프라 상에서 제공되는 서비스 및 미디어에 대한 신뢰성 판별을 위한 트러스트 정보 검증 체계에 대한 국제표준(2건)을 개발하였고, 미디어의 시맨틱 분석을 통해 뉴스 토픽을 추출하고 토픽 간 관계 및 연결성을 분석하는 기술을 개발하였다.
ETRI는 ‘AI R&D 전략’과 ‘2035 기술로드맵 계획’ 등 AI 연구전략을 수립하고 ETRI의 추진과제를 도출하였다. ETRI의 주요 역할 및 기술력을 고려하여 전문가 회의를 통해 도출된 ETRI의 AI 역기능방지 추진과제는 다음과 같다.
(1) 가짜뉴스 식별을 위한 판단 근거 추론 기술에서는 문장/문서 분석기반의 사실/의미/의도 파악 기술, 신뢰도 측정 기반 허위 정보 판단 기술, 사실관계 추론에 기반한 근거 제시 기술, 가짜뉴스 배포 및 확산 양상, 유포자 신뢰성 검증 등을 위한 정보확산 모델링 기술, 머신러닝을 위한 허위 정보학습 데이터 구축 및 공유 기술 등을 개발한다.

성능/효과

있다. 장학퀴즈에서 우승한 바 있는 엑소브레인 언어이해 기술, 이미지넷 챌린지에서 2위를 수상한 딥뷰영상인식 기술, 세계최고 수준의 종단형 음성인식기술 등 단일지능 기반 기술을 이미 보유하고 있으며, 특히 엑소브레인 과제에서 허위 정보 탐지의 원천기술인 문장 간 의미 비교 기술을 개발 중이며, 동의 문장 판별 정확도 85.03%로 한국어 최고성능의 기술을 확보하였다.
(5) 블록체인 활용 신뢰 기반의 정보유통 플랫폼 기술은 무결점의 원본/진본 정보서비스를 신속하고 정확하게 제공하는 블록체인 기반의 플랫폼 기술 등을 포함한다.
첫째, AI 시스템 기획단계에서부터 공정하고 투명한 AI 개발을 위한 표준(ISO/IEC JTC 1/SC 42 등) 및 윤리적 AI 개발 가이드라인을 준수한다.
셋째, AI 기술의 보급 및 확산 단계에서는 IoT에서 발생되는 실시간 데이터의 처리하고 클라우드 기반의 서비스 구현을 위하여 악의적 공격·위협에 대응하기 위한 AI 화이트 해커 기술과 AI 클라우드 기반 백신 기술을 개발하고 사이버 위협 공격 방어를 위한 실증 프레임워크를 구축하여 새로운 보안 위협 증대에 대응 및 안전한 AI 이용환경 구축을 통해 AI 기술 활용을 촉진한다.

후속연구

딥러닝 등의 기법을 활용하여 공격자의 진화에 예방적으로 대응하는 지능형 방어, 정상행위의 학습을 통해 비정상 행위를 탐지하는 행태분석탐지 등의 기술이 발전[9]하여 발생하는 각종 디지털 정보에 대해 빅데이터 및 머신러닝 기반 이벤트 분석을 통하여 실시간으로 알려지지 않은 위협 탐지, 패킷 수준의 네트워크 기반 침입 탐지 및 예방, 지능화된 신종 악성코드의 실시간 분석 등에 적용될 것이다[5]. 또한, 대량의 빅데이터에 대한 AI 학습 과정에서 발생 가능한 개인 민감정보 유출 등의 사회적 역기능 해소를 위해 개인의 프라이버시를 보장하면서도 정확한 AI 학습이 가능하도록 비식별화 기술, 암호화 기반기술, 동형암호 기술에 대한 연구가 지속될 전망이다.
또한, 대량의 빅데이터에 대한 AI 학습 과정에서 발생 가능한 개인 민감정보 유출 등의 사회적 역기능 해소를 위해 개인의 프라이버시를 보장하면서도 정확한 AI 학습이 가능하도록 비식별화 기술, 암호화 기반기술, 동형암호 기술에 대한 연구가 지속될 전망이다.
등을 추진한다. 또한 고신뢰 AI 시스템을 위해 요구사항 표준, 신뢰성 모델링 분석, 측정, 검증방식, AI 시스템 신뢰성 제공 기능 및 구조 표준과 빅데이터/AI의 활용 목적에 따른 데이터 용도 및 생애주기별 품질 측정 표준 개발을 추진한다.
있도록 한다. 또한 가짜뉴스 및 딥페이크를 방지함으로써 신뢰사회 기반을 마련하기 위해 원본에 대한 가짜를 판별하고 초신뢰 기반 거래를 매개할 수 있는 블록체인 기반 암호화 증명 기술을 활용할 계획이다. 프라이버시 침해 방지를 위한 민감 정보 등 개인정보의 보호 측면에서는 데이터 암호화 기술을 고도화하여 암호화된 데이터를 학습 가능하게 함으로써 데이터 활용성을 확대하고 AI 기술의 활용에 따른 역기능 방지기술을 선도한다.

참고문헌 (14)

김정현, "코로나 사태로 온국민이 가짜뉴스 문제점 실감...전문가 해법은?" 뉴스1, 2020. 3. 12.
H. Ajder et al., "The State of Deepfakes: Landscape, threats, and impact," Deeptrace, Sept. 2019.
국경완, 공병철, "인공지능을 활용한 보안 기술 개발 동향," 주간기술동향, 1913호, 2019. 9. 11.
청와대, "국가 사이버 안보 전략," 2019. 4., pp. 6-7.
WEF, "Global Risks Report 2017," 2017, p. 44.
이호연, "[AI의 역습②] 해외서는? '검색 조작' 벌금 받은 구글, 윤리 실현 앞장," 데일리안, 2020. 10. 15.
최창현, "페이스북 AI, 딥페이크 꼼짝마라!…100,000개 딥페이크 식별 '데이터 세트' 공개한다," 인공지능신문, 2020. 6. 14.
정은령, 고예나, "인터넷 신뢰도 기반 조성을 위한 정책방안 연구," 서울대학교 산학협력단, 방송통신위원회 방통융합정책연구 KCC2018-26, 2018. 12., p. 111.
이대성, "차세대 사이버 보안 기술 동향," 주간기술동향, 1916호, 2019. 10. 2., p. 9.
오윤경 외 3인, "혁신과 위험관리: 사람중심 기술혁신을 위한 추진과제," 한국행정연구원, 2020. 6., p. 17; 이순기(국회입법조사처), "인공지능의 윤리적 사용을 위한 개선과제," 이슈와 논점 제1759호, 2020.9.25.재인용
김정민, "인공지능 윤리 이슈와 교육과정 동향," SW 월간 중심사회 2019년 7월호, 소프트웨어정책연구소.
OECD,"G20 Ministerial Statement on Trade andDigital Economy," 2019. 6., p. 11.
IEEE, "Ethically Aligned Design, First Edition," 2019.
전종흥(ETRI) 외, "감염병 재난에 대응하기 위한 의료인공지능의 기술표준동향," ETRI Insight 표준화동향 2020-01, 2020.

활용도 분석정보

상세보기

다운로드

내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증