[논문]금융분야 AI의 윤리적 문제 현황과 해결방안

이수련; 이현정; 이아람; 최은정

금융분야 AI의 윤리적 문제 현황과 해결방안 원문보기

情報保護學會誌 = KIISC review, v.32 no.3, 2022년, pp.57 - 64

이수련 (서울여자대학교 정보보호학과) , 이현정 (코스콤 네트워크서비스부) , 이아람 (쿠팡 Security & Privacy Policy) , 최은정 (서울여자대학교 정보보호학과)

초록
AI-Helper

우리 사회에서 AI 활용이 더욱 보편화 되어가고 있는 가운데 AI 신뢰에 대한 사회적 요구도 증가했다. 특히 최근 대화형 인공지능'이루다'사건으로 AI 윤리에 대한 논의가 뜨거워졌다. 금융 분야에서도 로보어드바이저, 보험 심사 등 AI가 다양하게 활용되고 있지만, AI 윤리 문제가 AI 활성화에 큰 걸림돌이 되고 있다. 본 논문에서는 인공지능으로 발생할 수 있는 윤리적 문제를 활용 도메인과 데이터 분석 파이프라인에 따라 나눈다. 금융 AI 기술 분야에 따른 윤리 문제를 분류했으며 각 분야별 윤리사례를 제시했고 윤리 문제 분류에 따른 대응 방안과 해외에서의 대응방식과 우리나라의 대응방식을 소개하며 해결방안을 제시했다. 본 연구를 통해 금융 AI 기술 발전에 더불어 윤리 문제에 대한 경각심을 고취시킬 수 있을 것으로 기대한다. 금융 AI 기술 발전이 AI 윤리와 조화를 이루며 성장하길 바라며, 금융 AI 정책 수립 시에도 AI 윤리적 문제를 염두해 두어 차별, 개인정보유출 등과 같은 AI 윤리 규범 미준수로 파생되는 문제점을 줄이며 금융분야 AI 활용이 더욱 활성화되길 기대한다.

AI 본문요약
AI-Helper

문제 정의

로보 어드바이저, 보험 심사, 대출심사와 같은 금융사업은 소비자 이해관계가 첨예한 분야로, AI로 인한 윤리 문제 발생 시 더욱 큰 파장을 일으킬 수 있다. 본 논문에서는 금융 분야 AI 활성화를 위해서 반드시 해결해야 하는 문제인 AI 신뢰, 특히 윤리 문제를 극복하기 위한 방안을 제시한다. 먼저 금융 AI의 발전 현황과 현재 직면한 윤리적 문제를 살펴보고 파생될 수 있는 윤리적 문제들을 특정 기준에 따라 분류한다.
마지막으로 해외에서의 대응 방식과 우리나라의 대응 방식을 소개하며 해결 방안을 제시한다. 본 연구에서는 금융 AI 기술 분야에 따른 윤리 문제를 분류하였다. 또한 각 분야별 기술에서 고려할 윤리 사례를 제시했으며, 윤리 문제에 따른 대응방안을 제시했다.

제안 방법

본 연구에서는 금융 AI 기술 분야에 따른 윤리 문제를 분류하였다. 또한 각 분야별 기술에서 고려할 윤리 사례를 제시했으며, 윤리 문제에 따른 대응방안을 제시했다. 본 연구를 통해 금융 AI 기술 발전에 더불어 윤리 문제에 대한 경각심을 고취시킬 수 있을 것으로 기대된다.
먼저 금융 AI의 발전 현황과 현재 직면한 윤리적 문제를 살펴보고 파생될 수 있는 윤리적 문제들을 특정 기준에 따라 분류한다. 마지막으로 해외에서의 대응 방식과 우리나라의 대응 방식을 소개하며 해결 방안을 제시한다. 본 연구에서는 금융 AI 기술 분야에 따른 윤리 문제를 분류하였다.
본 논문에서는 금융 분야 AI 활성화를 위해서 반드시 해결해야 하는 문제인 AI 신뢰, 특히 윤리 문제를 극복하기 위한 방안을 제시한다. 먼저 금융 AI의 발전 현황과 현재 직면한 윤리적 문제를 살펴보고 파생될 수 있는 윤리적 문제들을 특정 기준에 따라 분류한다. 마지막으로 해외에서의 대응 방식과 우리나라의 대응 방식을 소개하며 해결 방안을 제시한다.
금융 분야에서의 AI를 확대하기 위해서는 인공지능으로 인해 발생하는 윤리적인 문제에 대한 대책을 마련해야 한다. 본 논문에서는 인공지능으로 발생할 수 있는 윤리 문제를 활용도 메인에 따라 데이터 분석 파이프라인 절차에 따라 나누어보았다.

성능/효과

2020년 12월에 발표한 “AI 윤리기준”에서는 인간성을 목표로 개발자, 서비스 제공자, 사용자가 지켜야 하는 10가지 핵심 요건을 제시했다
금융 분야에서 AI는 현재 다양하게 활용되고 있고, 회사의 비용도 크게 절감시키며 필수 기술로 자리잡고 있다. 그러나 본 논문에서 서술한 윤리적 문제를 해결하지 않으면 금융 분야에서 AI는 사회적인 신뢰를 얻지 못할 것이다. 금융 분야에서의 AI를 확대하기 위해서는 인공지능으로 인해 발생하는 윤리적인 문제에 대한 대책을 마련해야 한다.
현재 인공지능이 가장 많이 활용되고 있는 로보어드바이저에서는 매우 짧은 시간 내에 일어나는 거래로 인해 시장 건전성에 악영향을 줄 수 있는 문제가 있었다. 또한, 블랙박스 모델 특성상으로 본 어드바이저가 내놓은 결과에 관해 설명할 수 없다는 문제도 발생할 수 있음을 확인했다. 설명 불가능의 문제는 보험 심사에서도 발생할 수 있다.
알고리즘 모델링 과정에서도 두 개의 문제를 낳을 수 있다. 먼저, 오버핏으로 인해 재식별 공격의 위험이 커져 프라이버시의 문제가 발생할 수 있다. 그리고 블랙박스의 특성상 알고리즘의 결과를 설명하기 어려운 설명 불가능의 문제가 생길 수 있다.
현재 인공지능이 가장 많이 활용되고 있는 로보어드바이저에서는 매우 짧은 시간 내에 일어나는 거래로 인해 시장 건전성에 악영향을 줄 수 있는 문제가 있었다. 또한, 블랙박스 모델 특성상으로 본 어드바이저가 내놓은 결과에 관해 설명할 수 없다는 문제도 발생할 수 있음을 확인했다.

후속연구

그러나 본 논문에서 서술한 윤리적 문제를 해결하지 않으면 금융 분야에서 AI는 사회적인 신뢰를 얻지 못할 것이다. 금융 분야에서의 AI를 확대하기 위해서는 인공지능으로 인해 발생하는 윤리적인 문제에 대한 대책을 마련해야 한다. 본 논문에서는 인공지능으로 발생할 수 있는 윤리 문제를 활용도 메인에 따라 데이터 분석 파이프라인 절차에 따라 나누어보았다.
또한 각 분야별 기술에서 고려할 윤리 사례를 제시했으며, 윤리 문제에 따른 대응방안을 제시했다. 본 연구를 통해 금융 AI 기술 발전에 더불어 윤리 문제에 대한 경각심을 고취시킬 수 있을 것으로 기대된다.
인공지능 윤리헌장, 각 기업에서 발표한 인공지능 윤리 준칙, 정부에서 발표한 “AI 윤리기준”이 있지만, 원론적인 수준에 그치고 있다. 현재까지 발표된 윤리기준을 바탕으로 관련 법령을 수정하고 구체적인 준칙을 포함한 가이드라인을 배 포하여 AI 윤리규범, 기준의 실효성을 높일 수 있을 것이다.

참고문헌 (23)

Gartner, Gartner Hype Cycle for Emerging Technologies, 2021.08.01.
Brian Burke, "Top Strategic Technology Trends for 2021", Gartner, pp. 13, 2020.
한국리서치, AI와 인간의 공존, 그리고 '윤리성' 2021.08.10.
오요한외 1명, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, vol 18, no 3, pp.153-215, 2018.

원문보기 상세보기
임용외 2명, "인공지능과 시장경쟁: 데이터에 대한 규율을 중심으로", 한국경제포럼, vol 12, no 3, pp.35-58, 2019
양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, vol 66, no 3, pp.60-105, 2017
신용진, "AI서비스에서의 개인정보보호를 위한 책임과 원칙의 적용에 관한 연구", 한국범죄정보연구, vol 7, no 1, pp.45-74, 2021
김승래, "4차 산업혁명과 금융 데이터산업의 활성화를 위한 정책과제", 지급결제학회지, vol 11, no 1, pp.95-129, 2019
Amy Kraft(CBSNEWS), Microsoft shuts down AI chatbot after it turned into a Nazi [Internet], Available: 웹사이트 URL, 2021.07.25.
윤영주(AI타임스), 미국표준기술연구소(NIST) "안면인식 시스템, 인종별 오류 편차 커", 2021.07.23.
이은주(IT Chosun), 트위터 AI 알고리즘 "백인과 여성 선호", 2021.07.25.
전승우, 편견'에 취약한 AI⋯인종과 성차별 망언 쏟아내기도, 2021.07.28
과학기술정보통신부 한국정보화진흥원,"지능정보사회 윤리 가이드라인", pp. 23, 2018.
방송통신위원회, "이용자 중심의 지능정보사회를 위한 원칙", pp.5, 2019.
4차산업혁명위원회, "사람이 중심이 되는 인공지능 윤리기준", pp.40, 2020.
정한민외 1명, "인공지능 기반 로보어드바이저 운용 및 기술 동향", 정보통신기획평가원, 대전광역시, ISSN 1225-6447, 2020.
오현길(아시아경제), 당신이 청구한 보험금, 이제 AI가 심사한다, 2021.08.05.
하채림(연합뉴스), AI에 맡겼더니 보험료.가입 차별?⋯감독체계 필요, 2021.08.07.
European Commission, Ethics guidelines for trustworthy AI, 2021.08.13
Partnership on AI, Advancing positive outcomes for people and society, 2021.08.11.
세계법제정보센터, "미국 인공지능 법제", 2019
한국인공지능윤리협회, 한국인공지능윤리협회 인공지능 윤리 헌장, 2021.08.14.
과학기술정보통신부, 사람이 중심이되는 인공지능 윤리기준, 2021.08.15.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증