[논문]인공지능 윤리 원칙 Seoul PACT를 적용한 지능형 전자정부 서비스 윤리 가이드라인

김명주

doi:10.9716/kits.2019.18.3.117

인공지능 윤리 원칙 Seoul PACT를 적용한 지능형 전자정부 서비스 윤리 가이드라인
Seoul PACT : Principles of Artificial Intelligence Ethics and its Application Example to Intelligent E-Government Service 원문보기

한국IT서비스학회지 = Journal of Information Technology Services, v.18 no.3, 2019년, pp.117 - 128

Abstract ▼ AI-Helper

The remarkable achievements of the artificial intelligence in recent years are also raising awareness about its potential risks. Several governments and public organizations have been proposing the artificial intelligence ethics for sustainable development of artificial intelligence by minimizing potential risks. However, most existing proposals are focused on the developer-centered ethics, which is not sufficient for the comprehensive ethics required for ongoing intelligent information society. In addition, they have chosen a number of principles as the starting point of artificial intelligence ethics, so it is not easy to derive the guideline flexibly for a specific member reflecting its own situation. In this paper, we classify primitive members who need artificial intelligence ethics in intelligent information society into three : Developer, Supplier and User. We suggest a new artificial intelligence ethics, Seoul PACT, with minimal principles through publicness (P), accountability (A), controllability (C), and transparency (T). In addition, we provide 38 canonical guidelines based on these four principles, which are applicable to each primitive members. It is possible for a specific member to duplicate the roles of primitive members, so that the flexible derivation of the artificial intelligence ethics guidelines can be made according to the characteristics of the member reflecting its own situation. As an application example, in preparation for applying artificial intelligence to e-government service, we derive a full set of artificial intelligence ethics guideline from Seoul PACT, which can be adopted by the special member named Korean Government.

주제어

표/그림 (9)

표 <표 1> 인공지능 윤리에 대한 연구 동향
표 <표 2> 소프트웨어 개발자 윤리강령의 비교
그림 <그림 1> 5 Whys로 도출한 인공지능의 고유 특성
표 <표 3> 새로운 인공지능 윤리의 4대 원칙
표 <표 4> 지능형 전자정부의 주체로서의 특징
표 <표 5> 공급자로서의 가이드라인
표 <표 6> 이용자로서의 가이드라인
표 <표 7> 개발자로서의 가이드라인
표 <표 8> PACT 원칙과 업무 흐름을 따라 재정리한 인공지능 윤리 가이드라인

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 이러한 지능형 전자정부 서비스를 본격적으로 도입하기에 앞서 인공지능을 활용하게 될 사회 주체로서 “정부”가 따라야 할 인공지능 가이드라인을 앞서 소개한 Seoul PACT를 적용하여 구체적으로 도출하도록 한다.
제도적 조치는 지능형 전자정부 시행에 필요한 관련 법규를 확보하여 시행의 효율성을 답보하는 것이다. 예를 들어, 통제성에서 제시한 인공지능 서비스의 품질 인증이나 투명성에서 제시한 인공지능도입에 따른 사회적 영향평가 항목은 이러한 제도적 조치가 뒷받침이 있어야만 이행될 수 있다.

제안 방법

둘째, 인공지능 윤리를 도출함에 있어서 최소한의 기본원칙(principle)을 먼저 수립한 후 윤리 주체에 따라 가이드라인 (guideline) 을 제시하는 하향방식을 사용한다. 일반적으로 윤리 가이드라인은 상황과 주체에 따라서 항목이 무척 가변적이며 유동적일 수밖에 없다.
본 논문에서 제시한 Seoul PACT 그리고 이를 기반으로 한 지능형 전자정부 서비스에 필요한 인공지능 윤리 가이드라인은 우리 사회가 인공지능과 수직적 공존(즉, 인공지능은 인간이 만든 제조물)이라는 관점을 전제로 하여 전개된 것이다. 향후 인공지능에 대한 산업이 진흥되고 기술발전이 진행됨에 따라 인공지능과의 수평적 공존사회가 도래할 경우 이러한 원칙과 적용 가이드라인은 사회적 공론화를 거쳐 다시 수정될 필요가 있을 것이다.
윤리 Seoul PACT를 제시하였다. 외국의 연구들과 달리 인공지능 윤리의 원칙을 공공성, 책무성, 통제성, 투명성 등 4개로 최소화하고 개발자, 공급자, 이용자라는 사회 3대 주체별 가이드라인 항목을 유연하게 설정할 수 있도록 차별화하였다. 이러한 Seoul PACT를 토대로 하여 지능형 전자정부 서비스에 필요한 인공지능 윤리 가이드라인을 인공지능 주체별로 29개 항목을 도출하였고, 이를 PACT 원칙과 업무 흐름별로 재정리하여 16개 항목을 제시하였다.
외국의 연구들과 달리 인공지능 윤리의 원칙을 공공성, 책무성, 통제성, 투명성 등 4개로 최소화하고 개발자, 공급자, 이용자라는 사회 3대 주체별 가이드라인 항목을 유연하게 설정할 수 있도록 차별화하였다. 이러한 Seoul PACT를 토대로 하여 지능형 전자정부 서비스에 필요한 인공지능 윤리 가이드라인을 인공지능 주체별로 29개 항목을 도출하였고, 이를 PACT 원칙과 업무 흐름별로 재정리하여 16개 항목을 제시하였다.
인공지능의 지속 가능한 발전을 위하여 인공지능 윤리 Seoul PACT를 제시하였다. 외국의 연구들과 달리 인공지능 윤리의 원칙을 공공성, 책무성, 통제성, 투명성 등 4개로 최소화하고 개발자, 공급자, 이용자라는 사회 3대 주체별 가이드라인 항목을 유연하게 설정할 수 있도록 차별화하였다.
첫째, 외국에서 제시해온 인공지능 윤리는 윤리의 주체를 인공지능 개발자에 초점을 맞추고 있는반면 본 연구에서는 개발자는 물론 공급자, 이용자라는 3주체 모두에 초점을 맞춘다. 이는 인공지능기술이 기타 4차 산업혁명 핵심기술과 결합 확산됨으로 인하여 현재의 정보화 사회에서 지능정보화 사회로의 전환이 이루어질 경우를 염두에 둔 것으로, <개발자-공급자-이용자>의 연결고리는 인공지능 유통 관점에서 보았을 때 새로운 사회의 핵심 구성원이 된다.

대상 데이터

2011년 5월 IBM의 인공지능 컴퓨터 Watsone 미국 퀴즈쇼 Jeopardy!에 출현하여 사상 최고금액의 우승자 브레드 러터, 사상 최장의 우승자 켄 제닝스와 경합을 벌여 월등한 차이로 우승을 차지하였다(Markoff, 2011). 2016년 5월 Google의 인공지능 컴퓨터 AlpahGo는 이세돌 9 단과 바둑대국을 벌여 5전 4숭 1패의 전적을 기록하더니 이듬해 중국의 커제 9단을 상대로 3전 전숭하여 74전 73숭 1패라는 대기록을 남기며 바둑계를 은퇴했다(Byford, 2017). 2012년부터 메모리얼 슬로언 캐터링 암센터에서 레지던트를 시작한 IBM의 Watsone 200종의 의학 교과서, 300종의 의학 학술지, 1,500만 건의 의료정보를 학습하였다. 2016년 8월 일본 동경대 의대에서 공식적으로 암 진단을 시작했는데 백혈병에 걸려 3년간 악화일로에 있던 70세 할머니를 Watsone 검진하여 오진임을 바로 밝혀냈고 투약처방을 바꾸어 3개월 만에 완치시켰다(Pandya, 2016).
이에 따라 소프트웨어 개발자들에게 요구되어온 기존 직업윤리에 대한 분석도 인공지능 윤리를 도출하는데 있어서 직간접적 도움이 될 수 있다. 본 논문에서 소프트웨어 개발자 윤리로서 분석한 대상으로 IEEE 윤리강령 (http://www.ieee.org/ about/camratje/govemance4)7-8.html), ACM 윤리강령 (http://www.acm.org/code-of-ethics), NSPE (미국 기술사협회) 윤리강령(http://www.nspe.org/re souroes/ahics/&dg~ethics)을 선정하였다. 이들을 비교분석하여 공통된 윤리항목을 도출해보면 다음<표 2>와 같다.

성능/효과

이상의 PACT 4대 원칙을 토대로 인공지능 개발자와 공급자, 이용자별로 가이드라인 기본항목은 각각 13개, 13개, 12개 등 모두 38개 항목으로 구성된다 (http://www.nia.or.kr/site/nia_kor/ex/ bbs/View.do?cbIdx=66361&bcIdx=20238). 이들은 절대적인 항목이 아니라 상황과 주체의 특성에 따라서 변형 및 추가 .

후속연구

향후 인공지능에 대한 산업이 진흥되고 기술발전이 진행됨에 따라 인공지능과의 수평적 공존사회가 도래할 경우 이러한 원칙과 적용 가이드라인은 사회적 공론화를 거쳐 다시 수정될 필요가 있을 것이다.

참고문헌 (36)

김명주, "인공지능 윤리의 필요성과 국내외 동향", 정보와 통신, 제34권, 제11호(2017), pp.45-54.
행정안전부, "지능형 정부 기본계획", 행정안전부홈페이지 정책정보, 2017, pp.1-15.
Asimov, I., Runaround, I, Robot(The Isaac Asimov Collection ed.), New York City : Doubleday, 1950, p.40.
BBC News, "Google apologises for Photos app's racist blunde", 2015.
BBC News, "Stephen Hawking-will AI kill or save humankind?", 2016.
Bostrom, N. and E. Yudkowsky, "The Ethics of Artificial Intelligence", Cambridge Handbook of Artificial Intelligence, Cambridge University Press, 2011.
Byford, S., "AlphaGo retires from competitive Go after defeating world number one 3-0", The Verge, 2017.
Christensen, C.M., The Innovator's Dilemma : When New Technologies Cause Great Firms to Fail, Harvard Business School Press, 1997.
Egger, W.D., D. Schatsky, and P. Viechnicki, AI-augmented Government using cognitive technologies to redesign public sector work, Deloitte University Press, 2017, pp.7-14.
http://ai-elsi.org/archives/514.
http://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.
http://epsrc.ukri.org/research/ourportfolio/themes/engineering/activities/principlesofrobotics/.
http://futureoflife.org/ai-principles/.
http://prw.kyodonews.jp/prwfile/prdata/0370/release/200402259634/index.html.
http://www.acm.org/code-of-ethics.
http://www.baai.ac.cn/blog/beijing-ai-principles.
http://www.ieee.org/about/corporate/governance/p7-8.html.
http://www.kakaocorp.com/kakao/ai/algorithm.
http://www.mindtools.com/pages/article/newTMC_5W.htm.
http://www.nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx66361&bcIdx20238.
http://www.nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx90180&bcIdx18725&parentSeq18725.
http://www.nspe.org/resources/ethics/code-ethics.
http://www.oecd.org/going-digital/ai/principles.
http://www.roboethics.org/atelier2006.
http://www.roboethics.org/icra2007.
http://www.roboethics.org/icra2007/contributions/slides/Shim_icra%2007_ppt.pdf.
http://www.transportation.gov/AV/federal-automated-vehicles-policy-september-2016.
http://www.zdnet.co.kr/view/?no20180921125345.
IEEE Standards Association, "IEEE Ethical Aligned Design", 2016.
Markoff, J., "Computer Wins on 'Jeopardy!' : Trivial, It's Not", The New York Times, 2011.
National Science & Technology Council, "The national AI R&D Strategic Plan", Oct. 2016.
Pandya, M., "IBM's Watson : The AI System Which Detected Rare Leukemia in a Woman", The Technology Org, 2016.
Price, R., "Microsoft is deleting its AI chatbot's incredibly racist tweets", Business Insider, 2016.
Schwab, K., The Fourth Industrial Revolution : what it means, how to respond, World Economic Forum, 2016.
Torresen, J,. "A review of future and ethical perspectives of robotics and AI", Frontiers in Robotics and AI, 2018.
Yadron, D. and D. Tynan, "Tesla driver dies in first fatal crash while using autopilot mode", The Guardian, 2016.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증