초록 ▼

4. 연구 내용 및 결과
먼저 제2장에서는 4차 산업혁명시대의 신규 법적 이슈를 크게 3가지로 나누어 살펴보았다. 첫째, 블록체인 기술을 기반으로 하는 스마트계약의 개념상의 쟁점과 계약법상의 쟁점으로 구분하여 검토하였다. 먼저, 스마트계약이 단지 프로그램의 일환인지 아니면 계약의한 형태인지 검토하고, 계약이라고 한다면 그 법적 성질을 무엇으로 볼 것인가에 대해 논의한 후 스마트계약과 유사한 형태인 전자계약, 알고리즘 계약 등과의 동이(同異)점이 무엇인지 분석하였다. 또한 스마트계약의 계약법상 이슈와 관련하여서는 계약당사자의 행

4. 연구 내용 및 결과
먼저 제2장에서는 4차 산업혁명시대의 신규 법적 이슈를 크게 3가지로 나누어 살펴보았다. 첫째, 블록체인 기술을 기반으로 하는 스마트계약의 개념상의 쟁점과 계약법상의 쟁점으로 구분하여 검토하였다. 먼저, 스마트계약이 단지 프로그램의 일환인지 아니면 계약의한 형태인지 검토하고, 계약이라고 한다면 그 법적 성질을 무엇으로 볼 것인가에 대해 논의한 후 스마트계약과 유사한 형태인 전자계약, 알고리즘 계약 등과의 동이(同異)점이 무엇인지 분석하였다. 또한 스마트계약의 계약법상 이슈와 관련하여서는 계약당사자의 행위능력, 스마트계약의 성립시기, 의사표시의 불일치 또는 하자가 존재할 경우 민법상 효력이 그대로 적용될 것인지 여부, 급부의 목적물이 제3자의 소유인 경우(도품 또는 유실물일 경우 등) 이를 수령한 자가 소유권을 취득할 수 있는지 여부, 이행상의 문제로 채권자가 디지털자산을 수령할 계정 등을 오류로 입력하였을 경우 발생하는 법률문제 등에 대해 현행법의 내용을 기초로 분석하고, 현행법의 한계와 과제가 무엇인지 검토하였다. 둘째, EU의 GDPR에서 규정하고 있는 정보이동권의 개념과 주요내용을 살펴보고 국내 데이터 유통 생태계 활성화에 필요한 법조항인지를 검토하였다. 또한 정보이동권의 개념을 국내에 도입할 경우, 제기될 수 있는 다양한 법적 이슈를 검토하였다. 특히, 인격권으로서의 개인정보 보호 법제에 재산권적 성격의 법조항 수용, 정보이동권 대상 범위의 명확화, 정보이동에 대한 비용 처리 절차의 구체화, 정보처리자의 일방적 불이익을 방지하기 위한 조치(예, 정보이동권 예외조항), 정보이동권 제3자 양도성 제한 등을 중심으로 분석하였다. 또한 별도의 시행령 혹은 가이드라인 형식으로 기술표준가이드라인과 이 가이드라인에 벗어나지 않는 선에서 ‘상호운용성’ 의무 부여, 포맷변환라이브러리 운용, 가공정보의 수준 명시 등 세부적으로 규정해야 하는 사항들도 함께 살펴보았다. 셋째, 인공지능 알고리즘에 대한 법규범적 대응의 하나인 ‘설명을 요구할 권리’를 둘러싼 법적 쟁점과 정책과제를 논의하였다.

구체적으로 인공지능 알고리즘 규제의 역사적 발전과정을 통해 다양한 접근방식을 소개하고 특히, 최근에 주목받고 있는 알고리즘 투명성의 기술적 ․ 공학적 접근방식으로서의 소위‘설명가능한 인공지능(eXplainable AI: XAI)’ 프로젝트가 지니는 의미에 대해 논의하였다.

또한, EU GDPR의 ‘설명요쳥권’의 개념과 관련된 법적 규정을 검토하고 특히 프로파일링 규제 및 정보주체의 액세스권과 관련된 조항과의 법리적 관련성을 분석하면서 GDPR 규정동일한 용어가 발견되지는 않지만 정보주체의 권리로 간주할 논리적 근거를 제시하였다. 또한 알고리즘 기반의 차별이나 프라이버시 침해 가능성에 대한 범규범적 규율 방식이 가능한가, 가능하다면 그 접근방식의 다양한 유형(전문가 윤리적 접근, 직접적 행정규제 등)은 무엇인가, 알고리즘 규제에 대한 인간개입의 가능성 범위는 어디까지 설정할 것인가 등의 설명을 요구할 권리를 둘러싼 법적 쟁점을 검토하였다. 나아가 설명요청권의 개념과 규범적 적용 가능성에 대한 비판적 관점들을 소개하면서 국내법제와의 비교 및 적용 가능성의 범위와 한계에 대해 논의하였다.

제3장에서는 3개 인공지능 SW 도메인 분야(자율주행자동차, 지능형로봇, 챗봇)를 기준으로 인공지능 SW의 오작동 사례를 도출하고, 이를 유형별로 구분 및 분석하여 각 오작동이 발생하는 원인은 무엇인지 살펴보았다. 분석된 인공지능 SW의 오작동 발생 원인을 사전에 예방하기 위한 인공지능 SW의 필요 안전기능은 어떠한 것들이 있는지 검토하고, 이를 어떻게 인공지능 SW에 적용할 수 있는지 활용방안을 강구하였다. 또한, 인공지능 SW의 개발 과정에서 안전기능을 어떻게 적용해야 하는지, 개발과정에서 인공지능 SW의 안전성을 보장하기 위한 활동에는 어떠한 것들이 있는지 살펴보았다.

제4장에서는 인공지능 SW 안전성 확보를 위한 검증체계를 어떻게 구성할 수 있으며, 이때 고려해야 하는 사항은 무엇인지 살펴보았다. 기존의 소프트웨어 개발 생명주기 모델인‘V모델’에 기반하여 인공지능 SW 개발단계에서의 검증활동과 서비스 단계에서의 검증활동을 각각 정의하고 각 검증활동을 어떻게 수행할 수 있는지 검토하고, 개발단계와 서비스단계에서 진행되는 검증활동 5가지를 인공지능 SW 3가지 도메인(자율주행자동차, 지능형로봇, 챗봇)에 매핑하여 본 연구에서 주장한 5가지 검증활동의 현황을 점검하고, 취약점에 대한 보완 필요 사항을 제시하였다.

( 출처: 요약문 16p )

Abstract ▼

4. Research Results
Chapter 2 reviews legal issues and problems that were newly raised in the era of the 4th Industrial Revolution, such as blockchain-based smart contracts, the right to data portability in intelligent information technology, and the right to explanation of algorithmic transparen

4. Research Results
Chapter 2 reviews legal issues and problems that were newly raised in the era of the 4th Industrial Revolution, such as blockchain-based smart contracts, the right to data portability in intelligent information technology, and the right to explanation of algorithmic transparency/accountability. Chapter 3 analyzes AI software malfunctions by type and deals with what should be considered in the process of developing AI software. Lastly, chapter 4 proposes AI software safety verification systems, seeking ways to use them.

More specifically put, in chapter 2, new legal issues in the age of the 4th Industrial Revolution are mainly categorized into three types. First, issues regarding smart contracts based on blockchain technologies are examined in the context of concepts and contract laws. To this end, we review whether smart contracts are just part of a program or a type of agreement. What their legal nature should be in case they belong to the category of agreement is discussed before analyzing their similarities to or differences from e-contracts, algorithm contacts, and so forth. In connection with smart contract issues in contract laws, ‘the legal capacity of contracting parties,’ ‘when smart contracts are concluded,’ ‘whether the contracts remain effective in terms of the civil code in case there are inconsistencies or flaws in communicative expression,’ ‘whether recipients can acquire the ownership of goods belonging to a third party (stolen or lost articles, etc.),’ and ‘legal issues that are raised in case creditors mistyped accounts for receiving digital assets due to implementation problems’ are analyzed based on current laws, reviewing the limitations and problems thereof. Second, the concepts and key characteristics of the right to data portability prescribed in the EU’s GDPR are reviewed, examining whether the legal provisions are required to promote Korea’s local data distribution ecosystem.
Also, we look into diverse legal issues that may be raised when the concepts of the right to data portability are introduced into Korea. In particular, the focus of such analyses is placed on ‘the inclusion of legal provisions regarding property rights into personal information protection-related legal systems with the nature of personality rights,’ ‘the clarification of the scope of objects to which the right to data portability applies,’‘the specification of data portability cost management procedures,’ ‘measures to prevent data administrators from unilaterally experiencing disadvantages (ex. exceptional provisions about the right to data portability),’ and ‘limitations in transferring the right to data portability to a third party.’ We also check matters that should be specifically defined, such as ‘technology standards and guidelines with the form of separate enforcement ordinances or guidelines,’ ‘interoperability that should be ensured within the scope of the guidelines,’ ‘the operation of format conversion libraries,’ ‘the specified level of processed data,’ and so forth. Third, we discuss legal and policy issues surrounding the right to explanation which is one of the legal and normative responses to AI algorithms. More specifically put, various approaches are introduced via the historical development of AI algorithm regulations. In particular, we deal with the implications of ‘eXplainable AI: XAI’as the technological and engineering approach of algorithmic transparency that has recently come into the spotlight. In the same vein, reviewing legal provisions concerning the concepts of the right to explanation specified in the EU’s GDPR and especially analyzing its jurisprudential relevance to provisions relating to profiling control and information users’ right to access, we present logical evidence that it can be regarded as one of the rights of information users, even though the same term is not found in the EU’s GDPR. We also examine legal issues surrounding the right to explanation of the following questions: 1) Is it possible to regulate algorithm-based discrimination or privacy infringement in a normative way?; 2) If possible, what are the diverse types of approaches (experts’ ethical approach, direct administrative regulations, etc.)? and 3) To what level is human intervention into algorithm regulations allowed to reach?
Furthermore, introducing critical perspectives on the concepts of the right to explanation and the normative application thereof, we discuss the scope and limitations of its application in Korea, with Korea’s legal systems being taken into account.

In chapter 3, based on three AI software domains (autonomous vehicles, intelligent robots, and chatbots), the cases of AI software malfunctions are identified, classified, and analyzed by type, examining causes thereof. We review AI software safety functions that are necessary to prevent AI software from malfunctioning, seeking ways to apply them to AI software. Also, how to apply such functions in the process of developing AI software is studied, looking into activities to ensure the safety of AI software.

In chapter 4, how to set up AI software safety verification systems is reviewed, as well as what should be considered in the process of establishing such systems. Based on ‘the V model’, the existing software development life cycle model, we define verification activities at each of AI software development and service phases, reviewing how such activities can be implemented, and mapping five verification activities for the phases to three types of AI software domains (autonomous vehicles, intelligent robots, and chatbots).
In the process, the status of five verification activities specified herein is checked,presenting ways to improve weaknesses.

( 출처: SUMMARY 20p )

목차 Contents

• 표지 ... 1
• 제 출 문 ... 7
• 목차 ... 9
• 표목차 ... 11
• 그림목차 ... 13
• 요 약 문 ... 15
• SUMMARY ... 19
• CONTENTS ... 23
• 제1장 서 론 ... 25
• 제 1 절 연구의 필요성 및 목적 ... 25
• 제 2 절 연구의 주요내용 ... 29
• 제2장 4차 산업혁명시대의 신규 법적이슈 및 대응 ... 32
• 제 1 절 블록체인 기반 스마트계약의 법적 쟁점과 과제 ... 32
• 1. 블록체인기술 기반 스마트계약의 개관 ... 32
• 2. 스마트계약의 주요 법적 쟁점 ... 40
• 제 2 절 지능정보기술 환경에서 정보이동권의 법적 쟁점과 과제 ... 54
• 1. GDPR의 정보이동권 ... 55
• 2. 정보이동권의 법적 쟁점 ... 66
• 제 3 절 알고리즘 투명성·책임성에 대한 설명을 요구할 권리의 법적 쟁점과 과제 ... 73
• 1. 설명을 요구할 권리의 필요성 ... 73
• 2. 알고리즘의 법규범적 규율 가능성과 방식 ... 76
• 3. GDPR의 설명요청권(right to explanation) ... 86
• 4. GDPR상 프로파일링 규제 규정의 도입방안 ... 89
• 제3장 인공지능 SW 오작동 유형 분류 및 개발 시 고려사항 ... 96
• 제 1 절 인공지능 SW 오작동 유형 분류·분석 ... 96
• 1. 인공지능 SW 오작동 유형 분류·분석 ... 96
• 제 2 절 인공지능 SW 개발 시 고려사항 ... 122
• 1. 인공지능 SW 개발에 대한 국내외 현황 ... 122
• 2. 인공지능 SW 개발 시 고려사항 ... 129
• 제4장 인공지능 SW 검증체계 제안 및 활용방안 ... 136
• 제 1 절 인공지능 SW 검증체계 ... 136
• 1. 인공지능 SW 검증 모델 ... 136
• 2. 현 인공지능 SW 검증 조직에 대한 사례 연구 ... 140
• 제 2 절 인공지능 SW 검증체계 활용 방안 ... 146
• 1. 인공지능 SW 검증 체계 제안 ... 146
• 2. 향후 정부 역할 ... 147
• 제5장 결론 및 정책적 시사점 ... 148
• 1. 블록체인 기반 스마트계약의 법적 쟁점과 과제 ... 149
• 2. 지능정보기술 환경에서 정보이동권의 법적 쟁점과 과제 ... 151
• 3. 알고리즘 투명성·책임성에 대한 설명을 요구할 권리의 법적 쟁점과 과제 ... 153
• 4. 인공지능 SW 오작동 유형 분류 및 개발 시 고려사항 ... 155
• 5. 인공지능 SW 검증체계 제안 및 활용방안 ... 156
• 참 고 문 헌 ... 158
• 끝페이지 ... 165