초록 ▼

4. 연구 내용 및 결과
지능정보사회로 진입하면서, 지능정보기술이 활발히 활용되고 이에 기반한 지능정보서비스가 제공되고 있다. 이러한 지능정보기술과 서비스의 핵심요소는 알고리즘이다. 투입요소로서의 데이터가 입력되고 알고리즘에 의해 처리되면 그에 따른 판단, 결정, 행위가 뒤따르게 된다. 알고리즘은 인간의 개입 없이 국가, 경제, 사회 또는 실생활에 영향을 미친다.
많은 데이터를 객관적이고 공정하게 처리할 수 있고, 인간의 역량을 넘어선 예측과 판단을 가능하게 함으로써 유용한 필수요소로 자리매김하고 있다. 이에 반해, 인간

4. 연구 내용 및 결과
지능정보사회로 진입하면서, 지능정보기술이 활발히 활용되고 이에 기반한 지능정보서비스가 제공되고 있다. 이러한 지능정보기술과 서비스의 핵심요소는 알고리즘이다. 투입요소로서의 데이터가 입력되고 알고리즘에 의해 처리되면 그에 따른 판단, 결정, 행위가 뒤따르게 된다. 알고리즘은 인간의 개입 없이 국가, 경제, 사회 또는 실생활에 영향을 미친다.
많은 데이터를 객관적이고 공정하게 처리할 수 있고, 인간의 역량을 넘어선 예측과 판단을 가능하게 함으로써 유용한 필수요소로 자리매김하고 있다. 이에 반해, 인간이 알고리즘의 처리 과정에 개입할 수 없고, 이해를 할 수 없는 상황을 초래하며, 차별적이고 불공정하며 위법하고 부정적인 영향을 미치는 등의 알고리즘 역기능도 동시에 불거지고 있다.

그간 알고리즘의 역기능에 대해서는 윤리기준 등 연성법을 통한 대응이 주류를 이루었다. 그러나 이러한 기준이 실제로 어떠한 기여를 하여 관철될 것인지는 알 수 없는 상황이다. 또한, 알고리즘 역기능이 미치는 발생가능성과 손해의 정도에 따른 리스크 수준별로 규제가 필요할 수도 있을 것이다.

이에, 본 연구는 알고리즘 역기능에 대한 규제에 대비하기 위하여, 해외 주요국의 동향을 살펴보고 유의미한 시사점을 토대로 규제방안에 대한 제안을 하였다. 첫째, 알고리즘의 역기능 방지를 위한 규제원칙을 마련할 필요가 있다. 기존의 ‘윤리규범’을 ‘규제의 원칙’으로 전환하는 방식을 제안하였다. 둘째, 알고리즘 규제의 기초로서 알고리즘 영향평가 실시의 근거를 마련할 필요가 있다. 어떠한 항목으로 평가할 것이고, 평가 결과를 어떻게 활용하며, 후속조치를 어떻게 운영할 것인지는 개방적이지만, 최소한 알고리즘 영향평가의 규율은 불가피하다고 보았다. 셋째, 알고리즘의 투입요소로서 데이터 관리를 제안하였다. 데이터 자체의 편향성과 불공정성은 부정적인 결론이 도출될 가능성을 높이기 때문에, 알고리즘 투입요소로서 데이터를 관리할 수 있는 체계의 마련이 필요하다. 넷째, 표준화와 인증제도의 근거를 마련할 필요가 있다. 표준화는 알고리즘 개발ㆍ발전의 촉진, 사업자에 대한 법적안정성 보장 및 알고리즘 기술에 대한 신뢰형성에 기여한다. 이러한 표준의 준수는 사전에 요구될 수 있다. 출시 전에 표준의 준수가 검증된 경우 인증 표지를 통해 알고리즘의 역기능을 최소화하고 이에 대한 신뢰를 형성시킬 수 있다. 다섯째, 구체적인 규제로서 사회적 영향력이 크고 그 중요성을 띠는 특히 투명성을 위한 규제가 필요할 수 있다고 보았다. 알고리즘의 역기능 중에서 가장 논란이 되는 사항은 투명성에 대한 것이다.
알고리즘의 투명성이 부족하여 발생하는 부정적 영향 때문에 투명성을 확보하기 위한 명문의 규제 근거가 제도화되고 있는 추세이다.

(출처 : 요약문 12p)

Abstract ▼

4. Research Results
As it enters the intelligent information society, intelligent information technology is actively utilized and intelligent information services based on this are being provided.
The core element of this intelligent information technology and service is an algorithm.
When

4. Research Results
As it enters the intelligent information society, intelligent information technology is actively utilized and intelligent information services based on this are being provided.
The core element of this intelligent information technology and service is an algorithm.
When data as input elements are input and processed by an algorithm, judgments, decisions, and actions follow accordingly. Algorithms affect the country, economy,society or real life without human intervention. It has established itself as a useful essential element by being able to process a lot of data objectively and fairly, and making predictions and judgments beyond human capabilities possible. On the other hand, algorithmic negative impacts such as a situation where humans cannot intervene in the processing of algorithms, cannot understand, and have discriminatory, unfair, illegal and negative effects are also emerging at the same time.

In the meantime, the counter function of algorithms has been mainly treated through soft-laws such as ethical standards. However, it is not known how these standards will actually contribute. In addition, it may be necessary to regulate according to the levelof risk according to the likelihood of occurrence of the algorithm disruptive potentials and the degree of damage.

Therefore, in order to prepare for the regulation of the negative impacts of the algorithm, this study examined the trends of major foreign countries and proposed a regulatory plan based on meaningful implications. First, it is necessary to prepare regulatory principles to prevent the disruptive potentials of the algorithm. A method of converting the existing 'Code of Ethics' to the 'Regulatory Principle' was proposed.
Second, it is necessary to prepare the basis for the implementation of algorithm impact assessment as the basis for algorithm regulation. It is open to what items will be evaluated, how to use the evaluation results, and how to operate follow-up measures, but at least the rules of algorithmic impact assessment are considered inevitable. Third, we proposed data management. Data is an input element of the algorithm. Since the bias and unfairness of the data itself increases the possibility of drawing negative conclusions, it is necessary to prepare a system that can manage data. Fourth, it is necessary to prepare the basis for standardization and certification system.
Standardization contributes to promoting algorithm development, ensuring legal stability for operators, and building trust in algorithm technology. Compliance with these standards may be required in advance. If compliance with the standard is verified prior to release, the negative impacts of the algorithm can be minimized and trust can be built through the certification mark. Fifth, as a specific regulation, it was considered that a regulation for transparency, especially for transparency, which has great social influence and is of great importance. Among the disruptive algorithms, the most controversial is transparency. Due to the negative impact caused by the lack of transparency of algorithms, the prestigious regulatory basis for securing transparency is becoming institutionalized.

(출처 : SUMMARY 16p)

목차 Contents

• 표지 ... 1제 출 문 ... 3목차 ... 5표목차 ... 9그림목차 ... 10요 약 문 ... 11SUMMARY ... 15CONTENTS ... 20제1장 서 론 ... 21 제 1 절 연구의 목적 및 필요성 ... 21 제 2 절 연구의 구성 및 범위 ... 24제2장 알고리즘 기반 규제의 속성과 법제 쟁점 ... 25 제 1 절 아키텍처 기반 규제론의 이해 ... 25 1. 개설 ... 25 2. 규제 구조로서의 아키텍처 ... 25 3. 법적규제와 아키텍처 기반 규제 ... 27 제 2 절 아키텍처 기반 규제론에서 알고리즘 기반 규제론으로 ... 29 1. 아키텍처로서의 알고리즘과 규제 ... 29 2. 알고리즘 기반 규제론의 법이론적 의미 ... 29 제 3 절 법패러다임 전환 맥락에 비춰 본 알고리즘 기반 규제의 속성 ... 32 1. 법진화론 ... 32 2. AI 알고리즘과 응답적 법으로의 변화 맥락 ... 34 3. AI 알고리즘과 법의 기능 변화 ... 35 제 4 절 전통적 법제 영역별 쟁점 ... 37 1. 논의 지형 개관 ... 37 2. 개별 영역별 고찰 ... 38 제 5 절 IT법제 개선 방향과 초점 ... 45 1. 현행 IT법체계의 한계 ... 45 2. IT법체계 개선의 방향성 ... 49제3장 알고리즘 이용에 대한 규제 논의의 출발점 ... 52 제 1 절 알고리즘을 이용한 자동화된 결정 절차 이용의 장점 ... 52 1. 개관 ... 52 2. 산업·경제 영역 ... 53 3. 공공 영역 ... 57 제 2 절 알고리즘을 이용한 결정의 역기능에 대한 논의 ... 59 1. 역기능에 대한 분류의 필요성 ... 59 2. 인공지능 사용 영역별 리스크 분류 ... 60 3. 침해되는 기본권 유형에 따른 분류 ... 63 4. 기술의 위험도에 따른 리스크의 양적 분류 ... 65 제 3 절 인공지능 알고리즘에 대한 규제의 필요성과 한계 ... 68 1. 법적 규율의 필요성과 가능성 ... 68 2. 법적 규율의 한계 ... 69제4장 해외 주요국의 사례 ... 71 제 1 절 유럽연합의 AI 알고리즘 규제 논의 및 동향 ... 71 1. 규제논의 및 이슈, 동향 ... 71 2. 규제의 필요성에 대한 논의와 주요내용 ... 75 3. 규제의 수단과 내용 ... 86 4. 규제기관에 대한 논의 ... 120 5. 시사점 ... 121 제 2 절 독일의 AI 알고리즘 규제 논의 및 동향 ... 123 1. 인공지능에 관한 주요 정책 ... 123 2. 규제의 필요성 및 수단에 대한 논의와 주요 내용 ... 125 3. 시사점 ... 144 제 3 절 영국의 AI 알고리즘 규제 논의 및 동향 ... 147 1. 규제논의 및 이슈, 동향 ... 147 2. 규제의 필요성과 그 방법·수단에 대한 논의 ... 151 3. 검토 및 시사점 ... 165 제 4 절 미국의 AI 알고리즘 규제 논의 및 동향 ... 169 1. 인공지능 규제의 발전연혁 및 연방정부의 최근 인공지능 활용사례 ... 169 2. 연방 정부 차원에서의 인공지능 규제동향 ... 173 3. 미의회의 인공지능 알고리즘 규제 입법 동향 ... 193 4. 시사점 ... 199 제 5 절 호주의 AI 알고리즘 규제 논의 및 동향 ... 202 1. 규제논의 및 이슈와 동향 ... 202 2. 규제의 필요성과 그 방법·수단에 대한 논의 ... 204 3. 검토 및 시사점 ... 214 제 6 절 일본 AI 알고리즘 규제 논의 및 동향 ... 217 1. 규제논의 및 이슈, 동향 ... 217 2. 규제의 필요성에 대한 논의와 주요내용 ... 219 3. 규제의 수단과 내용 ... 222 4. 시사점 ... 232제5장 알고리즘에 기반한 역기능 방지를 위한 규제방향 ... 233 제 1 절 국내의 알고리즘 규율 현황 ... 233 1. 지능형 로봇윤리헌장 ... 233 2. 지능정보사회 윤리 가이드라인 ... 234 3. 4차 산업혁명 대정부 권고안 ... 235 4. 이용자 중심의 지능정보사회를 위한 원칙 ... 235 5. 인공지능 국가전략 ... 235 6. 국가 인공지능 윤리기준 ... 236 7. 기존 체계의 한계 ... 237 제 2 절 알고리즘 역기능 규제의 필요성 ... 238 1. 규제의 필요성 ... 238 2. 리스크 제어의 선택지 ... 240 3. 규제방식의 딜레마 ... 241 제 3 절 알고리즘 역기능에 대한 규제 제언 ... 243 1. 알고리즘의 역기능 방지를 위한 원칙 선언: ‘윤리규범’을 ‘규제의 원칙’으로 전환 ... 243 2. 알고리즘의 역기능 방지를 위한 구체적인 규제 조문(구성요건)의 필요성 ... 244 3. 알고리즘 규제의 기초로서 알고리즘 영향평가 ... 245 4. 알고리즘의 투입요소로서 데이터 관리 ... 250 5. 표준화와 인증 ... 251 6. 그 밖의 중요한 구체적인 규제 : 특히 투명성 ... 252 7. 전담 조직 설치 ... 254제6장 정부정책반영현황 ... 256참 고 문 헌 ... 258끝페이지 ... 268