초록 ▼

본 연구는 급속도로 발전하는 헬스케어 인공지능 연구의 기획과 수행에 적용할 수 있는 윤리원칙 및 실제적으로 활용가능한 지침을 개발하는 것, 그리고 연구자들의 교육 수요를 파악하여 연구 윤리 교육프로그램을 개발하는 것을 목표로 한다.

연구 결과는 다음과 같이 구분된다. 첫째, 이 연구는 국내‧외 헬스케어 인공지능 연구에 적용가능한 윤리원칙 및 지침, 사례를 조사하였다. 이를 위하여 2017년 이후 보건·의료분야에 특정한 AI 가이드라인이 개발되기 시작한 이래, 보건 분야 18개, 연구 분야 27개, 정부 기관 발행 22개

본 연구는 급속도로 발전하는 헬스케어 인공지능 연구의 기획과 수행에 적용할 수 있는 윤리원칙 및 실제적으로 활용가능한 지침을 개발하는 것, 그리고 연구자들의 교육 수요를 파악하여 연구 윤리 교육프로그램을 개발하는 것을 목표로 한다.

연구 결과는 다음과 같이 구분된다. 첫째, 이 연구는 국내‧외 헬스케어 인공지능 연구에 적용가능한 윤리원칙 및 지침, 사례를 조사하였다. 이를 위하여 2017년 이후 보건·의료분야에 특정한 AI 가이드라인이 개발되기 시작한 이래, 보건 분야 18개, 연구 분야 27개, 정부 기관 발행 22개의 원칙 또는 지침 및 관련문헌을 분석하였고, 헬스케어분야의 인공지능 연구 사례를 탐색하여, 그 중에서 윤리적으로 의미있는 사례군을 발굴하였다.

둘째, 국내‧외 헬스케어 인공지능 연구에 관련된 윤리교육의 동향을 조사하였다. 구체적으로, 연구자들은 헬스케어 인공지능 연구에 대한 국내외 윤리교육 프로그램 전반을 확인하였고, 특히 연구자들을 대상으로 개발·제공된 교육 프로그램의 내용을 분석하였다. 국내 일반인 및 연구자들을 대상으로 설문조사를 수행하여 헬스케어 인공지능 연구의 윤리원칙에 대한 인식 및 교육에 대한 수요를 확인하였다.

셋째, 헬스케어 인공지능 연구에 대한 윤리 원칙 및 활용 지침을 개발하였다. 이 지침은 다음 여섯 가지원칙을 제시한다. (1) 인간의 자율성 존중과 보호 원칙은 연구자와 정보주체의 자율성이 균형적으로 강조되며, 자동화된 의사결정의 통제권이 인간에게 있음을 강조한다. (2) 인간의 행복, 안전, 공공의 이익 증진원칙은 기술과 관련된 다양한 위험과 우려를 알고, 합목적적인 이익 증진을 위한 법적, 사회적 노력이 필요함을 제안한다. (3) 투명성, 설명가능성, 신뢰성 원칙은 헬스케어 인공지능 결정의 설명가능성, 해석가능성, 데이터 활용의 투명성을 구체화하고, 사회적 신뢰를 얻기 위한 기관과 사용자의 노력에는 연구 및 기술 활용 결과에 대한 공개가 포함됨을 보인다. (4) 책무, 법적책임 원칙은 기술로 인해 발생한 의료과실에 대한 법적 보상 체계 구축이 미흡하므로, 피해를 최소화하기 위하여 연구자 및 소속 기관 모두 책임있는 연구가 이뤄지도록 상호 노력의 중요성을 강조한다. (5) 포괄성, 공정성 원칙은 기술은 개인적 특성과 관계없이 적절하고 공평하게 사용되도록 설계되어야 하며, 디지털 격차의 해소, 편향성 문제의 해결을 중요한 문제로 거론한다. (6) 대응성, 지속가능성 원칙은 기술의 사회적 인식에 대한 대응이 체계적으로 이뤄져야 할 필요성을 강조하며, 지속가능성을 실현하기 위한 기술 개발을 장려한다.

또한, 지침에서 연구자들은 기술의 개발 과정을 총 여섯 단계로 구분하여 단계 별 핵심 체크리스트를 제안하였다. 사전 고려 단계에서는 윤리 프레임워크를 설정하고, 데이터 단게에서는 데이터 수집 및 처리, 알고리즘 단계에서는 인공지능 모델 개발 관련 내용, 훈련 단계는 모델 통합, 모니터링, 관리를 중심으로, 사후 고려 단계에서는 피드백 루프와 지속적 향상과 관련된 윤리적 고려사항을 제시하였다.

넷째, 이 연구는 연구자들을 대상으로 하는 헬스케어 인공지능 연구의 윤리 교육프로그램을 개발하였다. 연구자 대상 조사 결과 및 전문가 자문위원회의 자문을 통하여 윤리 교육의 목표 및 총 여섯 개의 모듈이 포함된 교안을 개발하였다.

다섯째, 이 연구는 헬스케어 인공지능 연구·개발 분야에 적용되는 윤리에 관련된 사회적 논의를 진행하였다. 구체적으로, 이 연구에서는 1회 국제 컨퍼런스, 2회 교육 세미나, 4회 전문가 자문회의, 1회 공청회를 개최하여 다양한 이해관계자 및 전문가들의 의견을 수렴하였다.

이번 연구에 관련된 한계는 다음과 같다. 첫째, 이 지침은 다양한 사회적 의견 수렴의 과정을 거쳤음에도 불구하고, 연구자들 연구 전반을 점검하는 데 얼마나 활용 가능한지, 연구심의자 및 소속기관이 지침에 기반하여 연구자·개발자들의 결정과 행위를 평가하여 구체적인 지시를 내리기에 적합한지에 대하여 충분한 검토가 이뤄졌다고 보기 어렵다. 둘째, 이번 연구 결과는 연구자들의 자율적 규제 방식을 전제한다. 그런데 아직까지 윤리원칙이 인공지능 기술 표준에 포함시키고 이를 시험하며 모니터링하는 실용적인 제도적 조치가 없이 윤리 지침만 존재하는 상황에서, 연구자들이 데이터 윤리 이상으로의 윤리적 규범이 필요한지, 더 나아가 자율적 규제가 필요한지 공감대가 형성되어 있다고 보기 어렵다.

마지막으로, 기존 데이터 연구의 법적 프레임워크 및 이를 준수하는 연구윤리 문화의 안정적 형성에 기반하여, 이번 결과를 통하여 향후 보건의료 인공지능 연구에 대한 법제 환경 조성을 위하여, 본 연구자들은 후속 연구를 위하여 다음의 내용을 제안한다. 첫째, 이미 헬스케어 인공지능 연구개발은 활발하게 이뤄지고 있으나, 기관심의위원회는 데이터 연구윤리의 기준을 인공지능 연구 윤리에 그대로 적용하고, 별도로 인공지능 연구의 윤리적 특수성에 기반한 심의 기준은 부재한 상황이다. 이 연구결과에 기반하여 향후 기관 심의 기준을 마련하는 것이 필요하다. 둘째, 이 기술은 향후 국내·외 법제 조화가 더욱 요구되므로, 이를 위한 주요 기관, 당사자 간 협력이 필요하다. 특히 법제화와 관련된 국내 주요 기관의 충분한 소통과 협력이 보건의료 체계에 인공지능 기술의 혁신적 활용을 이끌어내는 원동력이 될 수 있다. 셋째, 연구자 뿐 아니라, 일반인 및 환자 또한 우선적인 교육의 대상이라는 점이다. 환자나 일반인들은 아직까지 인공지능 기술에 대해 상당히 긍정적이나, 일반인들의 인공지능 기술에 대한 이해 및 지식수준의 향상은 기술발전에 수반되어야 할 의제이다. 윤리적으로 높은 시민 의식과 함께 이러한 사회 변화가 진행되도록 보다 광범위한 교육 활동이 필요하다.

(출처 : 요약문 7p)

Abstract ▼

This project aims to develop ethical principles and guidelines that can be applied to the planning and implementation of rapidly developing healthcare artificial intelligence research, and to develop a research ethics education program by identifying the educational needs of researchers.

The

This project aims to develop ethical principles and guidelines that can be applied to the planning and implementation of rapidly developing healthcare artificial intelligence research, and to develop a research ethics education program by identifying the educational needs of researchers.

The research results are classified as follows. First, the researchers studied ethical principles, guidelines, and cases applicable to healthcare artificial intelligence research. To this end, since 2017, 18 in the field of health, 27 in research, and 22 principles or guidelines issued by government and related literature were analyzed. Relevant research cases were explored, and among them, ethically meaningful case groups were discovered.

Second, the researchers studied trends in ethics education related to domestic and foreign healthcare artificial intelligence research. Specifically, the researchers checked the overall domestic and international ethics education programs for healthcare artificial intelligence research, and especially analyzed the contents of the education programs developed and provided to researchers. A survey was conducted targeting the general public and researchers in Korea to confirm the awareness of ethical principles in healthcare artificial intelligence research and the demand for education.

Third, the researchers developed ethical principles and application guidelines for healthcare artificial intelligence research. The guidelines present six principles: (1) The principle of respect and protection of human autonomy emphasizes the autonomy of researchers and information subjects in a balanced way, and emphasizes that humans have the right to control automated decision-making. (2) The principle of promotion of human happiness, safety, and public interest suggests that legal and social efforts are needed to promote purposeful benefits by recognizing various risks and concerns related to technology. (3) The principles of transparency, explainability, and reliability specify the explainability of healthcare artificial intelligence decisions, interpretability, and transparency of data utilization, and disclosure of research and technology utilization results in efforts of institutions and users to gain social trust. appears to be included. (4) Since the principle of accountability and legal responsibility does not establish a legal compensation system for medical errors caused by technology, the importance of mutual efforts is emphasized so that both researchers and affiliated institutions conduct responsible research to minimize damage. (5) The principle of inclusivity and fairness states that technologies should be designed to be appropriately and fairly used regardless of individual characteristics, and that bridging the digital divide and resolving bias issues are important issues. (6) Responsiveness and sustainability principles emphasize the need to systematically respond to social awareness of technology and encourage technology development to realize sustainability.

In addition, in the guidelines, the researchers proposed a key checklist according to the AI development steps. In the pre-consideration stage, the ethical framework is established; in the data stage, data collection and processing; in the algorithm stage, AI model development-related content; in the training stage, model integration, monitoring, and management are centered; Ethical considerations related to improvement were presented.

Fourth, the researchers developed an ethics education program for healthcare artificial intelligence research targeting researchers. Through the research results and the advice of the expert advisory committee, the goal of ethics education and a teaching plan containing a total of six modules were developed.

Fifth, the researchers conducted social discussions related to ethics applied to the field of healthcare artificial intelligence research and development. Specifically, in this study, the opinions of various stakeholders and experts were collected by holding an international conference, two educational seminars, four expert advisory meetings, and one public hearing.

The limitations related to this study are as follows. First, despite the fact that these guidelines went through the process of collecting various social opinions, how well they can be used to check the overall research of researchers, the research deliberation person and affiliated institutions evaluate the decisions and actions of researchers and developers based on the guidelines. It is difficult to say that sufficient review has been conducted on whether it is suitable for issuing specific instructions. Second, the results of this study presuppose the self-regulation method of researchers. However, in a situation where only ethical guidelines exist without practical institutional measures to include ethical principles in artificial intelligence technology standards, it is difficult to agree for researchers on whether ethical standards beyond data ethics are necessary, and furthermore, self-regulation is needed.

Finally, based on the legal framework of existing data research and the stable formation of a research ethics culture that complies with it, through this result, in order to create a legal environment for future health care artificial intelligence research, these researchers conducted the following research for follow-up research: suggest content. First, healthcare artificial intelligence research and development is already being actively carried out, but the institutional review committee applies the standards of data research ethics to artificial intelligence research ethics as it is, and there is no separate review standard based on the ethical specificity of artificial intelligence research. Based on the results of this study, it is necessary to prepare standards for institutional review in the future. Second, as this technology requires further harmonization of domestic and foreign laws in the future, cooperation between major institutions and parties is required. In particular, sufficient communication and cooperation among major domestic institutions related to legislation can be a driving force for innovative use of artificial intelligence technology in the health care system. Third, not only researchers, but also the general public and patients are prioritized subjects of education. A broader range of educational activities is needed to ensure that this social transformation proceeds along with ethically high citizenship.

(source : Summary 9p)

목차 Contents

• 표지 ... 1
• 제출문 ... 2
• 목차 ... 3
• 요약문 ... 7
• Summary ... 9
• II. 학술연구개발용역과제 연구결과 ... 11
• 제1장 최종 목표 ... 11
• 제1절 연구배경 및 필요성 ... 11
• 제2절 연구목표 및 범위 ... 14
• 제3절 목표달성도 및 관련분야에 대한 기여도 ... 15
• 제2장 국내외 기술 현황 ... 17
• 제1절 헬스케어 스마트기술 및 산업의 잠재적 가치와 활용 ... 17
• 제2절 헬스케어 AI 시장규모 및 미래 전망 ... 18
• 제3절 세계 주요국의 헬스케어 AI 분야의 발전 전략 ... 18
• 제3장 최종 연구 내용 및 방법 ... 22
• 제1절 헬스케어 AI 연구 윤리원칙 및 지침 ... 22
• 제2절 연구자 대상 헬스케어 AI 연구윤리 교육프로그램 개발 ... 25
• 제3절 전문가, 연구자 및 일반인의 참여와 소통, 연구 결과의 확산 ... 29
• 제4장 최종 연구용역과제 결과 ... 32
• 제1절 헬스케어 AI 관련 주요 개념 ... 32
• 제2절 국내‧외 헬스케어 AI 윤리원칙 지침 동향 조사 ... 37
• 제3절 국내‧외 헬스케어 AI 윤리 사례 조사 ... 81
• 제4절 국내‧외 헬스케어 AI 윤리 교육 동향 조사 ... 98
• 제5절 일반인 대상 헬스케어 AI 윤리 인식 조사 ... 116
• 제6절 전문가 대상 헬스케어 AI 윤리 교육 수요 조사 ... 141
• 제7절 헬스케어 AI 연구 윤리 원칙 활용 지침 개발 ... 217
• 제8절 연구자 대상 AI 연구윤리 교육 프로그램 개발 ... 248
• 제9절 결과 확산 ... 259
• 제5장 연구결과 고찰 및 결론 ... 308
• 제6장 연구개발성과의 관리 및 활용계획 ... 310
• 제7장 연구용역과제 진행과정에서 수집한 해외과학기술정보 ... 317
• 제8장 기타 중요 변경사항 ... 317
• 제9장 연구비 사용 내역 및 연구원 분담표 ... 318
• 제10장 참고문헌 ... 321
• 제11장 첨부서류 ... 333
• 1. AI 윤리원칙 및 지침 발간·발표 동향 ... 333
• 2. WHO 의료분야 AI 윤리와 거버넌스 지침서 일부 번역 ... 342
• 3. UNESCO 윤리 지침 초안 (한국어판) ... 352
• 4. 일본인공지능학회 윤리지침 (한국어판) ... 389
• 5. 미 백악관 과학기술정책국(OSTP) AI 권리장전 청사진 ... 391
• 6. 설문 조사를 위한 기관심의위원회 승인 자료 ... 393
• 7. 일반인 대상 설문조사지 ... 395
• 8. 전문가 대상 설문조사지 ... 409
• 9. 국내·외 학술 관련 자료 ... 430
• 10. 언론홍보 ... 439
• 11. 주요 회의록 및 공청회 ... 444
• 끝페이지 ... 455