[논문]생성형 AI의 의료적 활용과 개인정보보호

이수경

doi:10.29291/kslm.2023.24.4.067

생성형 AI의 의료적 활용과 개인정보보호
A Study on the Medical Application and Personal Information Protection of Generative AI 원문보기

의료법학, v.24 no.4, 2023년, pp.67 - 101

이수경 (고려대학교)

초록
AI-Helper

생성형 AI의 활용은 교육계를 넘어서 이미 의료계에서도 의료 기기에 임상 소프트웨어 등의 도입 등으로 연구되고 있다. 생성형 AI는 대규모 대화형 언어모델을 활용하여 방대한 데이터를 이해하고 자료를 선별하는 시간과 에너지를 줄여주면서 사용자와 끊임없는 대화를 통한 정보의 전달이 가능하다. 바로 이러한 점이 인류에게 생성형 AI가 혁신적인 기술의 등장으로 인정받고 있는 점이기도 하다. 그러나 반면 사용자에게 제공되는 컨텐츠의 정합성은 출처나 근거 없이 사용자에게 판단의 영역으로 맡겨지고 있다. 그러나 이 글에서는 생성형 AI를 활용함에 있어서 가장 직접적으로 발생할 수 있는 쟁점을 우선적으로 살펴보기로 한다. 따라서 이 글에서는 생성형 AI의 대표적인 프로그램인 Chat GPT의 발전과 이용자의 활용에 대비하여 특히 개인정보 보호의 쟁점에 대하여 논의하였다. 이를 위하여 먼저 생성형 AI의 기술적인 특성을 살펴본 뒤에 발생 가능한 민사적 쟁점 가운데에서도 개인정보 보호에 관한 문제를 우선적으로 살펴보았다. 생성형 AI는 그 자체로서 학습 데이터의 편향이나 출처 없는 결과값의 제공 등 여러 문제점이 제기되고 있으나, 이러한 문제점은 윤리적 문제를 내포하는 것으로 당장 임상 소프트웨어로서 의료기기에서 활용될 경우 개인정보 보호법제와 보건의료데이터의 활용 가이드로 환자 혹은 이용자의 개인정보를 보호할 수 있을 것인가에 대한 의문에 대한 논의가 시급하다고 판단되었다. 우리나라의 개인정보 보호법제는 특히 보건의료데이터의 활용에서 특정 개인의 개인정보를 가명처리하고 비식별조치를 취하는 데에 적절한 프로세스를 갖추고 있는 것으로 보이나, 생성형 AI이 소프트웨어로서 의료기기에 적용되었을 경우에도 이 법제로서 개인정보 보호의 목적을 이루기에는 어려운 점이 있다. 임상 소프트웨어에서 활용될 생성형 AI의 기능을 대비하기 위해서는 생성형 AI에 걸맞는 개인정보 보호의 법제가 필요할 것으로 보인다.

Abstract ▼ AI-Helper

The utilization of generative AI in the medical field is also being rapidly researched. Access to vast data sets reduces the time and energy spent in selecting information. However, as the effort put into content creation decreases, there is a greater likelihood of associated issues arising. For example, with generative AI, users must discern the accuracy of results themselves, as these AIs learn from data within a set period and generate outcomes. While the answers may appear plausible, their sources are often unclear, making it challenging to determine their veracity. Additionally, the possibility of presenting results from a biased or distorted perspective cannot be discounted at present on ethical grounds. Despite these concerns, the field of generative AI is continually advancing, with an increasing number of users leveraging it in various sectors, including biomedical and life sciences. This raises important legal considerations regarding who bears responsibility and to what extent for any damages caused by these high-performance AI algorithms. A general overview of issues with generative AI includes those discussed above, but another perspective arises from its fundamental nature as a large-scale language model ('LLM') AI. There is a civil law concern regarding "the memorization of training data within artificial neural networks and its subsequent reproduction". Medical data, by nature, often reflects personal characteristics of patients, potentially leading to issues such as the regeneration of personal information. The extensive application of generative AI in scenarios beyond traditional AI brings forth the possibility of legal challenges that cannot be ignored. Upon examining the technical characteristics of generative AI and focusing on legal issues, especially concerning the protection of personal information, it's evident that current laws regarding personal information protection, particularly in the context of health and medical data utilization, are inadequate. These laws provide processes for anonymizing and de-identification, specific personal information but fall short when generative AI is applied as software in medical devices. To address the functionalities of generative AI in clinical software, a reevaluation and adjustment of existing laws for the protection of personal information are imperative.

주제어

참고문헌 (56)

고학수 . 김병필 . 구본효 외 4명, 「인공지능 시대의 개인정보 보호법」, 서울: 박영사, 2022.
김윤명, 「블랙박스를 열기 위한 인공지능법」, 서울: 박영사, 2022.
노갑영, 「의료법과 의료분쟁의 이해」, 서울: 마인드탭, 2018.
이상돈 . 김나경, 「의료법 강의」, 서울: 법문사, 2017.
송덕수, 「신민법강의」, 서울: 박영사, 2022.
지원림, 「민법강의」, 서울: 홍문사, 2022.
최윤섭, 「의료 인공지능」, 서울: 클라우드 나인, 2018.
Isaac Kohane, Carey Goldberg, Peter Lee, 「The AI revolution in Medicine: GPT-4 and Beyond」: Pearson Education, Inc. 2023.
김윤명, "생성형 인공지능(AI) 모델의 법률문제", 「정보법학」 제27권 1호, 2023.
김병필, "대규모 언어모형 인공지능의 법적 쟁점", 「정보법학」 제26권 1호, 2022.
김성원 . 최상민 . 이수원, "텍스트 . 데이터 마이닝 과정의 저작물 이용 면책 규정신설안에 대한 소고-적대적 생성신경망에의 적용-", 「지식재산연구」 제18권 1호, 2023.
김영두, "인공지능과 자유의지", 「법학연구」, 제30권 1호. 2020.
김효연, "빅데이터와 정치(참여)에서의 세대 간 대표의 불균형 -정보격차와 디지털 리터러시를 중심으로-", 「법학논고」, 제76집, 2022.
박노형, "개정된 개인정보보호법상 개인정보의 국외이전에 관한 규정의 분석: GDPR을 참조하여", 「고려법학」 제109호, 2023.
박혜진, "의료 인공지능의 활용을 둘러싼 법적 과제: 규제의 진화 및 책임의 배분을 중심으로", 「비교사법」 제29권 4호, 2022.
송미옥 . 조용진, "의료로봇의 현재와 미래: 수술로봇을 중심으로", 「디지털융복합연구」 제19권 4호, 2021.
양종모, "인공지능의 위험의 특성과 법적 규제방안", 「홍익법학」 제17권 4호, 2016.
엄주희 . 김소윤, "인공지능 의료와 법제", 「한국의료법학회지」 제28권 2호, 2020.
유주선, "인공지능 의료행위와 법적 책임에 관한 연구", 「비교사법」 제27권 4호, 2020.
유지혜, "인공지능 시스템에서 생성된 창작의 특허법상 보호에 관한 연구", 「지식재산연구」 제18권 1호, 2023.
윤나리, "성명권의 내용 및 인격권에 기한 금지청구권의 인정요건에 관한 고찰-'대법원 2022.11.17. 선고 2018다249995 판결'을 중심으로-", 「법조」 제72권 4호, 2023.
윤용석, "위험책임분야의 민법개정의안서에 관한 일고", 「법학연구」 제41권 1호, 부산대학교 법학연구소, 2000.
이계일, "독일의 법해석론에 대한 연구", 「연세법학」 제38권, 연세법학회, 2021.
이동진, "일반적으로 접근 가능한 개인정보의 처리와 이익형량", 「정보법학」 제24권 2호, 2020.
이부하, "일반적 인격권에 대한 헌법적 고찰-독일 연방헌법재판소 판례 고찰을 통한 일반적 인격권의 구체화-", 「미디어와 인격권」 제8권 3호. 2022.
이수경, "산업용 AI로봇의 제조물 책임법 적용을 위한 소고", 「정보법학」 제26권 1호, 2022.
이숙연, "인공지능 관련 규범 수립의 국내외 현황과 과제", 「법조」 제72권 1호, 2023.
이해원, "개정 개인정보 보호법의 민사법적 쟁점", 「법조」 제72권 3호, 2023.
정채연, "의료 인공지능의 법적 수용을 위한 시론적 연구-쟁점과 과제-", 「법학논총」 제45권 3호, 2021.
차상육, "인공지능(AI) 관련 특허법상 쟁점에 관한 연구", 「법학논고」 제80집, 2023.
A. Bernstein. "(Almost) No Bad Drugs: Near-Total Products Liability Immunity for Pharmaceuticals Explained". 「Wash Lee Law Rev」. 77. 2020.
A. Holzinger, K. Keiblinger, P. Holub, et al. "AI for life: Trends in artificial intelligence for biotechnology". 「New Biotechnology」. 74. 2023.

상세보기
A. Nashwan, A. Abujaber, H. Choudry. "Embracing the future of physician-patient communication: GPT-4 in gastroenterology". 「Gastroenterology and Hepatology」. 1(3). 2023.
B. Buchner. "Artificial intelligence as a challenge for the law: the example of "Doctor Algorithm"". 「Int Cybersecur Law Revw」. 3. 2022.
C.E. Haupt, M. Marks. "AI-Generated Medical Advice-GPT and Beyond". 「JAMA」. 3329. 2023.
D. Schwarcz, J.H. Choi. "AI tools for lawyers: a practical guide". 2023.
D.A. Drossman, J. Ruddy. "Improving patient-provider relationships to improve health care". 「J Clin Gastroenterol Hepatol」. 18(7). 2020.
H.R. Sullivan, S.J. Schweikart. "Are Current Tort Liability Doctrines Adequate for Addressing Injury Caused by AI?". 「AMA J Ethics」. 160. 2019.
J. Shaw. "Emerging Paradigms for Ethical Review of Research Using Artificial Intelligence". 「Am J Bioeth」. 22. 2022.

상세보기
M. Hull. "Medical language proficiency: A discussion of interprofessional language competencies and potential for patient risk". 「Int J Nurs Stud」. 54. 2016.
M. Tsui. "Pharmaceutical product liability and the Australian Consumer Law: To wards a principled approach". 「Competition and Consumer Law Journal」. 23(2). 2015.
M.A. Stewart. "Effective physician-patient communication and health outcomes: a review". 「CMAJ」. 152. 1955.
M.D. Silva, T. Horsley, D. Singh et al. "Legal concerns in health-related artificial intelligence: a scoping review protocol". 「Systematic Reviews」.11. 2022.

상세보기
N. Naik, B.M.Z. Hameed, D.K. Shetty, et al. "Legal and ethical consideration in artificial intelligence in healthcare: who takes responsibility?". 「Fron Surg」. 14. 2022.
N. Sauder, A.K. Emara, P.J. Rullan, et al. "Hip and Knee are the most litigated Orthopaedic Cases: A nationwide 5-year analysis of medical malpractice claims". 「J Arthroplasty」. 38. 2022.
P. Hacker. "Die regulierung von ChatGPT et al.- ein europaisches Trauersiel". 「GRUR」. 289. 2023.
R.A. Khan, M. Jawaid, A.R. Khan, et al. "ChatGPT-Reshaping medical education and clinical management". 「Pak J Med Sci」. 39. 2023.
S. O'Sullivan, N. Nevejans, C. Allen, et al. "Legal, regulatory, and ethical frameworks fo r development of standards in artificial intelligence (AI) and autonomous robotic surgery". 「Int J Med Robot」. 15. 2019.

상세보기
S. Vahdat, L. Hamzehgardeshi, S. Hessam, et al. "Patient involvement in health care decision making: a review". 「Iran Red Crescent Med J」. 16. 2014.
S.D. Brown. "The Ethics of Medical AI and the Physician-Patient Relationship". 「Camb Q Healthc Ethics」. 29. 2020.
S.S. Biswas. "Role of Chat GPT in Public Health". 「Ann Biomed Eng」. 51. 2023.
T.B. Arif, U. Munaf, I. Ul-Haque. "The future of medical education and research: Is ChatGPT a blessing or blight in disguise?". 「Medical Education Online」. 28. 2023.

상세보기
Y. Ma. "The potential application of ChatGPT in gastrointestinal pathology". 「Gastroenterology & Endoscopy」. 1. 2023.

상세보기
보건복지부, 개인정보보호위원회, "보건의료데이터 활용 가이드라인", 2022.

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증