[논문]XAI 기반의 임상의사결정시스템에 관한 연구

안윤애; 조한진

doi:10.5392/jkca.2021.21.12.013

초록
AI-Helper

임상의사결정시스템은 누적된 의료 데이터를 활용하여 머신러닝으로 학습된 AI 모델을 환자의 진단 및 진료 예측에 적용한다. 그러나 기존의 블랙박스 기반의 AI 응용은 시스템이 예측한 결과에 대해 타당한 이유를 제시하지 못하여 설명성이 부족한 한계점이 존재한다. 이와 같은 문제점을 보완하기 위해 이 논문에서는 임상의사결정시스템의 개발 단계에서 설명이 가능한 XAI를 적용하는 시스템 모델을 제안한다. 제안 모델은 기존의 AI모델에 설명성이 가능한 특정 XAI 기술을 추가로 적용시켜 블랙박스의 한계점을 보완할 수 있다. 제안 모델의 적용을 보이기 위해 LIME과 SHAP을 활용한 XAI 적용 사례를 제시한다. 테스트를 통해 데이터들이 모델의 예측 결과에 어떤 영향을 미치는지 다양한 관점에서 설명할 수 있다. 제안된 모델은 사용자에게 구체적인 이유를 제시함으로써 사용자의 신뢰를 높일 수 있는 장점을 가진다. 아울러 XAI의 적극적인 활용을 통해 기존 임상의사결정시스템의 한계를 극복하고 더 나은 진단 및 의사결정 지원을 가능하게 할 것으로 기대한다.

Abstract ▼ AI-Helper

The clinical decision support system uses accumulated medical data to apply an AI model learned by machine learning to patient diagnosis and treatment prediction. However, the existing black box-based AI application does not provide a valid reason for the result predicted by the system, so there is ...

The clinical decision support system uses accumulated medical data to apply an AI model learned by machine learning to patient diagnosis and treatment prediction. However, the existing black box-based AI application does not provide a valid reason for the result predicted by the system, so there is a limitation in that it lacks explanation. To compensate for these problems, this paper proposes a system model that applies XAI that can be explained in the development stage of the clinical decision support system. The proposed model can supplement the limitations of the black box by additionally applying a specific XAI technology that can be explained to the existing AI model. To show the application of the proposed model, we present an example of XAI application using LIME and SHAP. Through testing, it is possible to explain how data affects the prediction results of the model from various perspectives. The proposed model has the advantage of increasing the user's trust by presenting a specific reason to the user. In addition, it is expected that the active use of XAI will overcome the limitations of the existing clinical decision support system and enable better diagnosis and decision support.

주제어

AI 본문요약
AI-Helper

문제 정의

이 논문에서는 CDSS에서 머신러닝 기반의 AI를 사용하면서 신뢰성을 창출하기 위해 XAI 기술을 적용한 모델을 제시하였다. 또한 피마 인디언 당뇨병 데이터 세트를 사용하여 제안 모델의 적용 가능성을 테스트 사례를 통해 설명하였다.

제안 방법

테스트용 인스턴스 데이터는 도출된 최적 모델과 XAI 모듈에 제공된다. 여기에서는 XAI 적용 기술로 LIME과 SHAP 2가지 방법으로 처리하여 예측 결과와 함께 제시된 설명성을 해석한다.
지금까지 XAI 기술 중에서 LIME과 SHAP을 사용한 예시를 통해 기존의 AI 모델보다 좀 더 구체적으로 예측 결과에 대한 설명이 제공되는 방법을 살펴보았다. 제안한 CDSS 모델이 실제 현장에서 사용되기 위해 가장 먼저 고려할 사항은 시스템 개발에 사용할 XAI 기술의 선정이다.
현재 본 연구에서는 LIME과 SHAP이 도출한 결과를 그대로 사용하여 설명성을 해석하였다. 이로 인해 일반 사용자들은 결과를 해석하기에 다소 어려움을 겪을 수 있다.

대상 데이터

SHAP의 글로벌 설명(Global Explanation)은 테스트에 활용되는 모든 인스턴스 집합에 대한 예측 결과를 한 번에 확인할 수 있는 기능이다. 여기에서는 모두 154 개의 인스턴스가 사용되었다.

성능/효과

이러한 XAI 기술의 적용 연구를 통해 얻은 가장 중요한 장점은 데이터들이 모델의 예측 결과에 어떤 영향을 미치는지 다양한 관점에서 설명할 수 있다는 것이다. 아울러 CDSS 사용자에게 좀 더 구체적인 근거를 제시함으로써 시스템 사용자에게 신뢰를 얻을 수 있다는 것이다.
제안한 XAI 기반의 CDSS 모델은 기존의 시스템이 갖지 못하는 예측 결과의 투명성과 신뢰성을 제공할 수 있는 장점을 가진다. 제안 모델에 적용된 SHAP 기술은 예측을 위해 시스템에 입력된 피쳐들에 대해 계산된 섀플리 값을 제공한다.

후속연구

본 연구의 한계점은 제안한 CDSS 모델을 아직 실제 시스템으로 구현하지 않은 점이다. 따라서 향후 연구과제로서 제안 모델의 프로토타입을 개발한 후에 사용자로부터 설명성에 대한 만족도를 평가받는 형태로 제안모델의 객관적 타당성을 평가할 계획이다.
특히 다양한 임상 전문가의 만족도 평가를 위해서는 2가지 이상의 XAI 기술을 적용한 시스템을 개발하여 비교 평가할 필요가 있을 것이다. 따라서 향후 제안 모델의 프로토타입을 개발한 후 설명성에 대한 사용자의 만족도를 조사하여 제안 모델의 우수성을 평가할 계획이다.
이로 인해 일반 사용자들은 결과를 해석하기에 다소 어려움을 겪을 수 있다. 따라서 향후에는 사용자에게 좀 더 쉬운 이해를 돕기 위한 별도의 HCI 기반의 설명 모듈 개발에 대한 연구를 구체적으로 수행할 계획이다.
이를 통해서 제안 모델에서 제시하는 예측 결과에 대한 투명성을 확보할 수 있으며, 사용자의 신뢰성을 높일 수 있는 것이다. 본 연구에서 제안한 모델은 CDSS 분야에 XAI를 적용하는 방법론의 하나로서 학술적인 의의를 가질 것이며, 향후 더 다양한 연구 방법의 기초 모델로서 참조될 수 있을 것이다.
본 연구의 한계점은 제안한 CDSS 모델을 아직 실제 시스템으로 구현하지 않은 점이다. 따라서 향후 연구과제로서 제안 모델의 프로토타입을 개발한 후에 사용자로부터 설명성에 대한 만족도를 평가받는 형태로 제안모델의 객관적 타당성을 평가할 계획이다.
그러나 제안한 XAI 기반의 CDSS 모델은 예측 결과의 정확성으로 평가받는 것이 아니라, 시스템이 사용자에게 제공한 예측 결과의 설명성에 대한 만족도를 바탕으로 성능을 평가해야 한다. 특히 다양한 임상 전문가의 만족도 평가를 위해서는 2가지 이상의 XAI 기술을 적용한 시스템을 개발하여 비교 평가할 필요가 있을 것이다. 따라서 향후 제안 모델의 프로토타입을 개발한 후 설명성에 대한 사용자의 만족도를 조사하여 제안 모델의 우수성을 평가할 계획이다.

참고문헌 (16)

M. Khalifa, "Clinical Decision Support: Strategies for Success," J. of Procedia Computer Science, Vol.37, pp.422-427, 2014.

상세보기
김용균, "디지털 헬스케어의 최근 동향과 시사점," 정보통신기술진흥센터, 주간기술동향, 제1846호, pp.12-23, 2018.
https://blog.naver.com/neozensoft/221124735041
M. Turek, Explainable Artificial Intelligence(XAI), DARPA-BAA-16-53, pp.5-15, 2016.
U. Pawar, D. O'Shea, S. Rea, and R. O'Reilly, "Explainable ai in healthcare," 2020 International Conference on Cyber Situational Awareness, Data Analytics and Assessment (CyberSA), pp.1-2, 2020.
D. Dave, H. Naik, S. Singhal, and P. Patel, "Explainable AI meets Healthcare : A Study on Heart Disease Dataset," Cornell University, ArXiv: 2011.03195, pp.1-23, 2020.
U. Arioz, B. Yildiz, R. Kut, I. Agim, and K. Uguducu, "The Future of Applications For Clinical Decision Support Systems in Healthcare. Case Study: H2020 PERSIST Project," Proceedings of IES'20 International Engineering Symposium, Engineering Applications in Industry (Virtual), p.157, 2020.
H. Sung, B. Jung, K. Kim, S. Sung, A. Sung, and J. Park, "Trends and Future Direction of the Clinical Decision Support System in Traditional Korean Medicine," J. of Pharmacopuncture, Vol.22, No.4, pp.260-268, 2019.

원문보기 상세보기
G. Mahadevaiah, P. RV, I. Bermejo, D. Jaffray, A. Dekker, and L. Wee, "Artificial intelligence-based clinical decision support in modern medical physics: Selection, acceptance, commissioning, and quality assurance," J. of Medical Physics, Vol.47, No.5, pp.e228-e235, 2020.
T. Lysaght, H. Lim, V. Xafis, and K. Ngiam, "AI-Assisted Decision-making in Healthcare : The Application of an Ethics Framework for Big Data in Healthand Research," J. of Asian Bioethics Review, Vol.11, pp.299-314, 2019.

상세보기
한형진, "의료/헬스케어 분야에서의 설명 가능 인공지능(Explainable AI) 연구 동향," BRIC View 동향리포트, BRIC View 2021-T13, pp.1-13, 2021.
A. Adadi and M. Berrada, "Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)," J. of IEEE Access, Vol.6, pp.52138-52160, 2018

상세보기
https://towardsdatascience.com/googles-new-explainable-ai-xai-service-83a7bc823773
https://www.kaggle.com/uciml/pima-indiansdiabetes-database
S. Reddy, S. Allan, S. Coghlan, and P. Cooper, "A governance model for the application of AI in health care," J. of the American Medical Informatics Association, Vol.27, No.3, pp.491-497, 2020.

상세보기
S. Reddy, S. Allan, S. Coghlan, and P. Cooper, "A governance model for the application of AI in health care," J. of the American Medical Informatics Association, Vol.27, No.3, pp.491-497, 2020.

상세보기

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

XAI 기반의 임상의사결정시스템에 관한 연구
A Study on XAI-based Clinical Decision Support System 원문보기

초록
AI-Helper

Abstract ▼ AI-Helper

주제어

표/그림 (11)

표/그림 (11)

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

후속연구

참고문헌 (16)

이 논문을 인용한 문헌

저자의 다른 논문 :

관련 콘텐츠

원문 보기

원문 URL 링크

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

XAI 기반의 임상의사결정시스템에 관한 연구 A Study on XAI-based Clinical Decision Support System 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

Abstract ▼ AI-Helper

주제어

표/그림 (11) 모든 표/그림 보기

표/그림 (11) 슬라이드로 보기

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

후속연구

참고문헌 (16)

이 논문을 인용한 문헌

저자의 다른 논문 :

안윤애 (1) 조한진 (47)

관련 콘텐츠

원문 보기

원문 URL 링크

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

XAI 기반의 임상의사결정시스템에 관한 연구
A Study on XAI-based Clinical Decision Support System 원문보기

초록
AI-Helper

표/그림 (11)

표/그림 (11)

AI 본문요약
AI-Helper