[논문]보건의료 빅데이터에서의 자연어처리기법 적용방안 연구: 단어임베딩 방법을 중심으로

김한상; 정여진

doi:10.4332/kjhpa.2020.30.1.15

보건의료 빅데이터에서의 자연어처리기법 적용방안 연구: 단어임베딩 방법을 중심으로
A Study on the Application of Natural Language Processing in Health Care Big Data: Focusing on Word Embedding Methods 원문보기

Health policy and management = 보건행정학회지, v.30 no.1, 2020년, pp.15 - 25

김한상 (건강보험심사평가원 심사평가연구실) , 정여진 (국민대학교 데이터사이언스학과)

Abstract ▼ AI-Helper

While healthcare data sets include extensive information about patients, many researchers have limitations in analyzing them due to their intrinsic characteristics such as heterogeneity, longitudinal irregularity, and noise. In particular, since the majority of medical history information is recorded in text codes, the use of such information has been limited due to the high dimensionality of explanatory variables. To address this problem, recent studies applied word embedding techniques, originally developed for natural language processing, and derived positive results in terms of dimensional reduction and accuracy of the prediction model. This paper reviews the deep learning-based natural language processing techniques (word embedding) and summarizes research cases that have used those techniques in the health care field. Then we finally propose a research framework for applying deep learning-based natural language process in the analysis of domestic health insurance data.

주제어

표/그림 (7)

그림 Figure 1. The difference between one-hot_endocding and word embedding [31].
그림 Figure 2. CBOW (A) and skip-gram (B) model [37].
그림 Figure 3. Word embedding in claim data.
그림 Figure 4. Analytics framework.
표 Table 1. Define sentence in claims data
표 Table 2. Record units and embedding vectors
표 Table 3. Sentences and word embedding vector

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

끝으로, 본 연구는 건강보험데이터를 분석함에 있어 단어임베딩기법의 적용과정 및 방법들에 대한 설명에 초점을 맞췄고, 이해를 돕기 위해 의료패널 데이터를 이용한 간단한 적용사례를 소개하였다. 그러나 향후 단어임베딩기법을 적용한 모델개발 연구 시 의료패널 데이터의 활용뿐만 아니라 분석목적에 따라 정보의 크기 등의 제한점이 존재할 수 있어 건강보험 전체 데이터를 활용한 연구들이 필요할 것으로 판단된다.
다음으로 이에 기초하여 국내 건강보험 데이터에 단어임베딩기법을 활용할 수 있는 다양한 관점들과 이를 적용하는 프레임워크를 제시하고자 한다.
이러한 배경하에 본 연구의 목적은 다음과 같다. 먼저 국내 보건의료분야에서 아직 생소할 수 있는 단어임베딩기법을 소개하고 의료이용 데이터에 이를 활용한 국외 연구들을 정리하고자 한다. 다음으로 이에 기초하여 국내 건강보험 데이터에 단어임베딩기법을 활용할 수 있는 다양한 관점들과 이를 적용하는 프레임워크를 제시하고자 한다.
본 연구에서는 이 방법들 중 가장 대표적인 단어임베딩 방법이면서 토픽분석, 추천시스템 등 다양한 분야에 응용되는 word2vec을 중심으로 건강보험 데이터의 적용방법에 대해 서술한다.
본 장에서는 앞서 소개한 연구사례들에 기초하여 국내 건강보험데이터 분석 시 고려될 수 있는 다양한 활용관점에 대해 정리하고자 한다. 일반적으로 데이터 분석 프로세스는 분석기획, 데이터전처리, 변수선택, 모델링, 검증 및 테스트의 순으로 이야기할 수 있다.
이 중 진단질환, 약제, 치료내역 코드 등을 활용한 사례도 꾸준하게 소개되고 있는데, 본 장에서는 이런 사례들의 연구목적과 이를 위한 단어임베딩기법을 어떻게 활용하였는지에 대해 소개하고자 한다.
따라서 딥러닝 기반 단어임베딩기법의 적용은 보건의료 빅데이터의 활용범위 확장 및 분석모델의 설명력 향상 등에 기여될 수 있을 것으로 판단된다. 이에 따라 본 연구에서는 딥러닝 기반 단어임베딩과 이를 보건의료분야에서 활용한 연구사례들을 소개하였고, 최종적으로 국내 건강보험데이터에 적용할 수 있는 다양한 관점들과 방법 등을 정리하여 분석 프레임워크를 제안하였다.

제안 방법

끝으로 모델은 skip-gram을 사용하였고, 주변단어의 범위를 5로 지정하여 200번 반복하여(iterations) 학습시켰다.
따라서 각 진료내역 코드별로 산출된 임베딩변수를 조작적 정의를 통해 환자 단위의 값으로의 변환이 필요한데, 연구에서는 이를 환자별로 합산하는 방법을 적용하였다(Table 2).
먼저 문장은 4년간 발생된 환자별 주상병 이력으로 정의하였고, 외래방문내역만 문장범위에 포함하였다. 그리고 주상병코드의 빈도가 5 미만이면 해당 코드는 분석에서 제외하였고, 시간에 따른 중복상병은 분석에 포함하였다.
2016년 Choi 등[18]은 전자건강기록(electronic health record, EHR) 자료를 이용한 심부전 예측모델에서 단어임베딩기법을 적용하였다[18]. 문장은 특정기간 내(약 4년) 한 환자에게서 발생되는 진단상병, 약제코드, 행위코드를 묶어서 정의하였고, 단어임베딩기법을 적용하여 각 코드들을 100개의 임베딩변수로 나타내었다. 그 결과 기존 원핫인코딩 방법을 적용했을 때보다 심부전 발생예측의 정확도가 향상되는 것으로 나타났다.
본 연구에서는 단어임베딩기법 중 하나인 word2vec을 중심으로 설명하였는데, 본문에 제시된 프레임워크는 건강보험데이터에 단어임 베딩기법을 적용하는 전반적인 가이드로 여러 임베딩모델 방법에도 확장 적용이 가능하다. 또한 연구의 목적에 따라 건강보험 데이터에 서 발생될 수 있는 연구사례들을 주로 다루었지만, 해외 몇몇 연구에 서는 EHR 내 임상전문가의 텍스트 기록의 분석에도 단어임베딩기법 을 활용하였다[41-43].
연구에서 문장은 환자의 병원 방문당 발생되는 진단질환 코드들과 임상노트의 단어들로 정의하여 각 코드 간의 연관성과 코드와 임상노트의 단어 간의 연관성을 산출하였다.
해당 연구에서는 1년 동안 한 환자에게서 발생되는 행위코드(Current Procedural Terminology), 약제코드(National Drug Code), 국제질병사인분류(International Classification of Diseases-9th revision, ICD-9), 진단검사코드(Logical Observation Identifiers Names and Codes)를 하나의 문장으로 정의하였고, 이를 통해 각 코드별로 임베딩변수 값을 산출하고 각 코드 간의 유사도를 계산하였다.

대상 데이터

분석에는 2008–2015 한국의료패널14) 자료를 이용하였고, python3의 keras_talk 라이브러리를 이용하여 word2vec을 적용하였다.
최종적으로 빈도수가 5 미만인 단어(주상병코드)를 제외하고 771개의 주상병코드에 대한 50개의 임베딩변수를 산출하였다(Table 3).

이론/모형

2017년 Che 등[22]은 EHR 자료를 이용하여 단기간 위험예측에 효과적인 모델을 제안하였다. 한 환자에게 발생된 전체 진단질환, 약제내역을 문장으로 정의하고 단어임베딩기법을 적용하여 200개의 임베딩변수로 변환하여 모델에 적용하였다[22]. 그 결과 90, 180일 심부전, 당뇨 조기 예측모델의 정확도가 크게 향상되는 것으로 나타났다.

성능/효과

한 환자에게 발생된 전체 진단질환, 약제내역을 문장으로 정의하고 단어임베딩기법을 적용하여 200개의 임베딩변수로 변환하여 모델에 적용하였다[22]. 그 결과 90, 180일 심부전, 당뇨 조기 예측모델의 정확도가 크게 향상되는 것으로 나타났다.
그 결과 기존 원핫인코딩 방법을 적용했을 때보다 심부전 발생예측의 정확도가 향상되는 것으로 나타났다.
이는 주상병코드를 설명변수로 이용하기 위해 원-핫 인코딩을 사용한다면 약 903개의 가변수가 필요하다는 의미와 같다. 문장 수(환자 수)는 19,815개로, 평균 문장당 단어 수(환자당 외래 방문횟수)는 49개로 나타났다. 최종적으로 빈도수가 5 미만인 단어(주상병코드)를 제외하고 771개의 주상병코드에 대한 50개의 임베딩변수를 산출하였다(Table 3).
분석결과 분석데이터 내에서 주상병코드의 고유값은 총 903개로 나타났다.
연구결과 기존 방법을 적용한 것보다 단어임베딩을 이용했을 때의 예측의 정확도가 높아지는 것으로 나타났다.
그리고 추가적으로 건강검진변수들까지 포함하여 최종 모델의 설명변수로 이용하였다. 연구결과 임베딩변수를 설명변수로서 모델에 추가했을 때 예측정확도가 높게 나타났다.
2018년 Zhang 등[24]은 EHR 자료를 통해 환자의 방문에서 발생되는 코드들을 하나의 문장으로 정의하였고, 이를 이용하여 환자 단위 시계열 예측모델인 “Patient2Vec”을 제안하였다. 연구에서는 이 모델을 이용하여 불필요한 재입원 예방을 위한 재입원의 조기예측을 하였고, 기존 시계열모형보다 예측정확도가 높게 나타났다.
임베딩변수 값의 적정성을 살펴보기 위해 2형 당뇨상병(E11) 근접 한 값을 가지는 상병을 살펴본 결과, ‘죽상경화증(I70),’ ‘외이염 (H60),’ ‘비뇨계통의 기타 증상 및 징후(R39),’ ‘고관절 및 대퇴부위의 근육 및 힘줄의 손상(S76),’ ‘병적 골절을 동반한 골다공증(M80),’ ‘노 년백내장(H25)’ 등으로 나타났다.
임상전문가 평가결과 기존 모형7)보다 연관성이 더 명확한 것으로 나타났고, 환자의 다음 방문의 진단코드의 예측모형에 이를 임베딩변수로 반영 시 기존 모형들보다 예측의 정확도가 향상되는 것으로 나타났다.

후속연구

끝으로, 본 연구는 건강보험데이터를 분석함에 있어 단어임베딩기법의 적용과정 및 방법들에 대한 설명에 초점을 맞췄고, 이해를 돕기 위해 의료패널 데이터를 이용한 간단한 적용사례를 소개하였다. 그러나 향후 단어임베딩기법을 적용한 모델개발 연구 시 의료패널 데이터의 활용뿐만 아니라 분석목적에 따라 정보의 크기 등의 제한점이 존재할 수 있어 건강보험 전체 데이터를 활용한 연구들이 필요할 것으로 판단된다. 그리고 최근 해외에서는 기존 단어임베딩기법을 적용하는 것이 아닌 보건의료데이터의 복잡성[44], 시간불규칙성[45] 등을 반영한 다양한 응용 단어임베딩모델들이 개발되고 있다.
해외에서는 이에 대한 연구들이 지속적으로 발표되고 있는데, 대부분의 연구에서 진료내역 코드들을 단어 임베딩을 통해 모델의 설명변수로 반영했을 때¹⁵⁾ 기존 방법들보다 예측정확도 및 연관성 등이 높게 나타났다[19,20,22]. 따라서 딥러닝 기반 단어임베딩기법의 적용은 보건의료 빅데이터의 활용범위 확장 및 분석모델의 설명력 향상 등에 기여될 수 있을 것으로 판단된다. 이에 따라 본 연구에서는 딥러닝 기반 단어임베딩과 이를 보건의료분야에서 활용한 연구사례들을 소개하였고, 최종적으로 국내 건강보험데이터에 적용할 수 있는 다양한 관점들과 방법 등을 정리하여 분석 프레임워크를 제안하였다.
최종 단어임베딩 적용을 위해서는 word2vec 방법 기준 CBOW, skip-gram 모델 선택, 주변단어의 범위설정 그리고 가변수의 개수를 정의해줘야 한다. 먼저 모델 선택의 경우 skip-gram 모델의 성능이 빈도가 낮은 단어에서 좋은 성능을 보이는 것으로 소개되었지만[34], 이와 반대되는 연구결과도 있어[38], 연구 시 두 가지 모델에 대한 성능의 비교는 필요할 것으로 판단된다. 그리고 임베딩변수의 개수는 구글가이드라인에서는 많을수록 좋은 것으로 소개¹¹⁾되었는데, 기존연구들에서는 100, 200, 400개 등으로 지정해 주었다.
마지막으로 건강보험 데이터 분석에 있어 자연어처리기술의 활용 측면에서의 향후 과제에 대해 논의하고자 한다. 이는 보건의료 빅데이터에 대한 활용 논의가 활발한 현 시점에서 딥러닝기술의 활용에 있어 주요 기초 가이드 자료가 될 것으로 기대된다.

질의응답

핵심어	질문	논문에서 추출한 답변
	단어임베딩 방법의 장점은 무엇인가?	예를 들어 ‘왕은 A를 명령했다,’ ‘여왕은 A를 명령했다’라는 문장을 학습하게 되면, 왕과 여왕은 비슷한 맥락에서 사용되었으므로 비슷한 의미를 가지는 것으로 분석되고 벡터공간 내 가까운 위치로 나타내진다. 이런 단어임베딩 방법은 일반적인 원핫인코딩기법을 적용했을 때보다 적은 차원으로 단어의 벡터화가 가능하고, 단어 벡터 간의 수학적 연산을 통해 단어들 간의 유사도를 계산할 수 있다(Figure1) [30,31].
	단어임베딩이란 무엇인가?	자연어처리분야에서 단어임베딩은 주요 기술 중 하나로 인식되고 있다[26-28]. 단어임베딩은 주변 단어들의 분포에 기반하여 단어들의 유사도를 계산하고 이를 n차원 벡터로 매핑 시키는 기법이다. 이는 ‘같은 맥락에서 사용되고 발생되는 단어는 유사한 의미를 나타내는 경향이 있다’라는 언어학의 ‘distributional hypothesis’에 기초한다[29].
	단어임베딩의 기초가 되는 가설은 무엇인가?	단어임베딩은 주변 단어들의 분포에 기반하여 단어들의 유사도를 계산하고 이를 n차원 벡터로 매핑 시키는 기법이다. 이는 ‘같은 맥락에서 사용되고 발생되는 단어는 유사한 의미를 나타내는 경향이 있다’라는 언어학의 ‘distributional hypothesis’에 기초한다[29]. 예를 들어 ‘왕은 A를 명령했다,’ ‘여왕은 A를 명령했다’라는 문장을 학습하게 되면, 왕과 여왕은 비슷한 맥락에서 사용되었으므로 비슷한 의미를 가지는 것으로 분석되고 벡터공간 내 가까운 위치로 나타내진다.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증