초록

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

정보의 양이 빠르게 증가함으로 인해 필요한 정보만을 효율적으로 얻기 위한 질의응답 시스템의 중요도가 늘어나고 있다. 그 중에서도 질의 문장에서 주어와 관계를 추출하여 정답을 찾는 지식베이스 기반 질의응답 시스템이 활발히 연구되고 있다. 그러나 기존 지식베이스 기반 질의응답 시스템은 하나의 질의 문장만을 사용하므로 정보가 부족한 단점이 있다. 본 논문에서는 이러한 단점을 해결하고자 정보검색을 통해 질의와 유사한 문장을 찾고 Recurrent Neural Encoder-Decoder에 검색된 문장과 질의를 함께 활용하여 주어와 관계를 찾는 모델을 제안한다. bAbI SimpleQuestions v2 데이터를 이용한 실험에서 제안 모델은 질의만 사용하여 주어와 관계를 찾는 모델보다 좋은 성능(정확도 주어:33.2%, 관계:56.4%)을 보였다.

정보의 양이 빠르게 증가함으로 인해 필요한 정보만을 효율적으로 얻기 위한 질의응답 시스템의 중요도가 늘어나고 있다. 그 중에서도 질의 문장에서 주어와 관계를 추출하여 정답을 찾는 지식베이스 기반 질의응답 시스템이 활발히 연구되고 있다. 그러나 기존 지식베이스 기반 질의응답 시스템은 하나의 질의 문장만을 사용하므로 정보가 부족한 단점이 있다. 본 논문에서는 이러한 단점을 해결하고자 정보검색을 통해 질의와 유사한 문장을 찾고 Recurrent Neural Encoder-Decoder에 검색된 문장과 질의를 함께 활용하여 주어와 관계를 찾는 모델을 제안한다. bAbI SimpleQuestions v2 데이터를 이용한 실험에서 제안 모델은 질의만 사용하여 주어와 관계를 찾는 모델보다 좋은 성능(정확도 주어:33.2%, 관계:56.4%)을 보였다.

AI 본문요약

엑셀 다운로드 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

• 연구 주제
• 연구 방법
• 연구 결과

문제 정의

• 기존의 지식베이스 기반 연구는 규칙을 통해 주어 어휘와 관계 어휘를 추출하고 관계 트리플에사상 하였지만 유의어나 다른 형태로 나타난 문장의 경우 관계 트리플에 사상시키기 어려운 단점이 있었으며, 기계학습 방법으로 추출하기에는 질의문장 하나는 정보가 너무 적은 단점이 있었다. 본 논문에서는 지식베이스 기반 방법의 단점을 보완하고자 딥러닝을 통한 기계학습 방법에 질의와 유사한 문장을 정보검색 방법으로 찾고 질의와 함께 사용하여 성능을 향상시키는 모델을 제안한다.
• 본 논문에서는 효과적으로 유사 문장을 찾기 위해 문서 단위의 색인과 문맥 단위의 색인을 한다. 문서 단위의 색인은 검색 대상이 되는 문서의 모든 내용을 색인하는 방법으로 질의와 유사 문장 사이의 어휘 불일치 문제를 완화하는 역할을 한다.
• 생성된 중간벡터를 디코딩하여 문장 정보가 모두 반영된 정답“사과”를 찾게 된다. 본 논문에서는 Recurrent Neural Encoder-Decoder에 질의와 유사 문장 집합을 입력하여 주어와 관계를 찾는 모델을 제안한다.
• 본 논문에서는 정보검색을 통해 검색된 유사 문장과 Recurrent Neural Encoder-Decoder를 사용하여 질의에서 묻고자하는 주어와 관계를 찾는 방법을 제안하였다. 본 논문에서 제안한 모델은 질의를 검색하여 유사 문장 집합을 찾고 검색된 결과와 질의를 통해 주어와 관계를 찾았다.

제안 방법

• 대표적으로BiGRU(Bi-directional Gated Recurrent Unit)와BiGRU-CRF(BiGRU-Conditional Random Field)를 통해 주어와 관계를 찾는 모델[8], Sequence to Sequence 모델을 통해 위키피디아 문서를 읽어 정답을 찾는 모델[9]이 있다. 본 논문에서는 Recurrent Neural Encoder-Decoder[10]를 이용하여 문장을 인코딩 한 후인코딩 벡터를 통해 주어와 관계를 추출하는 모델을 제안한다.
• [그림 1]에서 보는 것과 같이 제안 모델은 정보검색을 통해 유사 문장을 검색하는 부분과 딥러닝을 통해 질의에 해당하는 주어와 관계를 찾는 부분으로 구성된다. 정보검색을 통해 얻어지는 유사 문장은 오류가 포함될 수 있어 클러스터 기반 언어 모델을 사용하여 검색 결과의 오류를 줄이고 질의와 검색된 유사 문장을 입력으로 모델을 학습시켜 주어와 관계를 찾는다.
• 먼저 질의로 검색된 유사 문장 집합의 각 문장을 질의와 연결한 질의-유사 문장 쌍을 입력으로 사용하고 정답을 출력으로 하여 학습한다. 예를 들어 질의에서 주어를 찾는 문제일 경우 질의가 “사과는 무슨 색입니까?”이고 검색된 유사 문장 집합이 “사과는 빨간색 과일로 과즙이 풍부하다.
• 위와 같은 방법으로 입력 데이터를 생성 후 학습된 모델에 적용하여 각 정답 레이블의 확률 값을 가지는 결과 레이블 배열을 얻는다. 마지막으로 질의와 유사 문장들로 얻은 결과 레이블 배열들에 정보검색 순위결과가중치를 반영하여 각 요소(각 레이블의 확률 값)를 더한 최종 확률 배열을 생성한 후 확률이 가장 높은 레이블 하나를 예측 값으로 출력한다.
• 본 논문에서는 정보검색을 통해 검색된 유사 문장과 Recurrent Neural Encoder-Decoder를 사용하여 질의에서 묻고자하는 주어와 관계를 찾는 방법을 제안하였다. 본 논문에서 제안한 모델은 질의를 검색하여 유사 문장 집합을 찾고 검색된 결과와 질의를 통해 주어와 관계를 찾았다. 실험 결과 질의만을 통해 주어와 관계를 찾는 모델보다 주어, 관계 분류 정확도가 각각 5.

대상 데이터

• 본 논문에서는 정보검색 모델의 색인 데이터로DBPedia 2015-10[14]의 영어 위키피디아 abstracts만으로 이루어진 long_abstracts.ttl을 사용한다. 질의응답 시스템 실험용 데이터로는 질의와 FreeBase_5MB[15]에 존재하는 관계 트리플의 쌍으로 이루어진 bAbI SimpleQuestions v2[16]에서 학습 데이터 10,000개, 평가 데이터 1,000개를 무작위 추출하여 사용한다.
• ttl을 사용한다. 질의응답 시스템 실험용 데이터로는 질의와 FreeBase_5MB[15]에 존재하는 관계 트리플의 쌍으로 이루어진 bAbI SimpleQuestions v2[16]에서 학습 데이터 10,000개, 평가 데이터 1,000개를 무작위 추출하여 사용한다. 정보검색 모델을 위한 색인에 앞서 문단으로 이루어진 abstracts를 문맥 단위로 색인하기 위해 LingPipe[17]를 통해 문장 분할을 시행하였다.

이론/모형

• 질의에 해당하는 유사 문장을 찾기 위한 검색 모델은 적합성 피드백(Relevance feedback)[11]을 적용한 클러스터 기반 언어모델(Cluster based language model)[12,13]을 사용한다. 적합성 피드백은 질의 검색을 통해 예비 문서를 찾고 예비 문서 집합에서 나타나는 중요 단어들을 추가하여 검색결과의 성능을 향상시키는방법이다.
• 본 논문에서는 Recurrent Neural Encoder-Decoder모델을 사용하여 주어와 관계를 찾는다. Recurrent Neural Encoder-Decoder 모델은 입력된 문장을 Neural Encoder를 통해 인코딩하여 문장의 의미가 담긴 중간벡터를 생성하고 인코딩된 중간벡터 값을 Neural Decoder에 전달하여 결과를 도출하는 모델이다.
• 질의응답 시스템 실험용 데이터로는 질의와 FreeBase_5MB[15]에 존재하는 관계 트리플의 쌍으로 이루어진 bAbI SimpleQuestions v2[16]에서 학습 데이터 10,000개, 평가 데이터 1,000개를 무작위 추출하여 사용한다. 정보검색 모델을 위한 색인에 앞서 문단으로 이루어진 abstracts를 문맥 단위로 색인하기 위해 LingPipe[17]를 통해 문장 분할을 시행하였다.

성능/효과

• <표 1>에서Baseline은 제안 모델의 성능을 확인하기 위해 질의만 입력으로 했을 때 주어나 관계가 나오도록 학습시킨 모델이다. <표 2>에서 보는 것과 같이 본 논문에서 제안한 정보검색을 통해 검색된 유사 문장을 같이 사용한 주어,관계 모델의 성능이 Baseline보다 각각 5.8%, 5.1% 향상되는 것을 볼 수 있다. 그러나 전체 성능이 낮은 것을 확인 할 수 있는데 주어는 80,990개, 관계는 1,777개중하나를 찾는 문제라 분류할 내용이 많아 성능이 낮다고 판단된다.
• 본 논문에서 제안한 모델은 질의를 검색하여 유사 문장 집합을 찾고 검색된 결과와 질의를 통해 주어와 관계를 찾았다. 실험 결과 질의만을 통해 주어와 관계를 찾는 모델보다 주어, 관계 분류 정확도가 각각 5.8%, 5.1% 향상되는 결과를 얻었다. 또한 실험 데이터는 영어지만 자질이 들어가지 않고 어휘만을 이용한 언어 독립적인 방법을 제안하였기에 한국어로 구성된 학습 데이터만 구축되면 한국어에도 적용이 가능 할 것으로 보인다.

후속연구

• 1% 향상되는 결과를 얻었다. 또한 실험 데이터는 영어지만 자질이 들어가지 않고 어휘만을 이용한 언어 독립적인 방법을 제안하였기에 한국어로 구성된 학습 데이터만 구축되면 한국어에도 적용이 가능 할 것으로 보인다. 향후 연구로 주어와 관계의 타입 정보를 통해 단어 임베딩을 추가하고, Sequence Labeling 방법을 통해 정답 가능성이 있는 단어를 추론하는 가지치기 모델을 추가할 계획이다.
• 또한 실험 데이터는 영어지만 자질이 들어가지 않고 어휘만을 이용한 언어 독립적인 방법을 제안하였기에 한국어로 구성된 학습 데이터만 구축되면 한국어에도 적용이 가능 할 것으로 보인다. 향후 연구로 주어와 관계의 타입 정보를 통해 단어 임베딩을 추가하고, Sequence Labeling 방법을 통해 정답 가능성이 있는 단어를 추론하는 가지치기 모델을 추가할 계획이다.

본문요약 정보가 도움이 되었나요? 예 아니오 제출

질의응답

핵심어	질문	논문에서 추출한 답변
질의응답 시스템	본 논문에서 제안하는 질의응답 시스템의 구조는 어떻게 구성되는가?	[그림 3]과 같이 질의와 유사 문장 집합에 속하는 문장을 이용하여 학습하는 학습부분, 질의와 유사 문장 집합을 학습된 모델에 적용하여 결과 레이블 배열을 얻는 적용부분, 마지막으로 각 유사 문장별 결과 레이블 배열에 정보검색 순위정보를 반영하여 결합한 후 최종 정답을 분류하는 결합부분으로 구성된다.
질의응답 시스템	질의응답 시스템이란 무엇인가?	질의응답 시스템(Question ANswering System)은 자연어로 구성된 질의를 통해 사용자가 원하는 답변을 자동으로 생성해 주는 기술이다. 최근 다양한 정보가 빠른 속도로 증가하고 있지만 제한된 시간 안에 모든 정보를 습득하기 어려운 문제가 있어 질의응답 시스템의 중요성이 나날이 늘고 있다.
질의응답 시스템	필요한 정보만을 효율적으로 얻기 위한 질의응답 시스템의 중요도가 늘어나는 이유는?	정보의 양이 빠르게 증가함으로 인해 필요한 정보만을 효율적으로 얻기 위한 질의응답 시스템의 중요도가 늘어나고 있다. 그 중에서도 질의 문장에서 주어와 관계를 추출하여 정답을 찾는 지식베이스 기반 질의응답 시스템이 활발히 연구되고 있다.

질의응답 정보가 도움이 되었나요? 예 아니오 제출

이 논문을 인용한 문헌

더보기