주어진 문서에 대한 질문에 대답하는 작업은 기계 독해에서 중요한 문제 중 하나이다. 또한 문서가 연관된 정보를 가지고 있음에도 불구하고, 질문과 문서 간의 모순이나 정보의 부족 등으로 인해 어떠한 질문들은 “대답 불가능”한 경우가 많다. 최근 제안된 신경망 기반의 질의응답 모델들은 답을 찾는 것 외에도 위와 같은 질문이 불가능한지의 여부를 판단하는 것 또한 목표로 하고 있으며, 이를 반영하는 평가 지표에서 좋은 결과를 내고 있다. 하지만 이러한 모델들은 질문이 대답 불가능한지 판단한 이유를 설명하지 않으며, 사용자가 원하는 결과를 내기 위해 모델을 수정하는 것이 어렵다는 한계를 가진다. 이러한 문제를 해결하기 위해, 본 연구에서는 기존의 ...
주어진 문서에 대한 질문에 대답하는 작업은 기계 독해에서 중요한 문제 중 하나이다. 또한 문서가 연관된 정보를 가지고 있음에도 불구하고, 질문과 문서 간의 모순이나 정보의 부족 등으로 인해 어떠한 질문들은 “대답 불가능”한 경우가 많다. 최근 제안된 신경망 기반의 질의응답 모델들은 답을 찾는 것 외에도 위와 같은 질문이 불가능한지의 여부를 판단하는 것 또한 목표로 하고 있으며, 이를 반영하는 평가 지표에서 좋은 결과를 내고 있다. 하지만 이러한 모델들은 질문이 대답 불가능한지 판단한 이유를 설명하지 않으며, 사용자가 원하는 결과를 내기 위해 모델을 수정하는 것이 어렵다는 한계를 가진다. 이러한 문제를 해결하기 위해, 본 연구에서는 기존의 신경망 모델과 결합하여 모델의 결과에 대한 설명을 제공하고, 이를 기반으로 모델을 수정할 수 있는 프레임워크를 제안한다. 제안하는 프레임워크는 대답 불가능한 질문에 대해서 다양한 유형으로 분류하며, 질문의 어느 부분이 대답 불가능하다고 판단하는 데에 중요한 영향을 미치는지를 보여준다. 또한, 전이 학습 방식에 기반하는 기계 지도 방법을 통해 이러한 정보들을 다시 기존 모델에 전달함으로써, 기존의 모델의 결과를 원하는 방향으로 수정할 수 있다. 본 연구에서는 제안하는 프레임워크를 SQuAD 2.0 데이터셋으로 학습된 모델에 대해 적용하였을 때 모델의 정확도를 향상시킬 수 있음을 보였다.
주어진 문서에 대한 질문에 대답하는 작업은 기계 독해에서 중요한 문제 중 하나이다. 또한 문서가 연관된 정보를 가지고 있음에도 불구하고, 질문과 문서 간의 모순이나 정보의 부족 등으로 인해 어떠한 질문들은 “대답 불가능”한 경우가 많다. 최근 제안된 신경망 기반의 질의응답 모델들은 답을 찾는 것 외에도 위와 같은 질문이 불가능한지의 여부를 판단하는 것 또한 목표로 하고 있으며, 이를 반영하는 평가 지표에서 좋은 결과를 내고 있다. 하지만 이러한 모델들은 질문이 대답 불가능한지 판단한 이유를 설명하지 않으며, 사용자가 원하는 결과를 내기 위해 모델을 수정하는 것이 어렵다는 한계를 가진다. 이러한 문제를 해결하기 위해, 본 연구에서는 기존의 신경망 모델과 결합하여 모델의 결과에 대한 설명을 제공하고, 이를 기반으로 모델을 수정할 수 있는 프레임워크를 제안한다. 제안하는 프레임워크는 대답 불가능한 질문에 대해서 다양한 유형으로 분류하며, 질문의 어느 부분이 대답 불가능하다고 판단하는 데에 중요한 영향을 미치는지를 보여준다. 또한, 전이 학습 방식에 기반하는 기계 지도 방법을 통해 이러한 정보들을 다시 기존 모델에 전달함으로써, 기존의 모델의 결과를 원하는 방향으로 수정할 수 있다. 본 연구에서는 제안하는 프레임워크를 SQuAD 2.0 데이터셋으로 학습된 모델에 대해 적용하였을 때 모델의 정확도를 향상시킬 수 있음을 보였다.
Question answering, which answers a question with a given context and is a crucial task for machine reading comprehension. Also, it is common that some questions are unanswerable due to the contradiction or lack of information, even if the context has related information. Recent works aim to not onl...
Question answering, which answers a question with a given context and is a crucial task for machine reading comprehension. Also, it is common that some questions are unanswerable due to the contradiction or lack of information, even if the context has related information. Recent works aim to not only find answer span from the context but also determine whether the question is answerable or not, and they have shown good performance based on the evaluation metric, which is comparable to human performance. However, these neural models have two limitations when used in the real cases: they cannot explain why the question is answerable or unanswerable on the context, and the user cannot easily adjust the model for the desired result. To resolve these problems, we propose the explainable framework, which provides interpretable explanation and the method for adjusting the learned weight for the previously trained reading comprehension model. Specifically, the framework shows what part of the question affects model to verify whether the question is unanswerable, and classifies unanswerable questions into various types. Also, the framework can modify the weights of the target model for change the decision by providing this information to the target with the transfer learning. In this thesis, we show that our framework can improve the performance of the model trained on the SQuAD 2.0 dataset.
Question answering, which answers a question with a given context and is a crucial task for machine reading comprehension. Also, it is common that some questions are unanswerable due to the contradiction or lack of information, even if the context has related information. Recent works aim to not only find answer span from the context but also determine whether the question is answerable or not, and they have shown good performance based on the evaluation metric, which is comparable to human performance. However, these neural models have two limitations when used in the real cases: they cannot explain why the question is answerable or unanswerable on the context, and the user cannot easily adjust the model for the desired result. To resolve these problems, we propose the explainable framework, which provides interpretable explanation and the method for adjusting the learned weight for the previously trained reading comprehension model. Specifically, the framework shows what part of the question affects model to verify whether the question is unanswerable, and classifies unanswerable questions into various types. Also, the framework can modify the weights of the target model for change the decision by providing this information to the target with the transfer learning. In this thesis, we show that our framework can improve the performance of the model trained on the SQuAD 2.0 dataset.
주제어
#Machine Reading Comprehension Question Answering Model Explainable Model Machine Teaching
학위논문 정보
저자
Lee, Gyeongbok
학위수여기관
연세대학교 일반대학원
학위구분
국내석사
학과
컴퓨터과학과
지도교수
황승원
발행연도
2019
총페이지
iv, 42p.
키워드
Machine Reading Comprehension Question Answering Model Explainable Model Machine Teaching
※ AI-Helper는 부적절한 답변을 할 수 있습니다.