선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- multi-turn으로 구성된 대화를 하나의 문장으로 구성하는 Dual Encoder의 경우 문장 길이가 길어져 양방향 LSTM 출력 값이 문장의 순차 정보를 모두 반영하지 못한다. 따라서 본 연구에서는 대화 내의 각 turn 별 문장 임베딩을 구성하고 학습에 반영하여, 전체 대화에 대한 맥락 정보를 잃지 않도록 하였다.
- 본 연구에서는 end-to-end learning 방식의 대화 발화 예측에 대한 성능 향상을 위하여 단어 단위의 양방향 LSTM 및 ESIM을 이용한 Attention, 대화의 turn별 문장 단위의 attention을 반영하는 모델을 제안하였다.
- 본 연구에서는 주어진 100개의 정답 후보 중 하나의 정답을 예측하는 것이다. 따라서 학습 데이터와 검증 데이터에는 1개의 positive 답안과 99개의 negative 답안이 존재하게 된다.
- 향후에는 문장 단위의 attention을 bilinear 방식뿐만 아니라 concat, dot 등 다양하게 실험을 진행하여 대화 내 문장의 중요한 정보를 잃어버리지 않고 모델 학습에 도움을 줄 수 있도록 개선할 것이다. 뿐만 아니라, 대화 발화 예측 시 대화 데이터와 관련된 외부 지식(External Knowledge)을 활용하는 연구 또한 수행하고자 한다.
- 이러한 문제를 해결하고자 본 논문에서는 양방향 LSTM으로 이루어진 Dual Encoder와 EISM(Enhanced Sequetial Inference Model)[4]의 구조를 사용하여 단어 단위 attention을 진행함과 동시에 대화의 turn별 문장과 정답 후보 문장들에 대한 문장 단위 attention을 반영한 모델을 제안하고자 한다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.