[논문]도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발

이동엽; 김경민; 임희석

도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발
Development of a Dialogue System Model for Korean Restaurant Reservation with End-to-End Learning Method Combining Domain Specific Knowledge 원문보기

이동엽 (고려대학교 컴퓨터학과) , 김경민 (고려대학교 컴퓨터학과) , 임희석 (고려대학교 컴퓨터학과)

목적 지향적 대화 시스템(Goal-oriented dialogue system)은 텍스트나 음성을 통해 특정한 목적을 수행할 수 있는 시스템이다. 최근 RNN(recurrent neural networks)을 기반으로 대화 데이터를 end-to-end learning 방식으로 학습하여 대화 시스템을 구축하는데에 활용한 연구가 있다. End-to-end 방식의 학습은 도메인에 대한 지식 없이 학습 데이터 자체만으로 대화 시스템 구축을 위한 학습이 가능하다는 장점이 있지만 도메인 지식을 학습하기 위해서는 많은 양의 데이터가 필요하다는 단점이 존재한다. 이에 본 논문에서는 도메인 특정 지식을 결합하여 end-to-end learning 방식의 학습이 가능한 Hybrid Code Network 구조를 기반으로 한국어로 구성된 식당 예약에 관련한 대화 데이터셋을 이용하여 식당 예약을 목적으로하는 대화 시스템을 구축하는 방법을 제안한다. 실험 결과 본 시스템은 응답 별 정확도 95%와 대화 별 정확도 63%의 성능을 나타냈다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 Hybrid Code Network를 기반으로 한국어로 구성된 식당 예약에 관련한 대화 데이터셋을 이용하여 식당 예약을 목적으로하는 대화 시스템을 구축하는 방법을 제안하였다. 실험 결과 구축한 대화 시스템은 도메인에 해당하는 특정 지식을 액션 템플릿의 정의를 통해 표현함으로써 보다 적은양의 학습 데이터 양으로 도메인 지식을 표현할 수 있었다.
본 논문에서는 Hybrid Code Network를 기반으로 한국어로 구성된 식당 예약에 관련한 대화 데이터셋을 이용하여 식당 예약을 목적으로하는 대화 시스템을 구축하는 방법을 제안한다.
본 논문에서는 식당의 위치, 음식의 가격, 음식의 종류, 인원 수 와 같이 식당 예약에 필요한 속성이 될 수 있는 개체들을 정의한다. 개체 추출을 진행하기 위해 각 속성들에 해당하는 개체 사전을 정의하고 발화로부터 문자열 매칭 알고리즘을 이용하여 발화 속에 존재하는 개체들을 추출할 수 있다.

제안 방법

필요한 속성들이 충족되면 시스템은 해당 속성들의 조건을 만족하는 api를 호출한다. 만약 사용자가 속성 값을 변경하면 시스템은 다른 변경사항이 또 있는지 사용자에게 물어보고 변경 사항이 없을 경우 변경된 조건을 만족하는 api를 호출하고 호출 결과 반환되는 식당 리스트를 사용자에게 제안한다. 사용자가 시스템이 제안한 식상 리스트를 만족할 경우, 시스템이 예약을 진행하며 대화가 종료된다.
본 논문에서는 한국어 식당 예약 대화 시스템 모델의 학습을 위해 학습 대화 데이터 759개와 테스트 대화 데이터 190개를 이용하였다. 사용자의 발화(utterance)로부터 식당 예약 대화 시스템 모델 학습에 필요한 자질(feature)을 구성하기 위해 개체 추출(Entity Extraction), 발화 임베딩(Utterance Embedding), 단어 주머니(Bag of Words) 와 같은 3가지 방법으로 발화 정보를 표현하는 자질을 구성한다. 각각의 방법으로 표현된 발화 정보를 표현하는 자질들은 연결(concatenation)되어 발화 정보에 대한 최종 자질을 형성한다.
사용자의 발화를 발화 주머니로 구성하기 위해 학습 대화 데이터셋에 있는 단어 들의 집합을 기반으로 사전을 형성하였다. 이후 단어 사전을 기반으로 각 발화를 구성하는 단어들의 등장 여부를 표시하여 사용자의 발화를 표현하는 발화 주머니 자질을 구성하였다.
은닉 상태를 입력으로 softmax는 각 액션 템플릿들에 대한 확률 분포 값을 계산한다. 이후 각 확률 분포 값들은 액션 마스크와 성분끼리의 곱을 통해 정규화(normalization)되고 이 값들과 실제 학습 데이터셋에서 레이블링 된 정답 시스템 응답과의 cross-entropy 값을 최소화 하도록 모델의 학습이 진행된다.
사용자의 발화를 발화 주머니로 구성하기 위해 학습 대화 데이터셋에 있는 단어 들의 집합을 기반으로 사전을 형성하였다. 이후 단어 사전을 기반으로 각 발화를 구성하는 단어들의 등장 여부를 표시하여 사용자의 발화를 표현하는 발화 주머니 자질을 구성하였다.
한국어 식당 예약 대화 시스템 모델의 성능을 평가하기 위해 영어로 구성된 식당 예약 대화 데이터셋을 이용하여 실험한 식당 예약 대화 시스템 모델의 연구[6,7]와 같이 응답 별 정확도(per-response accuracy)와 대화 별 정확도(per-dialog accuracy) 을 측정하였다. 응답 별 정확도와 대화 별 정확도는 [식 2], [식 3]와 같이 나타낼 수 있다.

대상 데이터

시스템의 응답에 도메인 특정 지식을 반영하기 위해 [그림 2]와 같이 액션 템플릿을 정의한다. 본 논문에서 제안하는 식당 예약 대화 시스템 모델의 경우 총 16개의 액션 템플릿으로 구성되어 있다. 2.
[그림 1]은 본 논문에서 제안하는 도메인 특정 지식을 결합하고 end-to-end learning 방식의 학습이 가능한 한국어 식당 예약 대화 시스템 모델의 전체 구조도를 나타낸다. 본 논문에서는 한국어 식당 예약 대화 시스템 모델의 학습을 위해 학습 대화 데이터 759개와 테스트 대화 데이터 190개를 이용하였다. 사용자의 발화(utterance)로부터 식당 예약 대화 시스템 모델 학습에 필요한 자질(feature)을 구성하기 위해 개체 추출(Entity Extraction), 발화 임베딩(Utterance Embedding), 단어 주머니(Bag of Words) 와 같은 3가지 방법으로 발화 정보를 표현하는 자질을 구성한다.

이론/모형

발화 임베딩 모듈은 사용자의 발화로부터 의미론(semantics)적 특성을 반영하기 위해 word2vec 모델을 이용하여 사용자의 발화를 임베딩한 후 이를 자질로 구성한다. [식 1]은 발화를 구성하고 있는 전체 단어의 개수가 N, 문서의 i번째 단어를 워드 임베딩 공간에서 벡터값으로 표현한 것을 v(i)라 할 때, 발화를 구성하고 있는 각 단어들의 벡터 평균을 나타낸다.

성능/효과

실험 결과 구축한 대화 시스템은 도메인에 해당하는 특정 지식을 액션 템플릿의 정의를 통해 표현함으로써 보다 적은양의 학습 데이터 양으로 도메인 지식을 표현할 수 있었다. 또한 대화 도중 사용자가 식당 예약에 관련된 속성 값을 변경하고자 할 때에도 시스템이 해당 변경사항을 반영하여 식당 예약을 진행할 수 있었다. 실험 결과 본 시스템은 응답 별 정확도 95%와 대화 별 정확도 63%의 성능을 나타냈다.
본 논문에서는 Hybrid Code Network를 기반으로 한국어로 구성된 식당 예약에 관련한 대화 데이터셋을 이용하여 식당 예약을 목적으로하는 대화 시스템을 구축하는 방법을 제안하였다. 실험 결과 구축한 대화 시스템은 도메인에 해당하는 특정 지식을 액션 템플릿의 정의를 통해 표현함으로써 보다 적은양의 학습 데이터 양으로 도메인 지식을 표현할 수 있었다. 또한 대화 도중 사용자가 식당 예약에 관련된 속성 값을 변경하고자 할 때에도 시스템이 해당 변경사항을 반영하여 식당 예약을 진행할 수 있었다.
또한 대화 도중 사용자가 식당 예약에 관련된 속성 값을 변경하고자 할 때에도 시스템이 해당 변경사항을 반영하여 식당 예약을 진행할 수 있었다. 실험 결과 본 시스템은 응답 별 정확도 95%와 대화 별 정확도 63%의 성능을 나타냈다.

후속연구

본 실험에서는 사용자의 발화에서 개체를 추출하기 위해 각 속성에 해당하는 개체 사전을 정의하여 이를 기반으로 개체 속성을 추출하였는데, 향후 연구에서는 개체사전에 나타나지 않는 OOV(out of vocabulary) 개체에 대해서도 올바른 속성 추출이 가능할 수 있도록 연구할 필요가 있다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발
Development of a Dialogue System Model for Korean Restaurant Reservation with End-to-End Learning Method Combining Domain Specific Knowledge 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발 Development of a Dialogue System Model for Korean Restaurant Reservation with End-to-End Learning Method Combining Domain Specific Knowledge 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발
Development of a Dialogue System Model for Korean Restaurant Reservation with End-to-End Learning Method Combining Domain Specific Knowledge 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper